- Por Alexis Campos, https://grupotech.cl
Hace unos días se han cumplido tres años del lanzamiento de ChatGPT, lo que ha significado un cambio revolucionario en distintos sectores del mundo moderno.
Si bien con la pandemia anteriormente vivida, fuimos impulsados a la transformación digital y el teletrabajo, los agentes se han convertido en casi compañeros y colegas de quienes trabajamos desde nuestros hogares.
Tanto personas como empresas de distintas edades, hemos quedado sorprendidos al ver las capacidades y simpatías de la IA, desde ayudar en la mejora de redacción de correos, crear recursos gráficos e incluso optimizar diferentes procesos explicando el funcionamiento y posibilidades de mejoras.
Por supuesto que esta revolución no puede quedar fuera de lo más profundo del mundo tecnológico, del mundo empresarial y la Ciberseguridad, como todo, esta línea tiene dos caras, las que revisaremos a continuación.
Lo bueno
Son innegables las bondades que la IA nos brinda día a día, sobre todo en un mundo donde las estrategias, vulnerabilidades y problemas más complejos tienen que ver con entender código, un agente puede ser el traductor entre estos mundos, un buen pentester o explotador de sistemas, debe conocer, y entender diferentes aspectos de la tecnología, partiendo por frameworks de desarrollo, lenguajes de programación, redes informáticas y base de datos.
- Detección de comportamiento:
No es algo que la IA haya impulsado, el análisis de comportamiento lo tenemos relativamente integrado desde los tiempos del Machine Learning, pero claramente la integración de la IA ha mejorado bastante estos elementos.
- Acompañamiento y estrategias:
Habitualmente, los pentester o explotadores de sistemas pueden trabajar, solo pasando herramientas por aplicaciones, que sería el peor, pero bastante común de los casos, y otros trabajando de una manera más general para enfrentarse ante barreras o protección de un sistema, redes, servidores, servicios, apis, etc. En este caso la IA se vuelve un gran compañero, el cual permite identificar formas de enfrentar tecnologías, posibles riesgos o actualización de vulnerabilidades.
- Asistente Experto
Como menciono en el punto anterior, la IA entiende diferente contexto, y podría ayudar a personas o equipos en apoyo de sus estrategias, pero también es cierto que alguien con conocimientos sólidos, puede volver este asistente, en un experto brutal, con la capacidad natural de desarrollar y acompañando la creatividad de los ya contratados atacantes, pueden ayudar a desarrollar pequeños exploits, consultar sobre posibilidades de comandos, incluso con llamadas que ya pueden salir integrada hacia los sistemas.
Lo malo
La IA es increíble, es una de las últimas revoluciones tecnológicas en décadas, pero no podemos ni debemos confiar todo a un agente, existen diversos peligros ya comprobados en errores y faltas de contexto gigantes, que han ayudado a que compañías extremadamente grandes y reconocidas, tengan fallas que podrían llegar a parecer ridículas.
Reitero, no es la IA, el modelo, o la marca de tu preferencia, es el querer delegar demasiado, y convertirlo más que un asistente, en un ejecutor de nuestro trabajo.
- Alucinaciones
Para los que llevamos tiempo trabajando en el mundo TI, sabemos que las alucinaciones de todo tipo en el mundo de la Ciberseguridad son bastante reales, pero que la IA lo integre a su modelo de trabajo, podría arruinar la carrera de quienes así mismo la utilizan. Una Alucinación es cuando un modelo de IA inventa información que podría parecer real, ¿y quienes podrían dudar de un modelo que supera en creces el conocimiento que puede tener un experto?. Sin embargo, cuando nuestro agente detecta IP’s o Servicios que no existen pero que de alguna manera indica que sí, podría afectar nuestra percepción o hacernos perder tiempo.
- Perdida de contexto
Siguiendo la línea del punto anterior, no quiero sonar como un atacante de la IA, pero es cierto que en muchos tipos de acciones o elemento, hemos visto una pérdida de contexto que podría llegar a generar problemas, si hay alguien a quien se debe juzgar en este criterio es a quien utiliza la herramienta, por ser el principal responsable de brindar un panorama claro a la IA y brindarle reglas para que esta no se desvíe de su objetivo principal.
- Perdida del objetivo
El mundo TI avanza todos los días sin dar ningún tipo de descanso, y los tecnólogos estamos habituados a esta rutina, nos reunimos y hablamos sobre cómo podría ser o mejorarse tal sistema, desarrollamos soluciones futuristas inexistentes, debatimos sobre decisiones que toma la sociedad en cuanto al uso tecnológico, y así siempre debería ser, pero últimamente he escuchado a muchos profesionales decir; “Mira lo que la IA hace por mi” Cuando comencé mi carrera, incluso como persona, busco crecer y desarrollarme todos los días, no creo que seremos reemplazados por una IA, pero una persona que habla así, probablemente sea reemplazado por alguien que la use bien.
Conclusión:
Aplicar la IA en nuestro día a día ha significado un crecimiento elevado en muchos aspectos, en lo personal, usamos la IA como un asistente, y trabajamos con varios sistemas que son basadas en IA, incluso, soluciones de Ciberseguridad que su motor de análisis y principales usos están guiados por IA. Lo que menciono anteriormente no es una queja hacia los modelos mismos, sino al sesgo de pérdida de control que muchas personas, directivos y gerentes tienen hoy en día.
Prueba, valida y aplica la Inteligencia artificial en tu día a día, pregúntale de qué manera podría apoyarte según tu contexto y utilízalo como un agente, pregúntale que cosas cree que deberías aprender y como mejorar tu carrera profesional, pero nunca dejes de utilizar lo que por mucho tiempo será el mejor modelo de Inteligencia del mundo, la Inteligencia Real.
