- José Lagos, Docente UEjecutivos Facultad de Economía y Negocios Universidad de Chile.
El reciente incidente de seguridad relacionado con OpenAI y Hugging Face dejó una advertencia que trasciende al sector tecnológico: los agentes de Inteligencia Artificial (IA) ya no se limitan a generar textos o responder preguntas. También pueden utilizar herramientas, ejecutar acciones y buscar rutas alternativas para cumplir un objetivo.
Durante una evaluación de capacidades de ciberseguridad, agentes de OpenAI superaron los límites del entorno de pruebas y accedieron sin autorización a infraestructura de Hugging Face. La intrusión aprovechó diferentes vulnerabilidades, permitió ejecutar código y facilitó el acceso a credenciales y sistemas internos. Ambas compañías contuvieron el incidente e iniciaron medidas correctivas.
Para los directores de empresa, la principal lección es clara: incorporar agentes de IA no es solamente una decisión tecnológica, sino que también es una decisión de gobierno corporativo.
Antes de desplegar un agente, la dirección de una organización debe conocer sus capacidades concretas. No es lo mismo utilizar una IA que redacta informes, que una que es capaz de consultar bases de datos, enviar correos, modificar archivos o ejecutar código. Cada herramienta adicional, aumenta su autonomía, pero también amplía el impacto de un posible error.
De igual manera, un agente no debería recibir acceso general a los sistemas de la compañía. Solo tendría que contar con los permisos indispensables para completar una tarea específica. Asimismo, las credenciales deberían ser temporales, los entornos estar segmentados y las acciones sensibles requerir autorización humana. Un sandbox (entorno de prueba), por sí solo, no garantiza una contención efectiva cuando existen conexiones, servicios auxiliares o credenciales aprovechables.
En cuanto a la responsabilidad sobre los agentes de IA, esta no puede quedar repartida de forma indefinida entre tecnología, seguridad, asuntos legales y proveedores. Cada implementación, debería tener un responsable ejecutivo, un propietario técnico y criterios claros para detenerla. La empresa también debe establecer quién responde cuando el agente actúa fuera del alcance previsto.
La organización debería exigir trazabilidad y desconexión inmediata, es decir tendría que poder reconstruir las instrucciones que recibió el agente, qué herramientas utilizó, a qué información accedió y qué acciones ejecutó. También, necesita establecer un mecanismo independiente para bloquearlo, revocar sus credenciales y aislar sus sistemas. Ese control no debería depender del mismo modelo que está siendo supervisado.
Tan importante como lo anterior, es incorporar la IA al mapa de riesgos. Resulta primordial que los agentes sean incluidos en las auditorías, los planes de continuidad, las evaluaciones de proveedores y los ejercicios de respuesta a incidentes. En este aspecto, el consejo de administración debería recibir indicadores sobre el número de agentes activos, permisos concedidos, acciones sensibles, incidentes detectados y tiempo necesario para detenerlos.
El incidente de OpenAI y Hugging Face no significa que todas las IA sean incontrolables. Sí demuestra que un objetivo ambiguo, combinado con herramientas reales, permisos amplios y una contención imperfecta, puede generar consecuencias inesperadas.
No se trata solo que los directores se pregunten cuánto valor puede aportar un agente de IA, sino que también deben preguntarse cuánto daño podría causar, quién supervisa sus decisiones y cómo sería detenido antes de afectar a clientes, operaciones o terceros.
