Si bien la Inteligencia Artificial ha transformado muchos aspectos de nuestras vidas, su creciente influencia no ha estado exenta de controversias en relación a la privacidad y seguridad de los datos. Sobre este tema, así como el papel fundamental que juega la gobernanza en este sentido, conversamos con Rogelio Gil, arquitecto gobierno de datos de Axity.
¿Cómo están afrontando las empresas la seguridad y privacidad de sus datos con la irrupción de la Inteligencia Artificial?
Definitivamente, a través de la gobernanza de datos, que es esencial para asegurar que las soluciones de Inteligencia Artificial se implementen dentro de parámetros aceptados de seguridad y protección de datos. Un gobierno robusto permite que esta tecnología opere dentro de un marco seguro y ético. Esto es especialmente importante en el escenario actual, donde el 74%[1] de las grandes empresas chilenas planea incrementar su presupuesto de IA en los próximos dos años, según un estudio de IDC.
¿Qué aplicaciones le están dando las organizaciones a la IA?
En general, las empresas la están utilizando en diversas áreas, como la automatización de procesos, la detección de fraudes, la personalización de recomendaciones y el Internet de las Cosas (IoT). Cada uno de estos casos de uso implica el manejo de grandes volúmenes de datos, lo que incrementa los riesgos de privacidad y seguridad. Por ejemplo, en la detección de fraudes, los datos deben ser analizados en tiempo real, lo que requiere sistemas muy seguros para evitar filtraciones. Algunas empresas están adoptando un enfoque de privacidad por diseño o seguridad desde el diseño, asegurando que los sistemas sean seguros desde las primeras etapas de los proyectos de IA.
¿Cómo gestionan las empresas los posibles sesgos de los algoritmos de IA?
Es importante abordar estos temas, en especial considerando lo que un reciente estudio[2] indicó que un 72% de los directores no saben cómo empezar a implementar la IA en sus empresas. Entonces, aquí se desprenden dos temas: los desafíos técnicos y éticos. En cuanto a los primeros, es una preocupación constante cómo los algoritmos pueden interferir con datos personales sensibles, planteando riesgos significativos, como la identificación de personas sin su consentimiento. Las empresas están ajustando la forma en la que construyen sus modelos con más datos para mitigar estos riesgos. En relación al desafío ético, cabe señalar que estos sistemas son susceptibles a ataques o manipulaciones que pueden alterar los datos que contienen. Para mitigar estos riesgos, las organizaciones están implementando controles más rigurosos y técnicas de verificación de integridad de datos.
¿Qué mecanismos de supervisión y gobernanza se están utilizando para monitorear su desempeño e impacto?
En primer lugar, se asegura que los datos utilizados sean trazables y auditables, lo que es crucial para verificar que los usuarios accedan a los datos con los permisos adecuados. Además, la gestión de roles es importante para definir quién puede acceder a cierta información y en qué circunstancias, minimizando las oportunidades de manipulación por personal no autorizado. Por último, la auditoría de registros de acceso permite un seguimiento de quién accede a los datos y qué hace con ellos, lo que es vital no solo para detectar manipulaciones sino también para investigar posibles incidentes de ciberseguridad.
¿Qué recomendaciones daría a las empresas que están evaluando el uso de IA?
La principal recomendación es que las empresas inviertan en un buen gobierno de datos desde el principio. Esto incluye la implementación de estrategias robustas de seguridad y la capacitación continua del personal en prácticas de manejo seguro de la información. También es crucial realizar evaluaciones regulares de los riesgos asociados y actualizar las políticas de seguridad conforme a la evolución de las amenazas.
¿Cuáles son los desafíos en la materia?
En Axity hemos concluido que los controles de acceso, las técnicas de verificación de integridad de datos, el monitoreo continuo y el aprendizaje adversarial son los principales desafíos para las organizaciones. Si se implementan de manera efectiva, pueden garantizar una operación segura y confiable. Y para ahí es donde está nuestra expertise para ayudar a las empresas.
[1] https://www.trendtic.cl/2024/05/el-74-de-las-grandes-empresas-chilenas-incrementara-su-presupuesto-de-ia-en-los-proximos-dos-anos-segun-un-estudio-de-idc/
[2] https://www.trendtic.cl/2024/04/estudio-revelo-que-el-72-de-los-directores-no-saben-como-empezar-a-implementar-la-ia-en-sus-empresas/