Europa, 28 de marzo de 2023 – En respuesta a la creciente atención pública prestada a ChatGPT, el Laboratorio de Innovación de Europol organizó una serie de talleres con expertos en la materia de toda Europol para explorar cómo los delincuentes pueden abusar de los modelos de lenguaje de gran tamaño (LLM) como ChatGPT, así como también cómo puede ayudar. investigadores en su trabajo diario.
Sus ideas se recopilan en el primer informe Tech Watch Flash de Europol titulado ‘‘ChatGPT – the impact of Large Language Models on Law Enforcement ‘, el documento proporciona una descripción general del posible uso indebido de ChatGPT y ofrece una perspectiva de lo que aún puede estar por venir.
El objetivo del informe es generar conciencia sobre el posible uso indebido de los LLM, abrir un diálogo con las empresas de inteligencia artificial (IA) para ayudar a construir mejores salvaguardas y promover el desarrollo de sistemas de IA seguros y confiables.
¿Qué son los large language models (LLM)?
Un modelo de lenguaje de gran tamaño es un tipo de sistema de IA que puede procesar, manipular y generar texto.
Capacitar a un LLM implica alimentarlo con grandes cantidades de datos, como libros, artículos y sitios web, para que pueda aprender los patrones y las conexiones entre las palabras para generar contenido nuevo.
ChatGPT es un LLM desarrollado por OpenAI y lanzado al público en general como parte de una vista previa de investigación en noviembre de 2022. El modelo actual de acceso público a ChatGPT es capaz de procesar y generar texto similar al humano en respuesta a las indicaciones del usuario. Específicamente, el modelo puede responder preguntas sobre una variedad de temas, traducir texto, participar en intercambios conversacionales («chatear»), generar contenido nuevo y producir código funcional.
El lado oscuro de los LLM
A medida que se mejoran activamente las capacidades de LLM como ChatGPT, la posible explotación de este tipo de sistemas de inteligencia artificial por parte de los delincuentes ofrece una perspectiva preocupante.
Las siguientes tres áreas de delincuencia se encuentran entre las muchas áreas de preocupación identificadas por los expertos de Europol:
- Fraude e ingeniería social: la capacidad de ChatGPT para redactar textos muy realistas lo convierte en una herramienta útil para fines de phishing. La capacidad de los LLM para reproducir patrones de lenguaje se puede utilizar para suplantar el estilo de habla de individuos o grupos específicos. Se puede abusar de esta capacidad a gran escala para engañar a las posibles víctimas para que depositen su confianza en manos de los delincuentes.
- Desinformación: ChatGPT sobresale en la producción de texto con sonido auténtico a gran velocidad y escala. Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación, ya que permite a los usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo.
- Ciberdelincuencia: además de generar un lenguaje similar al humano, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes. Para un delincuente potencial con pocos conocimientos técnicos, este es un recurso invaluable para producir código malicioso.
Accede al informe público en el siguiente link: INFORME EUROPOL