La autoridad policial de la UE, Europol, ha examinado el popular chatbot ChatGPT en busca de escenarios de riesgo y ahora advierte sobre el potencial de abuso.
En una serie de talleres, el Laboratorio de Innovación de Europol creó un análisis de amenazas inicial para ChatGPT y ahora ha publicado sus hallazgos. Se identifican varios peligros.
Europol investiga ChatGPT
Un informe identifica múltiples casos de uso en los que los actores malintencionados pueden utilizar la inteligencia artificial (IA) con fines delictivos. En concreto, Europol se ocupó de ChatGPT, que se basa en el “Modelo de lenguaje grande” (LLM) GPT. GPT, desarrollado por OpenAI, está capacitado en miles de millones de puntos de datos para comprender y generar lenguaje natural. ChatGPT no solo puede proporcionar respuestas coherentes y objetivas a casi todas las preguntas, incluso si son incorrectas o están incompletas. Con el aviso correcto, el chatbot incluso puede escribir código para muchos lenguajes de programación comunes.
OpenAI mejora constantemente las medidas de seguridad para evitar que los delincuentes abusen de estas capacidades. Sin embargo, siempre encuentran nuevas formas de permitir que ChatGPT produzca resultados de todos modos. Europol dice: “Si bien las capacidades de LLM (modelos de lenguaje grande) como ChatGPT se están mejorando activamente, la explotación potencial de este tipo de sistemas de inteligencia artificial por parte de delincuentes presenta una perspectiva sombría”.
¿Qué peligro plantea ChatGPT?
En el análisis de ChatGPT, los expertos de Europol han identificado tres áreas en las que el potencial de abuso de la IA es motivo de especial preocupación: fraude, desinformación y ciberdelincuencia.
- Fraude: Las estafas de phishing son un problema común que podría empeorar con el uso de ChatGPT. Aunque hay excepciones, la mayoría de los intentos de phishing con correos electrónicos y sitios web falsos a menudo se pueden identificar rápidamente, especialmente por las inconsistencias del idioma. Sin embargo, según el análisis de Europol, ChatGPT puede imitar el lenguaje de grupos como empresas y, por lo tanto, hacer que el contenido falso parezca aún más auténtico.
- desinformación: Desinformación significa propaganda y noticias falsas. La rápida producción de textos y discursos que parecen auténticos facilita aún más la difusión de desinformación a gran escala.
- ciberdelincuencia: En el análisis de Europol, la ciberdelincuencia se refiere explícitamente a los clásicos ataques de piratas informáticos con código malicioso. En consecuencia, ChatGPT puede escribir un código simple que puede usarse como base para ataques incluso para delincuentes sin conocimiento previo. En el informe detallado, Europol también explica cómo los actores pueden eludir las medidas de seguridad de ChatGPT. La IA puede reconocer cuando alguien le pide que escriba código malicioso, pero solo si es un comando coherente. Si el comando se divide en pasos individuales, se pueden eludir las precauciones de seguridad.
El informe también aborda otra forma en que ChatGPT puede usarse indebidamente con fines delictivos. Hacer que la información sea más accesible podría “simplificar las actividades terroristas, como el financiamiento del terrorismo y el intercambio anónimo de archivos”.
Fuentes
About the Author
