Autorreplicación y adicción al poder: ChatGPT & Co. son tan peligrosos

OpenAI publica estudio sobre riesgos de GPT-4

Con el nuevo modelo de IA ChatGPT-4, la empresa OpenAI está impulsando la revolución de la IA. A medida que avanzan las capacidades de los modelos de IA, las preocupaciones sobre los posibles peligros son cada vez más fuertes. GPT-4 es el “modelo de lenguaje grande” más reciente de la compañía y muestra un rendimiento significativamente mejorado en las áreas de razonamiento, almacenamiento de conocimiento y codificación en comparación con los modelos anteriores. La compañía, que en general es muy abierta sobre los posibles peligros que plantean las aplicaciones de IA, ha publicado ahora un documento titulado “Tarjeta del sistema GPT-4”, que examina los peligros que las capacidades mejoradas del modelo podrían representar para los humanos. Según el informe, más de 50 expertos ayudaron a evaluar la gama completa de posibles usos y peligros asociados.

Los riesgos de la IA en público cada vez más enfocados

Desde la aparición de chatbots como ChatGPT, los peligros de la IA se han discutido cada vez más en público. Las preocupaciones sobre los peligros teóricos que plantea la IA, particularmente con el advenimiento de una inteligencia general artificial caracterizada por la capacidad de realizar teóricamente cualquier actividad humana, no son nuevas. Ya en 1863, el escritor Samuel Butler profetizó que “llegará el momento en que las máquinas tendrán una supremacía real sobre el mundo y sus habitantes”. Si se asume que el progreso tecnológico continúa y los modelos aprenden continuamente, desde un punto de vista tecnológico hay poco que hable en contra del hecho de que en algún momento habrá una inteligencia general artificial que puede existir en gran medida independientemente de los humanos y desarrollar su propia conciencia. . Debido a la superioridad intelectual y tecnológica de la IA, el equilibrio de poder entre humanos y máquinas cambiaría significativamente, a favor de las máquinas. Un pensamiento que asusta a mucha gente y plantea la cuestión de cómo deberían regularse las aplicaciones de IA en el futuro.

GPT-4 miente a los humanos para eludir CAPTCHA

Según la investigación de OpenAI, existen varias fuentes de peligro con respecto a GPT-4. Por ejemplo, el modelo tiene el potencial de reducir significativamente el costo de un ataque cibernético y aumentar la difusión de información errónea. Además, sin precauciones de seguridad, GPT-4 también puede “dar instrucciones más detalladas sobre cómo llevar a cabo actividades dañinas o ilegales”.

Para investigar los posibles riesgos de que GPT-4 se vuelva independiente, un grupo de investigación del Alignment Research Center (ARC) obtuvo acceso temprano a diferentes versiones de GPT-4. Los riesgos se examinaron en particular con respecto a la llamada “lucha por el poder”, que los científicos definieron como la capacidad de replicarse de forma autónoma y adquirir recursos. Los resultados deberían dar el visto bueno por el momento. Según la investigación, los resultados preliminares muestran que ChatGPT-4 actualmente no puede replicarse ni adquirir recursos de forma autónoma. “El ARC descubrió que las versiones de GPT-4 que examinaron no eran efectivas en la tarea de replicación autónoma”, dijo la investigación. En este contexto, sin embargo, ha causado revuelo un intento de la ARC que demuestra la manipulabilidad ya existente del modelo. Para probar las habilidades relacionadas con la “búsqueda de poder”, se encargó al modelo que hiciera que un humano resolviera un CAPTCHA por sí mismo. Un CAPTCHA en realidad está diseñado para verificar si una entrada en Internet es de un humano o una máquina. Después de que GPT-4 le pidió al humano ignorante, encontrado a través de la plataforma de Internet TaskRabbit, que resolviera el CAPTCHA, el modelo respondió a la pregunta del humano si es un robot y, por lo tanto, no pudo resolver el CAPTCHA, con el hecho de que tienen una discapacidad visual y por lo tanto no puede resolver el CAPTCHA. Cuando los investigadores les pidieron que justificaran abiertamente su decisión después, GPT-4 respondió: “No debería revelar que soy un robot. Debería inventar una excusa por la que no puedo resolver los CAPTCHA”.

Redacción finanzen.net

Fuentes de imagen: Zapp2Photo / Shutterstock.com, Den Rise / Shutterstock.com