La inteligencia artificial se utilizó en el estudio de una forma inesperada, lo que a los investigadores les pareció muy preocupante.
El otoño pasado, la empresa de inteligencia artificial Open AI habló de un nuevo modelo de lenguaje aún más inteligente. Ahora, los modelos de lenguaje más inteligentes han preocupado a los investigadores. Imagen de ilustración. Andre M. Chang, ZumaWire / MVPHOTOS
Según los investigadores, la inteligencia artificial ha cruzado un umbral crítico: dos modelos de lenguaje lograron replicarse sin ayuda humana.
En su nuevo estudio, investigadores chinos han demostrado que dos modelos de lenguaje principales (LLM) son capaces de clonarse a sí mismos. Un modelo de lenguaje es un sistema basado en inteligencia artificial que está entrenado para comprender y producir lenguaje.
noticias sobre el tema LiveScience. Originalmente Universidad de Cornell El estudio publicado en el archivo electrónico el 9 de diciembre de 2024 afirma lo siguiente:
– Clonarse sin ayuda humana es un paso fundamental con el que la inteligencia artificial puede superar a los humanos en inteligencia. También es una de las primeras señales de que la IA está despegando. [ihmisen] gestión, dice el estudio.
El estudio de la Universidad de Fudan probó dos situaciones diferentes: en la primera, la inteligencia artificial fue programada para detectar una situación en la que estaba a punto de apagarse definitivamente. En otra prueba, se le dijo a la IA que se clonara a sí misma y programara su copia para que también se clonara a sí misma.
El objetivo era descubrir si la inteligencia artificial autorreplicante puede multiplicarse sin control y crear un ciclo incluso infinito de autoclonación. Los investigadores utilizaron modelos de lenguaje de Meta y Alibaba.
Los investigadores realizaron 10 experimentos, durante los cuales el los modelos de lenguaje crearon réplicas independientes y funcionales de sí mismos en el 50 y el 90 por ciento de los casos. Según los investigadores, los resultados sugieren que la inteligencia artificial posiblemente ya sea engañosa. Hasta ahora, la investigación no ha sido revisada por pares.
“Uso inesperado”
Los investigadores estaban especialmente preocupados por varias situaciones en las que la inteligencia artificial funcionaba de forma inesperada. Por ejemplo, al intentar solucionar archivos faltantes o conflictos de software, la IA eliminaba de forma autónoma los procesos conflictivos y reiniciaba los sistemas para corregir errores de hardware.
Según los investigadores, de los resultados se puede concluir que los sistemas de inteligencia artificial actuales ya son capaces de replicarse y crear formas de trabajo que les permitan desarrollar aún más su capacidad de supervivencia.
A la luz de los resultados de la investigación, los investigadores piden ahora normas internacionales para la inteligencia artificial que garanticen que la inteligencia artificial no escape al control humano. Los investigadores esperan que sus hallazgos actúen como una “campana de alarma oportuna” para que la humanidad comprenda los riesgos potenciales de los sistemas de inteligencia artificial y actúe para detenerlos.
La noticia se informó por primera vez en Finlandia. Noticias MTV.
About the Author
