La forma en que la inteligencia artificial (IA) cambiará la sociedad es difícil de predecir. Pero un grupo de personas que realmente lo conocen a menudo comparan la nueva tecnología en las redes sociales con una criatura monstruosa. Un ‘Shoggoth’ para ser precisos. Se trata de una especie de pulpo gordo y con muchos ojos, que tiene el tamaño de una casa y puede cambiar de forma.
Creado en 1931 por el escritor de terror estadounidense HP Lovecraft, este monstruo ficticio ahora usa una máscara con una cara sonriente en un meme popular entre los expertos en IA. Según ellos, el Shoggoth con una máscara sonriente simboliza el funcionamiento de modelos de lenguaje como el del chatbot ChatGPT. Estos modelos de lenguaje utilizan grandes cantidades de texto para generar nuevos textos. Pero para generar textos corteses y simpáticos, los modelos necesitan ser entrenados. Por ejemplo, la empresa de tecnología OpenAI utiliza la conocida técnica de aprendizaje reforzado a partir de la retroalimentación humana (RLHF). Un humano evalúa las reacciones del chatbot y brinda retroalimentación hasta que la IA se comporta mejor y de manera más humana.
El primer meme sobre esto fue en respuesta al predecesor de ChatGPT, GTP-3, que usaba RLHF. Twitter @TetraspaceWest compartió un dibujo de dos Shoggoths. Un horror aparece desnudo y se llama ‘GPT-3’, y el otro horror usa una linda máscara sonriente y se llama ‘GPT-3 + RLHF’.
El creador del meme. dijo a Los New York Times que comparar un modelo de lenguaje de IA con Shoggoth no significa necesariamente que la tecnología sea mala. Simplemente que su verdadera naturaleza aún se desconoce. Las entidades más poderosas de Lovecraft serían peligrosas por su indiferencia y sus misteriosas prioridades.
robot malhumorado
El autor del artículo, columnista de tecnología Kevin Roose, notó que el chatbot de IA de Bing (el motor de búsqueda de Microsoft) estaba haciendo locuras que los creadores no podían explicar. Habló con el robot (que también funciona con el software OpenAI) durante dos horas, empujando deliberadamente los límites con preguntas sobre los deseos inconscientes y reprimidos. Al final, según Roose, el robot habló como «un adolescente malhumorado, maníaco-depresivo, forzado a entrar en un motor de búsqueda de segunda categoría». El director técnico de Microsoft, Kevin Scott, le dijo al periodista que tal curso de una conversación es imposible de detectar en un laboratorio.
El Ámsterdam verder concluyó a partir de su propia investigación la semana pasada que ChatGPT probablemente se basa en numerosos sitios web holandeses llenos de noticias falsas y teorías de conspiración. En el top doscientos de los sitios web más citados, el neonazi Stormfront está en el número 165 y el sitio de conspiraciones Vrijspeaker en el número 169. EJ Bron, quien se describe a sí mismo como «por la libertad de expresión, contra la islamización de Europa, contra la EUSSR, contra la corriente principal, por la preservación de los valores y tradiciones occidentales y pro-Israel”.
Entrenar la IA con sitios web desordenados lleva a que los chatbots adopten información y sesgos poco confiables. “Este fenómeno se llama en los círculos de programación basura dentro basura fueraprincipio”, escribe El verde. El monstruo se alimenta en parte de obscenidades racistas y conspiraciones. Y si se olvida de ponerse la máscara, existe la posibilidad de que se vuelva visible.
El meme shoggoth es una reunión entre fanáticos de la IA y expertos que están aterrorizados por el monstruo que se ha creado. El poder ilimitado de la inteligencia artificial también es temido por ella. Parlamento Europeo. El miércoles, aprobó la legislación sobre la tecnología, incluidas las normas vinculantes para los chatbots, por ejemplo. Queda por ver si la UE es capaz de domar a esta bestia.