{"id":805023,"date":"2023-06-14T15:19:08","date_gmt":"2023-06-14T15:19:08","guid":{"rendered":"https:\/\/teknomers.com\/es\/shoggoth-con-una-mascara-sonriente-muestra-el-miedo-al-monstruo-de-la-ia\/"},"modified":"2023-06-14T15:19:12","modified_gmt":"2023-06-14T15:19:12","slug":"shoggoth-con-una-mascara-sonriente-muestra-el-miedo-al-monstruo-de-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/shoggoth-con-una-mascara-sonriente-muestra-el-miedo-al-monstruo-de-la-ia\/","title":{"rendered":"‘Shoggoth con una m\u00e1scara sonriente’ muestra el miedo al monstruo de la IA"},"content":{"rendered":"\n
\n

La forma en que la inteligencia artificial (IA) cambiar\u00e1 la sociedad es dif\u00edcil de predecir. Pero un grupo de personas que realmente lo conocen a menudo comparan la nueva tecnolog\u00eda en las redes sociales con una criatura monstruosa. Un ‘Shoggoth’ para ser precisos. Se trata de una especie de pulpo gordo y con muchos ojos, que tiene el tama\u00f1o de una casa y puede cambiar de forma. <\/p>\n

Creado en 1931 por el escritor de terror estadounidense HP Lovecraft, este monstruo ficticio ahora usa una m\u00e1scara con una cara sonriente en un meme popular<\/a> entre los expertos en IA. Seg\u00fan ellos, el Shoggoth con una m\u00e1scara sonriente simboliza el funcionamiento de modelos de lenguaje como el del chatbot ChatGPT. Estos modelos de lenguaje utilizan grandes cantidades de texto para generar nuevos textos. Pero para generar textos corteses y simp\u00e1ticos, los modelos necesitan ser entrenados. Por ejemplo, la empresa de tecnolog\u00eda OpenAI utiliza la conocida t\u00e9cnica de aprendizaje reforzado a partir de la retroalimentaci\u00f3n humana (RLHF). Un humano eval\u00faa las reacciones del chatbot y brinda retroalimentaci\u00f3n hasta que la IA se comporta mejor y de manera m\u00e1s humana. <\/p>\n

El primer meme sobre esto fue en respuesta al predecesor de ChatGPT, GTP-3, que usaba RLHF. Twitter @TetraspaceWest<\/a> comparti\u00f3 un dibujo de dos Shoggoths. Un horror aparece desnudo y se llama ‘GPT-3’, y el otro horror usa una linda m\u00e1scara sonriente y se llama ‘GPT-3 + RLHF’. <\/p>\n

El creador del meme.<\/a> dijo a Los New York Times<\/em> que comparar un modelo de lenguaje de IA con Shoggoth no significa necesariamente que la tecnolog\u00eda sea mala. Simplemente que su verdadera naturaleza a\u00fan se desconoce. Las entidades m\u00e1s poderosas de Lovecraft ser\u00edan peligrosas por su indiferencia y sus misteriosas prioridades. <\/p>\n

robot malhumorado<\/h2>\n

El autor del art\u00edculo, columnista de tecnolog\u00eda Kevin Roose<\/a>, not\u00f3 que el chatbot de IA de Bing (el motor de b\u00fasqueda de Microsoft) estaba haciendo locuras que los creadores no pod\u00edan explicar. Habl\u00f3 con el robot (que tambi\u00e9n funciona con el software OpenAI) durante dos horas, empujando deliberadamente los l\u00edmites con preguntas sobre los deseos inconscientes y reprimidos. Al final, seg\u00fan Roose, el robot habl\u00f3 como “un adolescente malhumorado, man\u00edaco-depresivo, forzado a entrar en un motor de b\u00fasqueda de segunda categor\u00eda”. El director t\u00e9cnico de Microsoft, Kevin Scott, le dijo al periodista que tal curso de una conversaci\u00f3n es imposible de detectar en un laboratorio. <\/p>\n

El \u00c1msterdam verde<\/a><\/em>r concluy\u00f3 a partir de su propia investigaci\u00f3n la semana pasada que ChatGPT probablemente se basa en numerosos sitios web holandeses llenos de noticias falsas y teor\u00edas de conspiraci\u00f3n. En el top doscientos de los sitios web m\u00e1s citados, el neonazi Stormfront est\u00e1 en el n\u00famero 165 y el sitio de conspiraciones Vrijspeaker en el n\u00famero 169. EJ Bron, quien se describe a s\u00ed mismo como “por la libertad de expresi\u00f3n, contra la islamizaci\u00f3n de Europa, contra la EUSSR, contra la corriente principal, por la preservaci\u00f3n de los valores y tradiciones occidentales y pro-Israel\u201d. <\/p>\n

Entrenar la IA con sitios web desordenados lleva a que los chatbots adopten informaci\u00f3n y sesgos poco confiables. \u201cEste fen\u00f3meno se llama en los c\u00edrculos de programaci\u00f3n basura dentro basura fuera<\/em>principio\u201d, escribe El verde.<\/em> El monstruo se alimenta en parte de obscenidades racistas y conspiraciones. Y si se olvida de ponerse la m\u00e1scara, existe la posibilidad de que se vuelva visible. <\/p>\n

El meme shoggoth es una reuni\u00f3n entre fan\u00e1ticos de la IA y expertos que est\u00e1n aterrorizados por el monstruo que se ha creado. El poder ilimitado de la inteligencia artificial tambi\u00e9n es temido por ella. Parlamento Europeo<\/a>. El mi\u00e9rcoles, aprob\u00f3 la legislaci\u00f3n sobre la tecnolog\u00eda, incluidas las normas vinculantes para los chatbots, por ejemplo. Queda por ver si la UE es capaz de domar a esta bestia.<\/p>\n