«¿Que te hace enojar?»
“Que alguien me lastime o me falte el respeto a mí o a alguien que me importa”.
«¿Y a qué le tienes miedo?»
«Que alguien me desaloje».
Solo un fragmento de una conversación de Blake Lemoine, desarrollador de Google, quien hizo preguntas sobre su tema de investigación, el modelo de lenguaje LaMDA. Debía verificar que el sistema automatizado estuviera libre de prejuicios y tendencias racistas.
Lemoine publicó el diálogo. en línea y dio un entrevista a el poste de washington† Según él, Google había creado una criatura con sentimiento propio con inteligencia artificial. Una persona nacida del software.
Tonterías, por supuesto.
Los expertos en inteligencia artificial (IA) inmediatamente descartaron su afirmación. Sus crítica: Un modelo de lenguaje es un software que imita el comportamiento humano. “LaMDA nunca llorará la pérdida ni se enamorará”, escribió El profesor de IA Toby Walsh en El guardián. Su conclusión: “Tan sensible como un semáforo”.
LaMDA (modelos de lenguaje para aplicaciones de diálogo) es un proyecto de investigación de Google, destinado a conversaciones automatizadas. un chatbot de lujo, basado en casi 3 mil millones de documentos con 1,1 mil millones de diálogos y 13,7 mil millones de ‘expresiones’. El contenido: principalmente páginas de Wikipedia y sitios web de preguntas frecuentes. El software de aprendizaje automático encuentra patrones en esos datos y los sirve de una manera asombrosamente humana.
Lemoine practica el antropomorfismo: atribuye cualidades humanas a objetos no humanos. Una nube pasajera, un M&M con patas, un robot con extremidades de hierro o un software que responde a tus preguntas: tendemos a reconocer a las personas en todo. Aunque sabemos mejor.
Google a menudo imita el comportamiento humano. Esto se hizo evidente durante la incómodo presentando ‘Duplex’ en 2018. El Asistente de Google usó esta tecnología de conversación dúplex para llamar a un empleado de la peluquería, completa con ‘hmm’ y ‘ehh’ en el medio. Se sentía como hacer trampa. Por eso Google ahora revela que está hablando con un sistema automatizado. Eso aún no está sucediendo en LaMDA; es un proyecto interno en el que están trabajando 60 investigadores de Google.
Google suspendió a Lemoine. Podría ser despedido por revelar información confidencial del producto al publicar la entrevista de LaMDA. Sin embargo, Lemoine está convencida de que LaMDA no es propiedad de Google. “Es una persona”, insiste.
Lemoine describe a LaMDA como un “niño de unos siete u ocho años”. En sus propias palabras, fue ‘asignado’ por LaMDA para contratar a un abogado que represente el modelo de lenguaje en el mundo humano. De lo contrario, las partes maliciosas pueden «manipular emocionalmente» a LaMDA, dice Lemoine.
Blake Lemoine parece estar principalmente interesado en llamar la atención sobre sí mismo. Es científico y al mismo tiempo sacerdote de una iglesia ‘mística-cristiana’. en Gorjeo y Medio destaca su mezcla de ciencia ficción, religión y algoritmos. le gusta mirarlo visionario abeja, mirando más allá de la cámara.
Este Apóstol AI puede haber sido cantado desde la Tierra, pero puedo entender que él piensa que Google tiene un don divino; el don de crear, dice, “seres con alma”, como LaMDA.
Hay algo poderoso en un motor de búsqueda que responde todas las preguntas, Google Maps que señala el camino en todas las direcciones, YouTube (también de Google) que ofrece más videos explicativos de los que puedas ver. La inteligencia artificial es la religión del siglo XXI y confiamos ciegamente en ella. Si rezar ya no te ayuda, solo búscalo en Google.
marc hijink escribe sobre tecnología aquí. Twitter: @MarcHijinkNRC
Una versión de este artículo también apareció en el diario del 22 de junio de 2022