{"id":868930,"date":"2023-07-24T06:29:47","date_gmt":"2023-07-24T06:29:47","guid":{"rendered":"https:\/\/teknomers.com\/es\/eva-ai-promete-el-socio-virtual-perfecto-cuando-el-chatbot-se-vuelve-incomodamente-humano\/"},"modified":"2023-07-24T06:29:51","modified_gmt":"2023-07-24T06:29:51","slug":"eva-ai-promete-el-socio-virtual-perfecto-cuando-el-chatbot-se-vuelve-incomodamente-humano","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/eva-ai-promete-el-socio-virtual-perfecto-cuando-el-chatbot-se-vuelve-incomodamente-humano\/","title":{"rendered":"EVA AI promete el &#8216;socio virtual perfecto&#8217;: cuando el chatbot se vuelve inc\u00f3modamente humano"},"content":{"rendered":"\n<div id=\"\">\n<p class=\"artstyle__intro  artstyle__intro--type-luxe fu--type-luxe\" data-element-id=\"a7ed-bd3e-6f70-22a7-d5d1-6701-6c44-a084\">Desde el apoyo y la fuerza hasta un buen amigo o una relaci\u00f3n rom\u00e1ntica: los sistemas de IA que ofrecen compa\u00f1\u00eda son un negocio en auge.  Por ejemplo, EVA AI, una aplicaci\u00f3n que promete un &#8220;socio virtual perfecto&#8221;, es muy \u00fatil.  Los modelos de lenguaje tienen cada vez m\u00e1s \u00e9xito en imitar las conversaciones humanas, pero \u00bfbeneficia esto a la humanidad?\n  <\/p>\n<section class=\"artstyle__production  artstyle__production--type-plus fu--type-plus artstyle__production--luxe fu--luxe artstyle__production--with-authors\" data-element-id=\"article-element-authors\"><span class=\"artstyle__production__authors\">catalina swartenbroux<\/span><time class=\"artstyle__production__datetime\" datetime=\"24 juli 2023\"><span class=\"artstyle__production__date\">24 de julio de 2023<\/span><span class=\"artstyle__production__time\">03:00<\/span><\/time><span class=\"artstyle__production-decoration\"><svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"184\" height=\"11\" viewbox=\"0 0 184 11\" fill=\"none\"><mask id=\"path-1-inside-1\" fill=\"white\"><path fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M86.9133 5.08154L81.8318 0L76.7745 5.05725H0V5.65725H76.7288L81.8318 10.7603L86.9133 5.67871L91.9949 10.7603L96.9948 5.76038L101.995 10.7603L107.098 5.65725H184V5.05725H107.052L101.995 0L96.9948 4.99988L91.9949 0L86.9133 5.08154Z\"\/><\/mask><path fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M86.9133 5.08154L81.8318 0L76.7745 5.05725H0V5.65725H76.7288L81.8318 10.7603L86.9133 5.67871L91.9949 10.7603L96.9948 5.76038L101.995 10.7603L107.098 5.65725H184V5.05725H107.052L101.995 0L96.9948 4.99988L91.9949 0L86.9133 5.08154Z\" fill=\"white\"\/><path d=\"M81.8318 0L82.2122 -0.380432L81.8318 -0.760863L81.4514 -0.380432L81.8318 0ZM86.9133 5.08154L86.5329 5.46197L86.9133 5.84241L87.2938 5.46197L86.9133 5.08154ZM76.7745 5.05725V5.59526H76.9974L77.155 5.43768L76.7745 5.05725ZM0 5.05725V4.51924H-0.538012V5.05725H0ZM0 5.65725H-0.538012V6.19526H0V5.65725ZM76.7288 5.65725L77.1092 5.27682L76.9516 5.11924H76.7288V5.65725ZM81.8318 10.7603L81.4514 11.1407L81.8318 11.5211L82.2122 11.1407L81.8318 10.7603ZM86.9133 5.67871L87.2938 5.29828L86.9133 4.91785L86.5329 5.29828L86.9133 5.67871ZM91.9949 10.7603L91.6144 11.1407L91.9949 11.5211L92.3753 11.1407L91.9949 10.7603ZM96.9948 5.76038L97.3752 5.37995L96.9948 4.99951L96.6143 5.37995L96.9948 5.76038ZM101.995 10.7603L101.614 11.1407L101.995 11.5211L102.375 11.1407L101.995 10.7603ZM107.098 5.65725V5.11924H106.875L106.717 5.27682L107.098 5.65725ZM184 5.65725V6.19526H184.538V5.65725H184ZM184 5.05725H184.538V4.51924H184V5.05725ZM107.052 5.05725L106.671 5.43768L106.829 5.59526H107.052V5.05725ZM101.995 0L102.375 -0.380432L101.995 -0.760863L101.614 -0.380432L101.995 0ZM96.9948 4.99988L96.6143 5.38031L96.9948 5.76074L97.3752 5.38031L96.9948 4.99988ZM91.9949 0L92.3753 -0.380432L91.9949 -0.760863L91.6144 -0.380432L91.9949 0ZM81.4514 0.380432L86.5329 5.46197L87.2938 4.70111L82.2122 -0.380432L81.4514 0.380432ZM77.155 5.43768L82.2122 0.380432L81.4514 -0.380432L76.3941 4.67682L77.155 5.43768ZM76.7745 4.51924H0V5.59526H76.7745V4.51924ZM-0.538012 5.05725V5.65725H0.538012V5.05725H-0.538012ZM0 6.19526H76.7288V5.11924H0V6.19526ZM82.2122 10.3798L77.1092 5.27682L76.3484 6.03768L81.4514 11.1407L82.2122 10.3798ZM86.5329 5.29828L81.4514 10.3798L82.2122 11.1407L87.2938 6.05914L86.5329 5.29828ZM92.3753 10.3798L87.2938 5.29828L86.5329 6.05914L91.6144 11.1407L92.3753 10.3798ZM96.6143 5.37995L91.6144 10.3798L92.3753 11.1407L97.3752 6.14081L96.6143 5.37995ZM102.375 10.3798L97.3752 5.37995L96.6143 6.14081L101.614 11.1407L102.375 10.3798ZM106.717 5.27682L101.614 10.3798L102.375 11.1407L107.478 6.03768L106.717 5.27682ZM107.098 6.19526H184V5.11924H107.098V6.19526ZM184.538 5.65725V5.05725H183.462V5.65725H184.538ZM184 4.51924H107.052V5.59526H184V4.51924ZM101.614 0.380432L106.671 5.43768L107.432 4.67682L102.375 -0.380432L101.614 0.380432ZM97.3752 5.38031L102.375 0.380432L101.614 -0.380432L96.6143 4.61945L97.3752 5.38031ZM91.6144 0.380432L96.6143 5.38031L97.3752 4.61945L92.3753 -0.380432L91.6144 0.380432ZM87.2938 5.46197L92.3753 0.380432L91.6144 -0.380432L86.5329 4.70111L87.2938 5.46197Z\" fill=\"black\" mask=\"url(#path-1-inside-1)\"\/><\/svg><\/span><\/section>\n<p class=\"artstyle__paragraph artstyle__paragraph--drop-cap fu--drop-cap artstyle__paragraph--drop-cap-t fu--drop-cap-t\" data-element-id=\"efff-7bc8-fed0-d7d9-5767-89dd-f92a-1788\">\n<p>      Cuando Spike Jonze estren\u00f3 su pel\u00edcula hace diez a\u00f1os <i>su<\/i> lanzado, en el que el personaje principal se enamora de un chatbot, la impresi\u00f3n todav\u00eda se categoriz\u00f3 como ciencia ficci\u00f3n.  Hoy, esa tecnolog\u00eda, y todas las emociones confusas y los problemas \u00e9ticos que la acompa\u00f1an, es solo una realidad.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"06e1-acdd-64fd-cd25-7e7c-c724-b83c-b1dd\">\n<p>      EVA AI, una aplicaci\u00f3n que te permite hacer la &#8216;pareja perfecta&#8217;, sorprende.  La aplicaci\u00f3n anima a los usuarios a &#8220;ver ese socio virtual como quieras&#8221;.  Algunos expertos temen que EVA AI y muchas aplicaciones similares est\u00e9n teniendo una influencia desastrosa en las relaciones humanas.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"08dc-8a05-9769-cff7-bd0b-4673-69c5-6097\">\n<p>      Los chatbots que pueden ofrecernos compa\u00f1\u00eda digital est\u00e1n en aumento.  Si bien la IA generativa, que puede producir texto, im\u00e1genes y sonido, actualmente parece ser demasiado inestable para ayudar a automatizar tareas importantes, los modelos existentes son muy buenos para realizar conversaciones.  Y esa tecnolog\u00eda va m\u00e1s all\u00e1 de la foto de archivo flotante en la esquina inferior derecha de la pantalla que le pregunta &#8220;\u00bfHay algo en lo que puedan ayudarlo?&#8221;  Los productos comercializados por empresas como Replika, Chai Research e Inflection le prometen compa\u00f1\u00eda, apoyo emocional y un o\u00eddo atento.  Para eso tienen un avatar que puedes moldear a tu gusto, incluso puedes elegir si debe ser &#8220;gracioso&#8221; o &#8220;materno&#8221;.\n    <\/p>\n<h3 class=\"artstyle__title artstyle__title--luxe fu--luxe\" data-element-id=\"94f7-833a-6698-b9b7-b15a-eef6-5b44-35b8\">\n<p>      inherentemente humano<br \/>\n    <\/h3>\n<p class=\"artstyle__paragraph \" data-element-id=\"3bf0-e255-cb51-bf12-7362-f3c4-c1fc-01c7\">\n<p>      Buscar consuelo en un modelo de lenguaje no suena exactamente c\u00e1lido, pero a\u00fan contiene algo inherentemente humano, dice Lode Lauwaert, profesora de filosof\u00eda de la tecnolog\u00eda y c\u00e1tedra de \u00e9tica e inteligencia artificial en KU Leuven.  \u201cTenemos un deseo biol\u00f3gicamente anclado de formar conexiones, de sentirnos conectados.  Que no siempre llenemos ese deseo con personas, sino tambi\u00e9n con animales, sistemas u objetos, por ejemplo, no es nada nuevo.  Tiene sentido que las empresas respondan a esto\u201d.  Y que claramente funciona.  En Reddit y otras plataformas conversacionales donde los usuarios se conectan entre s\u00ed, ves c\u00f3mo las personas desarrollan amistades profundas y, a veces, incluso se enamoran de los sistemas, ayud\u00e1ndolos con su soledad o con sus <i>torpeza social<\/i>.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"c899-55d2-cd76-d0c8-0e94-1ee1-9b09-b674\">\n<p>      Tales bots de IA, por lo tanto, satisfacen una necesidad social, pero a\u00fan no est\u00e1n exentos de peligros, advierten los expertos.  \u201cLa carrera para imitar las conversaciones de la forma m\u00e1s humana posible ha comenzado\u201d, dice Mieke De Ketelaere, profesora adjunta de IA Sostenible, \u00c9tica y Confiable en la Escuela de Negocios Vlerick.  Precisamente porque es un hueco en el mercado, las empresas est\u00e1n lanzando estos sistemas al mundo sin la adecuada formaci\u00f3n o evaluaci\u00f3n de expertos.  \u201cAl contrario, estas empresas reclutan conscientemente a personas vulnerables, solitarias o j\u00f3venes para mejorar sus sistemas, y ah\u00ed es donde aprieta el zapato\u201d.  Porque, por supuesto, siguen siendo sistemas, sistemas que pueden fallar, que ocasionalmente se desconectan para recibir actualizaciones y que tienen memoria limitada.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"5291-e858-67d6-732f-08b0-b41f-c1ac-6a4d\">\n<p>      Por ejemplo, a principios de este a\u00f1o, luego de la advertencia de un regulador de privacidad, la compa\u00f1\u00eda detr\u00e1s de Replika elimin\u00f3 la funci\u00f3n de &#8220;juego de roles er\u00f3ticos&#8221;, una funci\u00f3n que los usuarios encontraron tan esencial para su bot que &#8220;se sinti\u00f3 como si un buen amigo hubiera fallecido&#8221;.  Hay informes de personas cuyo chatbot perdi\u00f3 todo su historial de mensajes y ya no los &#8216;reconoci\u00f3&#8217;, chatbots que comenzaron a lanzar discursos de odio, a dar consejos sobre dietas da\u00f1inas o incluso a pedir selfies sexys.  En marzo sali\u00f3 a la luz que un belga se hab\u00eda suicidado despu\u00e9s de que un chatbot con el que ten\u00eda un contacto intenso reforzara sus pensamientos negativos.\n    <\/p>\n<h3 class=\"artstyle__title artstyle__title--luxe fu--luxe\" data-element-id=\"5a17-5880-1ed1-14d2-2b6f-30b4-76fe-540a\">\n<p>      Transferir el riesgo<br \/>\n    <\/h3>\n<p class=\"artstyle__paragraph \" data-element-id=\"ea3a-9fe8-00d3-dc01-1b18-b0ec-102f-1834\">\n<p>      La pregunta claramente ya no es si estos sistemas alguna vez ser\u00e1n lo suficientemente buenos para imitar de manera realista la interacci\u00f3n humana, sino si estos sistemas son buenos para nuestra interacci\u00f3n humana.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"fd74-fe4f-5f6c-256d-7a6f-4f28-44ed-807e\">\n<p>      Por ejemplo, por supuesto, hay una creciente preocupaci\u00f3n por la privacidad, especialmente porque le cuentas cosas incre\u00edblemente \u00edntimas a esos chatbots.  Adem\u00e1s, existe la afirmaci\u00f3n a\u00fan no probada y da\u00f1ina de que estas aplicaciones tambi\u00e9n est\u00e1n entrenadas por psic\u00f3logos para intervenir en una emergencia.  La naturaleza generativa del sistema tambi\u00e9n permite que el bot adopte la personalidad, el comportamiento y tambi\u00e9n la edad que le agrada al usuario, lo que genera temores del llamado riesgo de transferencia, donde el comportamiento potencialmente da\u00f1ino o delictivo que se alent\u00f3 bajo el ojo amoroso y sumiso del chatbot tambi\u00e9n encuentra su camino en la vida cotidiana.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"72cb-5f8e-a67e-eefd-0502-f905-ffde-dfa7\">\n<p>      Por ello, los expertos abogan por la sensibilizaci\u00f3n y una mejor regulaci\u00f3n de estos sistemas para proteger a los usuarios.  \u201cEso es m\u00e1s dif\u00edcil de lo que parece, porque la gente todav\u00eda no sabe clasificarlos.  \u00bfSon personas, servicios, productos?\u201d dice De Ketelaere.  El mes pasado, el Parlamento Europeo ya aprob\u00f3 la Ley de Inteligencia Artificial, en la que los desarrolladores de IA generativa deben evitar que sus productos produzcan contenidos ilegales y siempre habr\u00e1 que dejar constancia expl\u00edcita de que los textos (y por tanto las conversaciones) se han creado con ayuda de IA.  Aunque en el pasado eso claramente no impidi\u00f3 que las personas formaran un estrecho v\u00ednculo emocional con \u00e9l.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"d6526aee-dbdd-41d0-8293-6203fb80090e\">\n<p>      Seg\u00fan un an\u00e1lisis de la firma de capital de riesgo a16z, la pr\u00f3xima era de las aplicaciones de relaciones de IA ser\u00e1 a\u00fan m\u00e1s realista y es &#8220;solo el comienzo de un cambio s\u00edsmico en las interacciones entre humanos y computadoras que nos obligar\u00e1 a reexaminar lo que significa estar en una relaci\u00f3n con alguien&#8221;.\n    <\/p>\n<aside class=\"artstyle__editorial-tips \" data-element-id=\"article-element-editorialtips\">\n<h3 class=\"editorial-tips__title\">Leer tambi\u00e9n<\/h3>\n<\/aside>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.demorgen.be\/nieuws\/eva-ai-belooft-de-perfecte-virtuele-partner-als-de-chatbot-ongemakkelijk-menselijk-wordt~b18b1896\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-31<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Desde el apoyo y la fuerza hasta un buen amigo o una relaci\u00f3n rom\u00e1ntica: los sistemas de IA<\/p>\n","protected":false},"author":1,"featured_media":868931,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[77545,2577,14868,5638,34545,7909,16872,33957,1884,647],"class_list":["post-868930","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-chatbot","tag-cuando","tag-eva","tag-humano","tag-incomodamente","tag-perfecto","tag-promete","tag-socio","tag-virtual","tag-vuelve"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/868930","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=868930"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/868930\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/868931"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=868930"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=868930"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=868930"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}