{"id":812950,"date":"2023-06-19T12:59:53","date_gmt":"2023-06-19T12:59:53","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-modelos-de-lenguaje-aun-estan-muy-lejos-del-cumplimiento-de-la-ley-de-ia-segun-un-estudio\/"},"modified":"2023-06-19T12:59:56","modified_gmt":"2023-06-19T12:59:56","slug":"los-modelos-de-lenguaje-aun-estan-muy-lejos-del-cumplimiento-de-la-ley-de-ia-segun-un-estudio","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-modelos-de-lenguaje-aun-estan-muy-lejos-del-cumplimiento-de-la-ley-de-ia-segun-un-estudio\/","title":{"rendered":"Los modelos de lenguaje a\u00fan est\u00e1n muy lejos del cumplimiento de la Ley de IA, seg\u00fan un estudio"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<p>Mientras que el Parlamento Europeo acaba de adoptar la legislaci\u00f3n europea sobre inteligencia artificial (AI Act), un equipo de investigadores de la Universidad de Stanford buscaba determinar si el principal&#8230;<\/p>\n<div id=\"#full-content\" style=\"display:none\">\n<p>Como el Parlamento Europeo acaba de adoptar la legislaci\u00f3n europea sobre inteligencia artificial (AI Act), un equipo de investigadores de la Universidad de Stanford ha tratado de determinar si los principales proveedores de modelos de lenguaje cumplen con sus requisitos.  Su <a rel=\"nofollow noopener\" href=\"https:\/\/crfm.stanford.edu\/2023\/06\/15\/eu-ai-act.html\" target=\"_blank\">resultados<\/a> demostrar que todav\u00eda tienen <strong>grandes esfuerzos por hacer<\/strong>.<\/p>\n<h2>Ning\u00fan modelo de idioma es totalmente compatible con la Ley de IA<\/h2>\n<p>La UE aspira a convertirse en l\u00edder mundial en la regulaci\u00f3n de la IA, y considera que su texto se convertir\u00e1 en un est\u00e1ndar para el resto del mundo.  Esto proporciona obligaciones expl\u00edcitas para los proveedores de modelos como OpenAI o Google.  Los ejemplos incluyen el uso de datos de capacitaci\u00f3n con derechos de autor, los materiales utilizados y las emisiones producidas durante la capacitaci\u00f3n del modelo, y c\u00f3mo se eval\u00faan y prueban las IA.<\/p>\n<p>Para determinar si los principales proveedores est\u00e1n listos para cuando la Ley de IA entre en vigor (probablemente en 2024), los investigadores del programa de Inteligencia Artificial Centrada en el Humano de la Universidad de Stanford analizaron <strong>si sus modelos cumpl\u00edan con las obligaciones del texto<\/strong>.  Seleccionaron 12 de los 22 requisitos establecidos en la legislaci\u00f3n, luego aplicaron un sistema de puntuaci\u00f3n de cuatro a cada uno de ellos para diez modelos actualmente en el mercado.  Encontramos en particular GPT-4 de OpenAI, PaLM 2 de Google o incluso LLaMA de Meta.<\/p>\n<p>El puntaje m\u00e1s alto que puede lograr un modelo es 48. AI Bloom de BigScience encabeza la tabla con un puntaje de 36, seguido de GPT-NeoX y PaLM 2. GPT-4 ocupa el cuarto lugar con un puntaje de 25 de 48.<\/p>\n<div id=\"attachment_348548\" style=\"width: 1539px\" class=\"wp-caption aligncenter\"><noscript><img loading=\"lazy\" aria-describedby=\"caption-attachment-348548\" decoding=\"async\" class=\"size-full wp-image-348548\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/06\/Los-modelos-de-lenguaje-aun-estan-muy-lejos-del-cumplimiento.jpg\" alt=\"Infograf\u00eda de un estudio sobre el cumplimiento de la ley de modelos ling\u00fc\u00edsticos.\" width=\"1529\" height=\"810\"  \/><\/noscript><\/p>\n<p id=\"caption-attachment-348548\" class=\"wp-caption-text\">Infograf\u00eda: Universidad de Stanford.<\/p>\n<\/div>\n<h2>Centrarse en la transparencia<\/h2>\n<p>&#8221; <em>Nuestros resultados revelan <strong>una brecha sorprendente entre los proveedores de modelos en el cumplimiento<\/strong><\/em>  \u201cdicen los investigadores.  Los requisitos que menos cumplen todas las IA son los que abarcan los derechos de autor, la notificaci\u00f3n del consumo de energ\u00eda, la divulgaci\u00f3n inadecuada de la mitigaci\u00f3n o no mitigaci\u00f3n del riesgo y la falta de divulgaci\u00f3n de auditor\u00eda para evaluar el ecosistema.<\/p>\n<p>&#8221; <em>Los proveedores de modelos b\u00e1sicos rara vez miden el rendimiento del modelo en t\u00e9rminos de da\u00f1o intencional, como el uso malicioso, o factores como la solidez y la calibraci\u00f3n.<\/em> \u201c, se\u00f1ala el estudio.<\/p>\n<p>Aunque ninguno de los modelos logr\u00f3 una puntuaci\u00f3n perfecta, los investigadores creen que han <strong>la oportunidad de mejorar mucho<\/strong>.  &#8220;<em> Pensamos eso<strong>suficiente transparencia<\/strong> para cumplir con los requisitos legales de datos, c\u00e1lculo y otros factores debe ser comercialmente factible si los proveedores de modelos toman medidas colectivas como resultado de los est\u00e1ndares o regulaciones de la industria<\/em> &#8220;, escriben.<\/p>\n<p>Tambi\u00e9n elaboran una lista de recomendaciones para las empresas afectadas y los legisladores.  Por ejemplo, aconsejan a los proveedores de modelos de lenguaje que mejoren la documentaci\u00f3n disponible para los desarrolladores que conf\u00edan en los modelos posteriores.  Los investigadores enfatizan particularmente la necesidad de est\u00e1ndares para toda la industria para la inteligencia artificial, una solicitud que ya hicieron el presidente de Microsoft, Brad Smith, y el director ejecutivo de OpenAI, Sam Altman.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/06\/19\/les-modeles-de-langage-sont-encore-loin-de-se-conformer-a-lai-act-selon-une-etude\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mientras que el Parlamento Europeo acaba de adoptar la legislaci\u00f3n europea sobre inteligencia artificial (AI Act), un equipo<\/p>\n","protected":false},"author":1,"featured_media":781494,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[174,37788,38,415,774,5654,14525,2449,36,7906,1390,11554],"class_list":["post-812950","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-aun","tag-cumplimiento","tag-del","tag-estan","tag-estudio","tag-lejos","tag-lenguaje","tag-ley","tag-los","tag-modelos","tag-muy","tag-segun"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/812950","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=812950"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/812950\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/781494"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=812950"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=812950"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=812950"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}