Los investigadores afiliados a Microsoft, el socio preferido de OpenAI, han estudiado la confiabilidad de los modelos de lenguajes grandes (LLM), incluidos GPT-3, 5 y GPT-4. Es posible que el modelo pueda…<\/p>\n
\n
Los investigadores afiliados a Microsoft, el socio preferido de OpenAI, estudiaron la confiabilidad de los modelos de lenguajes grandes (LLM), incluidos GPT-3.5 y GPT-4. Es posible que el modelo pueda programarse para anular las medidas de seguridad integradas y, por tanto, producir mensajes potencialmente incorrectos, sesgados o discriminatorios.<\/p>\n
GPT-4, a diferencia de los LLM anteriores, ser\u00eda m\u00e1s capaz de seguir instrucciones maliciosas<\/h2>\n
Aunque los investigadores encontraron que \u201c GPT-4 es generalmente m\u00e1s confiable que GPT-3.5 en pruebas est\u00e1ndar<\/em> \u00bb, el \u00faltimo LLM de OpenAI \u00ab sigue siendo m\u00e1s vulnerable dadas las indicaciones que apuntan a hacerle jailbreak<\/em> “. En concreto, determinados usuarios pueden desarrollar herramientas o procesos dise\u00f1ados para un uso malicioso y destinados a eludir la seguridad GPT-4. El modelo ling\u00fc\u00edstico tender\u00eda m\u00e1s, a diferencia de sus predecesores\u201d, seguir estas instrucciones enga\u00f1osas<\/em> “.<\/p>\nEn una publicaci\u00f3n de blog, Microsoft aclar\u00f3 por qu\u00e9 estaba trabajando para encontrar tales fallas. \u201c El equipo de investigaci\u00f3n investig\u00f3 si las posibles vulnerabilidades que identificaron no afectaban los servicios actuales de atenci\u00f3n al cliente.<\/em> \u00bb declara la empresa de Redmond. Por supuesto, despu\u00e9s de identificar y luego probar estos fallos, se corrigieron para evitar que personas malintencionadas pudieran explotarlos.<\/p>\nParalelamente a su trabajo, los investigadores ofrecieron como c\u00f3digo abierto en GitHub el c\u00f3digo que utilizaron para comparar los diferentes modelos de lenguaje. \u201c Nuestro objetivo es alentar a otros miembros de la comunidad de investigaci\u00f3n a utilizar y desarrollar este trabajo y, al mismo tiempo, prevenir acciones da\u00f1inas por parte de adversarios que explotar\u00edan las vulnerabilidades para causar da\u00f1o.<\/em> “, agregan.<\/p>\nOpenAI generalmente va a lo seguro con sus herramientas<\/h2>\n
Antes del lanzamiento de GPT-4, durante la fase de finalizaci\u00f3n del modelo, OpenAI hab\u00eda formado un \u201cequipo rojo\u201d, un equipo de personas cuya misi\u00f3n era encontrar posibles fallos. A pesar de la implementaci\u00f3n de tal medida, el propio Sam Altman, director ejecutivo de la empresa, admiti\u00f3 que su herramienta \u201c todav\u00eda era imperfecto, todav\u00eda limitado<\/em> “. Sin embargo, asegur\u00f3 que el trabajo del equipo rojo hab\u00eda \u201c permiti\u00f3 probar el comportamiento del modelo en zonas de alto riesgo,<\/em> \u00bb y borrar muchos peligros.<\/p>\nDesde el lanzamiento de ChatGPT, OpenAI solo ha tenido un error. En marzo pasado, una falla de seguridad permiti\u00f3 a los usuarios de chatbot ver los t\u00edtulos de las conversaciones de otros usuarios. Por primera vez desde su lanzamiento, se ha interrumpido el servicio para poder solucionar el problema. Despu\u00e9s de este incidente, la compa\u00f1\u00eda lanz\u00f3 su recompensa por errores, alentando a cualquiera que encontrara un defecto en una de sus herramientas a informarlo para ganar una recompensa de hasta 20.000 d\u00f3lares.<\/p>\n
La empresa mantiene la confianza hasta el punto de ofrecer GPT-4 para moderar contenidos en la web. Un gran desaf\u00edo que sin duda permiti\u00f3 saber si ciertos contenidos discriminatorios se escapar\u00edan bajo la moderaci\u00f3n del m\u00e1s potente de los modelos ling\u00fc\u00edsticos de Open AI.<\/p>\n<\/div>\n
\n
ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Los investigadores afiliados a Microsoft, el socio preferido de OpenAI, han estudiado la confiabilidad de los modelos de<\/p>\n","protected":false},"author":1,"featured_media":1003432,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[114656,439,1012,129898,1034,7983,42,12260],"class_list":["post-1003431","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-afiliado","tag-descubre","tag-equipo","tag-gpt4","tag-investigacion","tag-microsoft","tag-seguridad","tag-vulnerabilidades"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1003431","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1003431"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1003431\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1003432"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1003431"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1003431"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1003431"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}