{"id":962710,"date":"2023-09-21T08:06:41","date_gmt":"2023-09-21T08:06:41","guid":{"rendered":"https:\/\/teknomers.com\/es\/openai-esta-intensificando-sus-esfuerzos-para-proteger-sus-modelos-de-ia\/"},"modified":"2023-09-21T08:06:44","modified_gmt":"2023-09-21T08:06:44","slug":"openai-esta-intensificando-sus-esfuerzos-para-proteger-sus-modelos-de-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/openai-esta-intensificando-sus-esfuerzos-para-proteger-sus-modelos-de-ia\/","title":{"rendered":"OpenAI est\u00e1 intensificando sus esfuerzos para proteger sus modelos de IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<p>Para hacer que sus modelos de inteligencia artificial (IA) sean m\u00e1s robustos y seguros, OpenAI quiere establecer una red de expertos para formar su &#8220;equipo rojo&#8221;.  Un anuncio que llega&#8230;<\/p>\n<div id=\"#full-content\" style=\"display:none\">\n<p>Para hacer que sus modelos de inteligencia artificial (IA) sean m\u00e1s robustos y seguros, OpenAI quiere establecer una red de expertos para componer su \u201c <em>equipo rojo<\/em> &#8220;.  Un anuncio que llega cuando cada vez m\u00e1s gobiernos aceleran la regulaci\u00f3n de la tecnolog\u00eda.<\/p>\n<h2>Un esfuerzo amplio y de largo plazo<\/h2>\n<p>Un concepto utilizado en varios campos como la ciberseguridad y el ej\u00e9rcito, un equipo rojo consiste en crear un grupo que debe desempe\u00f1ar el papel de amenaza para identificar los puntos d\u00e9biles de su equipo.  En el caso de la inteligencia artificial generativa, se trata de encontrar formas de hacer que el modelo diga cosas inapropiadas, no deseadas o prohibidas, para saber c\u00f3mo prevenirlo posteriormente.<\/p>\n<p>OpenAI ya ha utilizado esta t\u00e9cnica para GPT-4, su modelo de lenguaje m\u00e1s reciente, pero ahora quiere democratizarla en sus otros productos.  \u201c <em>OpenAI Red Teaming Network es una comunidad de expertos confiables y experimentados que pueden ayudar a informar nuestros esfuerzos de evaluaci\u00f3n y mitigaci\u00f3n de riesgos de manera m\u00e1s amplia, en lugar de compromisos \u00fanicos y procesos de selecci\u00f3n antes de implementaciones importantes de modelos.<\/em> \u201c, escribe la empresa en una publicaci\u00f3n de blog.<\/p>\n<p>Por lo tanto, pide a &#8220;expertos individuales, institutos de investigaci\u00f3n y organizaciones de la sociedad civil&#8221; que construyan su red.  Sus miembros ser\u00e1n llamados en funci\u00f3n de su experiencia para ayudar al equipo rojo en las diferentes etapas del ciclo de desarrollo del modelo, pero no todos participar\u00e1n en cada nuevo producto, especifica OpenAI.<\/p>\n<h2>La regulaci\u00f3n de la IA avanza en todo el mundo<\/h2>\n<p>Con esta iniciativa, la empresa demuestra que despliega importantes recursos para proteger sus modelos.  Las IA generativas tienen tendencia a alucinar, lo que significa que pueden generar contenido completamente falso mientras lo hacen pasar por factual.  Para regular mejor su uso y prevenir sus riesgos, los legisladores de todo el mundo est\u00e1n estudiando la posibilidad de regular esta tecnolog\u00eda.<\/p>\n<p>La Uni\u00f3n Europea ya ha hecho grandes avances en la Ley de IA, que obligar\u00e1 en particular a las empresas a hacer todo lo posible para garantizar que sus modelos no se utilicen con fines maliciosos.  El Reino Unido acaba de establecer principios espec\u00edficos para guiar las regulaciones de IA, centr\u00e1ndose en la competencia y la transparencia.  Dentro de unas semanas, el pa\u00eds acoger\u00e1 la primera cumbre mundial sobre la seguridad de la inteligencia artificial.<\/p>\n<p>Al otro lado del Atl\u00e1ntico, los legisladores se re\u00fanen frecuentemente con los directores generales de empresas especializadas en IA, pero por el momento no se ha establecido ning\u00fan marco legal.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/09\/21\/openai-multiplie-ses-efforts-pour-securiser-ses-modeles-dia\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Para hacer que sus modelos de inteligencia artificial (IA) sean m\u00e1s robustos y seguros, OpenAI quiere establecer una<\/p>\n","protected":false},"author":1,"featured_media":869287,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[9438,97,69255,7906,83672,18,2692,251],"class_list":["post-962710","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-esfuerzos","tag-esta","tag-intensificando","tag-modelos","tag-openai","tag-para","tag-proteger","tag-sus"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/962710","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=962710"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/962710\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/869287"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=962710"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=962710"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=962710"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}