{"id":724182,"date":"2023-04-26T11:40:37","date_gmt":"2023-04-26T11:40:37","guid":{"rendered":"https:\/\/teknomers.com\/es\/gpt-5-dall-e-2-normativa-ai-el-cto-de-openai-confia\/"},"modified":"2023-04-26T11:40:40","modified_gmt":"2023-04-26T11:40:40","slug":"gpt-5-dall-e-2-normativa-ai-el-cto-de-openai-confia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/gpt-5-dall-e-2-normativa-ai-el-cto-de-openai-confia\/","title":{"rendered":"GPT-5, Dall-E 2, normativa AI\u2026 El CTO de OpenAI conf\u00eda"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<p>Citada como la &#8220;creadora de ChatGPT&#8221; por The Times, Mira Murati es la CTO (directora de tecnolog\u00eda) de OpenAI, por lo que es responsable de liderar la innovaci\u00f3n t\u00e9cnica de la empresa.  &#8230;<\/p>\n<div id=\"#full-content\" style=\"display:none\">\n<p>Citado como el &#8221; <em>creador de ChatGPT<\/em> &#8221; hablar <em>Veces<\/em>, Mira Murati es la CTO (Chief Technology Officer) de OpenAI, por lo que es la responsable de liderar la innovaci\u00f3n t\u00e9cnica de la empresa.  En una entrevista con el<em>Associated Press<\/em>habla de los modelos desarrollados por la firma, pero tambi\u00e9n de los retos que a\u00fan le quedan por afrontar.<\/p>\n<h2>OpenAI no esperaba tal \u00e9xito de ChatGPT<\/h2>\n<p>Desde su lanzamiento a finales de noviembre, ChatGPT ha revolucionado toda la industria tecnol\u00f3gica, provocando una carrera por la inteligencia artificial (IA) generativa entre sus principales actores.  En solo dos meses, el chatbot registr\u00f3 100 millones de usuarios, lo que la convierte en la aplicaci\u00f3n para consumidores de m\u00e1s r\u00e1pido crecimiento en la historia.<\/p>\n<p>Seg\u00fan Mira Murati, OpenAI no hab\u00eda previsto tal \u00e9xito.  &#8220;<em> No anticipamos cu\u00e1n cautivadas estar\u00edan las personas con la idea de hablar con un sistema de IA.  Esta fue solo una descripci\u00f3n general de la investigaci\u00f3n.  No esper\u00e1bamos tal nivel de entusiasmo, especialmente en t\u00e9rminos de n\u00famero de usuarios.<\/em> \u00bb, <a rel=\"nofollow noopener\" href=\"https:\/\/apnews.com\/article\/openai-cto-mira-murati-chatgpt-gpt4-dalle-0e701dd406b4a1a2d625e779de0c5164\" target=\"_blank\">ella confiesa<\/a> en la agencia de noticias.<\/p>\n<p>El CTO aprovech\u00f3 para decir m\u00e1s sobre las medidas tomadas por su empresa para prevenir posibles abusos de sus modelos, punto que cada vez genera m\u00e1s preocupaci\u00f3n.  Al entrenar IA, <strong>IA abierta\u201d <em>amplifica lo que se considera buen comportamiento y desamplifica lo que se considera mal comportamiento<\/em> \u00bb<\/strong>.<\/p>\n<p>Ella da el ejemplo de Dall-E 2, la IA generadora de im\u00e1genes.  &#8220;<em> Quer\u00edamos reducir los sesgos da\u00f1inos que est\u00e1bamos viendo.  Ajustamos la proporci\u00f3n de im\u00e1genes femeninas y masculinas en el conjunto de datos de entrenamiento.  Pero hay que tener mucho cuidado, porque se corre el riesgo de crear otros desequilibrios.  Por lo tanto, es necesario realizar controles constantes.  En este caso, obtuvimos un sesgo diferente porque muchas de estas im\u00e1genes eran de naturaleza sexual.  Por lo tanto, debemos ajustarlo nuevamente y tener mucho cuidado cada vez que hacemos una intervenci\u00f3n, para ver qu\u00e9 est\u00e1 perturbado.<\/em> \u201c, explica, demostrando toda la complejidad de desarrollar estas tecnolog\u00edas sin que est\u00e9n sujetas a sesgos.<\/p>\n<p>Con respecto a ChatGPT, la empresa hizo un aprendizaje reforzado con retroalimentaci\u00f3n humana, para que el modelo pudiera <strong>alinearse m\u00e1s con las preferencias humanas<\/strong> por sus interacciones con los usuarios.<\/p>\n<div id=\"attachment_280014\" style=\"width: 1210px\" class=\"wp-caption aligncenter\"><picture aria-describedby=\"caption-attachment-280014\" decoding=\"async\" class=\"size-full wp-image-280014\"><source type=\"image\/webp\" data-lazy-  data-lazy-\/><\/picture>\n<noscript><picture aria-describedby=\"caption-attachment-280014\" decoding=\"async\" class=\"size-full wp-image-280014\"><source type=\"image\/webp\"  \/><img loading=\"lazy\" aria-describedby=\"caption-attachment-280014\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/04\/GPT-5-Dall-E-2-normativa-AI\u2026-El-CTO-de-OpenAI-confia.jpg\" alt=\"Imagen generada por DALL-E 2.\" width=\"1200\" height=\"800\"  \/>\n<\/picture>\n<\/noscript><\/p>\n<p id=\"caption-attachment-280014\" class=\"wp-caption-text\">Una imagen generada por Dalle-E 2. Imagen: Dall-E 2 \/ OpenAI.<\/p>\n<\/div>\n<h2>No hay GPT-5 todav\u00eda<\/h2>\n<p>Mira Murati est\u00e1 de acuerdo en <strong>la necesidad de una regulaci\u00f3n firme de la inteligencia artificial<\/strong>, al igual que el CEO de OpenAI, Sam Altman, y el CEO de Google, Sundar Pichai.  &#8221; <em>En OpenAI, hablamos constantemente con gobiernos, reguladores y otras organizaciones que est\u00e1n desarrollando estos sistemas para, al menos a nivel empresarial, acordar alg\u00fan nivel de est\u00e1ndares.<\/em> \u201c, comenta ella.  Ella adem\u00e1s considera que <strong>los reguladores gubernamentales deben ser \u201c <em>involucrado<\/em> \u00bb<\/strong> en el di\u00e1logo y manejo de esta tecnolog\u00eda.<\/p>\n<p>Preguntado por la carta firmada por miles de personas que piden un par\u00f3n de seis meses en la b\u00fasqueda de sistemas de IA m\u00e1s avanzados que GPT-4, Murati admite que los riesgos discutidos en ellos son &#8221; <em>v\u00e1lido<\/em> &#8220;.  Por otro lado, cree, al igual que su CEO, que la forma de hacer de los firmantes no permite avanzar en el debate.  &#8221; <em>No creo que firmar una carta sea una forma efectiva de establecer mecanismos de seguridad o coordinar actores espaciales.<\/em> \u201c, remarca.<\/p>\n<p>La CTO tambi\u00e9n denuncia ciertas declaraciones contenidas en la misiva, que considera falsas.  Reitera los comentarios hechos por Sam Altman sobre este tema: <strong>OpenAI no funciona en GPT-5<\/strong>.  Indica que la empresa<em> no tiene intenci\u00f3n de hacerlo en los pr\u00f3ximos seis meses<\/em> &#8220;.  Tambi\u00e9n recuerda que se despleg\u00f3 GPT-4 &#8220;<em> con un gran n\u00famero de salvaguardas y de forma muy coordinada y lenta.  No est\u00e1 disponible para todos, y definitivamente no es de c\u00f3digo abierto.<\/em> &#8220;.  Por ejemplo, OpenAI llam\u00f3 a un equipo rojo para probar su modelo de lenguaje a fin de detectar y corregir sus sesgos.<\/p>\n<p>&#8221; <em>Todo esto para decir que creo que los mecanismos de seguridad y coordinaci\u00f3n de estos sistemas de IA y cualquier sistema tecnol\u00f3gico complejo son dif\u00edciles y requieren mucho pensamiento, exploraci\u00f3n y coordinaci\u00f3n entre los jugadores.<\/em> \u201c, concluye sobre este tema.<\/p>\n<div id=\"attachment_324773\" style=\"width: 1300px\" class=\"wp-caption aligncenter\"><picture aria-describedby=\"caption-attachment-324773\" decoding=\"async\" class=\"size-full wp-image-324773\"><source type=\"image\/webp\" data-lazy-  data-lazy-\/><img loading=\"lazy\" aria-describedby=\"caption-attachment-324773\" decoding=\"async\" alt=\"La p\u00e1gina de inicio de ChatGPT.\" width=\"1290\" height=\"860\"  data-lazy- src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/04\/1682509237_160_GPT-5-Dall-E-2-normativa-AI\u2026-El-CTO-de-OpenAI-confia.jpg\"\/>\n<\/picture>\n<noscript><picture aria-describedby=\"caption-attachment-324773\" decoding=\"async\" class=\"size-full wp-image-324773\"><source type=\"image\/webp\"  \/><img loading=\"lazy\" aria-describedby=\"caption-attachment-324773\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/04\/1682509237_160_GPT-5-Dall-E-2-normativa-AI\u2026-El-CTO-de-OpenAI-confia.jpg\" alt=\"La p\u00e1gina de inicio de ChatGPT.\" width=\"1290\" height=\"860\"  \/>\n<\/picture>\n<\/noscript><\/p>\n<p id=\"caption-attachment-324773\" class=\"wp-caption-text\">Fotograf\u00eda: Jonathan Kemper \/ Unsplash.<\/p>\n<\/div>\n<h2>\u00bfPronto inteligencia artificial general&#038;nbsp?<\/h2>\n<p>Mira Murati explica que OpenAI, a pesar de que ya no es una organizaci\u00f3n sin \u00e1nimo de lucro como cuando se cre\u00f3, asegura que &#8221; <em>estructurar incentivos para que podamos continuar sirviendo a la misi\u00f3n sin fines de lucro<\/em> &#8220;.  Cuando se incorpor\u00f3 a la firma en 2018, ya estaba convencida de que la IA era &#8221; <em>la tecnolog\u00eda m\u00e1s importante jam\u00e1s creada por la humanidad<\/em> ahora cree que una empresa como OpenAI es la mejor manera de hacerlo de forma segura.<\/p>\n<p>Por el momento, sin embargo, reconoce que <strong>su modelo de lenguaje a\u00fan est\u00e1 lejos de llegar al campo de la inteligencia artificial general (AGI)<\/strong>.  Este concepto, considerado la etapa final en la evoluci\u00f3n de la IA, hace referencia a una tecnolog\u00eda capaz de comprender o aprender cualquier tarea intelectual que pueda realizar un ser humano.  &#8221; <em>Estamos lejos de tener un sistema AGI seguro, confiable y alineado.  Nuestro camino para llegar all\u00ed tiene algunos vectores importantes<\/em> \u201cdice el ingeniero.<\/p>\n<p>Para lograrlo, enfatiza <strong>la importancia de probar y validar modelos en condiciones reales<\/strong>.  &#8221; <em>No basta con desarrollar esta tecnolog\u00eda en el vac\u00edo del laboratorio.  Realmente necesitamos ese contacto con la realidad, con el mundo real, para ver d\u00f3nde est\u00e1n las debilidades, d\u00f3nde est\u00e1n los puntos de quiebre, y tratar de hacerlo de una manera controlada, con bajo riesgo, obteniendo la mayor retroalimentaci\u00f3n posible.<\/em> &#8220;, ella explica.  Por el contrario, algunos expertos quieren precisamente evaluar los riesgos de estos sistemas y ralentizar la investigaci\u00f3n antes de desplegarlos.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/04\/26\/openai-mira-murati-cto\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Citada como la &#8220;creadora de ChatGPT&#8221; por The Times, Mira Murati es la CTO (directora de tecnolog\u00eda) de<\/p>\n","protected":false},"author":1,"featured_media":724183,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[8812,60965,62734,158914,12344,83672],"class_list":["post-724182","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-confia","tag-cto","tag-dalle","tag-gpt5","tag-normativa","tag-openai"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/724182","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=724182"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/724182\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/724183"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=724182"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=724182"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=724182"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}