{"id":747730,"date":"2023-05-10T19:12:34","date_gmt":"2023-05-10T19:12:34","guid":{"rendered":"https:\/\/teknomers.com\/es\/openai-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como-funciona-chatgpt\/"},"modified":"2023-05-10T19:12:37","modified_gmt":"2023-05-10T19:12:37","slug":"openai-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como-funciona-chatgpt","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/openai-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como-funciona-chatgpt\/","title":{"rendered":"OpenAI est\u00e1 desarrollando una herramienta para ayudar a comprender c\u00f3mo funciona ChatGPT"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Los chatbots como ChatGPT no pueden pensar como un humano y no entienden lo que escriben.  Los cient\u00edficos tampoco saben c\u00f3mo hacen para pensar los modelos, sobre todo cuando inventan noticias falsas.  OpenAI revel\u00f3 en un comunicado de prensa publicado el 9 de mayo que est\u00e1 trabajando en una nueva herramienta para identificar qu\u00e9 partes de las inteligencias artificiales (IA) son responsables de qu\u00e9 comportamiento.<\/p>\n<h2>Una herramienta lejos de ser completa<\/h2>\n<p>Para imitar la conversaci\u00f3n y el habla de una persona lo m\u00e1s cerca posible, los chatbots se entrenan con cantidades gigantescas de datos extra\u00eddos de sitios web.  A finales de abril, el <em>El Correo de Washington<\/em> analiz\u00f3 una base de datos, denominada C4, para comprender de d\u00f3nde proced\u00eda la informaci\u00f3n de la IA.  C4 contiene m\u00e1s de 15 millones de sitios web, como medios, sitios de patentes o incluso art\u00edculos de blog.<\/p>\n<p>Cuando una inteligencia artificial ha explorado y registrado una base de datos completa, su entrenamiento inicial est\u00e1 completo.  Al igual que un cerebro humano, la informaci\u00f3n se registra con lo que podr\u00eda estar relacionado con \u201cneuronas\u201d.  Por ejemplo, cuando un usuario hace la pregunta &#8220;\u00bfQui\u00e9n es el mejor deportista de todos los tiempos?&#8221;  una neurona de &#8220;f\u00fatbol&#8221; puede aumentar la probabilidad de que la IA nombre a deportistas espec\u00edficos de f\u00fatbol.<\/p>\n<div id=\"attachment_344701\" style=\"width: 1210px\" class=\"wp-caption aligncenter\"><picture aria-describedby=\"caption-attachment-344701\" decoding=\"async\" class=\"size-full wp-image-344701\"><source type=\"image\/webp\" data-lazy-  data-lazy-\/><\/picture>\n<noscript><picture aria-describedby=\"caption-attachment-344701\" decoding=\"async\" class=\"size-full wp-image-344701\"><source type=\"image\/webp\"  \/><img loading=\"lazy\" aria-describedby=\"caption-attachment-344701\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/05\/OpenAI-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como.jpg\" alt=\"Ejemplo de uso de la herramienta Open-AI.\" width=\"1200\" height=\"424\"  \/>\n<\/picture>\n<\/noscript><\/p>\n<p id=\"caption-attachment-344701\" class=\"wp-caption-text\">Ejemplo de uso de la herramienta OpenAI.  Imagen: OpenAI.<\/p>\n<\/div>\n<p>Para comprender mejor este fen\u00f3meno neuronal, OpenAI <a rel=\"nofollow noopener\" href=\"https:\/\/openai.com\/research\/language-models-can-explain-neurons-in-language-models\" target=\"_blank\">desarrollado<\/a> una herramienta para identificarlos.  &#8221; <em>Estamos tratando de desarrollar formas de anticipar problemas en un sistema de IA<\/em> dijo William Saunders, l\u00edder del equipo de interpretaci\u00f3n de la compa\u00f1\u00eda de California.  \u00c9l supera a los medios <a rel=\"nofollow noopener\" href=\"https:\/\/techcrunch.com\/2023\/05\/09\/openais-new-tool-attempts-to-explain-language-models-behaviors\/\" target=\"_blank\"><em>TechCrunch<\/em><\/a>\u201c <em>Realmente queremos poder saber si podemos confiar en lo que hace el modelo y la respuesta que produce.<\/em> &#8220;.  Los ingenieros se\u00f1alan que la herramienta, de libre acceso en GitHub, a\u00fan est\u00e1 en pa\u00f1ales.<\/p>\n<p>Esto ejecuta secuencias de texto en GPT-2 hasta que se activa una neurona en particular.  Luego, la herramienta le pide a GPT-4, el modelo m\u00e1s avanzado de OpenAI, que genere una explicaci\u00f3n de la actividad de la neurona.  Para determinar la correcci\u00f3n de la explicaci\u00f3n, la herramienta proporciona a GPT-4 secuencias de texto y le pide que prediga y simule el comportamiento de la neurona.  Luego, la herramienta compara los comportamientos de la neurona real y la simulada.<\/p>\n<p>Jeff Wu, l\u00edder del equipo de alineaci\u00f3n de OpenAI, explic\u00f3 esta metodolog\u00eda: \u201c <em>Us\u00e1ndolo, podemos esencialmente, para cada neurona, proporcionar alg\u00fan tipo de explicaci\u00f3n preliminar en lenguaje natural de lo que est\u00e1 haciendo y obtener una puntuaci\u00f3n para ver qu\u00e9 tan bien esa explicaci\u00f3n coincide con el comportamiento real.<\/em> &#8220;.  \u00c9l ha a\u00f1adido &#8221; <em>Usamos GPT-4 como parte del proceso para producir explicaciones de lo que busca una neurona, y luego evaluamos qu\u00e9 tan bien esas explicaciones coinciden con la realidad de lo que est\u00e1 haciendo.<\/em> &#8220;.<\/p>\n<div id=\"attachment_344700\" style=\"width: 1150px\" class=\"wp-caption aligncenter\"><picture aria-describedby=\"caption-attachment-344700\" decoding=\"async\" class=\"size-full wp-image-344700\"><source type=\"image\/webp\" data-lazy-  data-lazy-\/><img loading=\"lazy\" aria-describedby=\"caption-attachment-344700\" decoding=\"async\" alt=\"Simulaci\u00f3n GPT-4 de una neurona GPT-2.\" width=\"1140\" height=\"1090\"  data-lazy- src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/05\/1683745954_354_OpenAI-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como.jpg\"\/>\n<\/picture>\n<noscript><picture aria-describedby=\"caption-attachment-344700\" decoding=\"async\" class=\"size-full wp-image-344700\"><source type=\"image\/webp\"  \/><img loading=\"lazy\" aria-describedby=\"caption-attachment-344700\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/05\/1683745954_354_OpenAI-esta-desarrollando-una-herramienta-para-ayudar-a-comprender-como.jpg\" alt=\"Simulaci\u00f3n GPT-4 de una neurona GPT-2.\" width=\"1140\" height=\"1090\"  \/>\n<\/picture>\n<\/noscript><\/p>\n<p id=\"caption-attachment-344700\" class=\"wp-caption-text\">Simulaci\u00f3n GPT-4 de una neurona GPT-2.  Imagen: OpenAI<\/p>\n<\/div>\n<p>En total, la herramienta gener\u00f3 explicaciones para 307.200 neuronas GPT-2, pero solo 1.000 de ellas fueron fruct\u00edferas.  Los investigadores afirman que el desarrollo de este tipo de herramientas podr\u00eda mejorar y prevenir comportamientos t\u00f3xicos de los chatbots.  Son, de todos modos, cautelosos con el tiempo que tardar\u00e1n en ser realmente \u00fatiles.<\/p>\n<p>En muchos pa\u00edses, ChatGPT ha sido criticado por escribir informaci\u00f3n falsa sobre noticias o personas.  En Francia, la CNIL recibi\u00f3 en particular una denuncia a principios de abril de David Libeau, un desarrollador conocido por su lucha por la protecci\u00f3n de datos, sobre la informaci\u00f3n falsa que ChatGPT escribi\u00f3 sobre \u00e9l.  La herramienta permitir\u00eda identificar neuronas defectuosas y corregirlas para limitar las noticias falsas.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/05\/10\/openai-developpe-un-outil-pour-aider-a-comprendre-le-fonctionnement-de-chatgpt\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los chatbots como ChatGPT no pueden pensar como un humano y no entienden lo que escriben. Los cient\u00edficos<\/p>\n","protected":false},"author":1,"featured_media":705097,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[1317,131369,440,12900,18808,97,222,1086,83672,18,158],"class_list":["post-747730","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-ayudar","tag-chatgpt","tag-como","tag-comprender","tag-desarrollando","tag-esta","tag-funciona","tag-herramienta","tag-openai","tag-para","tag-una"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/747730","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=747730"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/747730\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/705097"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=747730"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=747730"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=747730"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}