{"id":1707375,"date":"2025-05-08T12:31:28","date_gmt":"2025-05-08T12:31:28","guid":{"rendered":"https:\/\/teknomers.com\/es\/operai-todavia-tiene-un-problema-de-gobernanza\/"},"modified":"2025-05-08T12:31:34","modified_gmt":"2025-05-08T12:31:34","slug":"operai-todavia-tiene-un-problema-de-gobernanza","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/operai-todavia-tiene-un-problema-de-gobernanza\/","title":{"rendered":"Operai todav\u00eda tiene un problema de gobernanza"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description o3-type-body-base\"><span>Simplemente reg\u00edstrese en el <!-- -->Empresas estadounidenses<!-- --> Myft Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=49ad6c69-9b67-48da-a274-8408dfdaa7cb&amp;concept-id=1248b3d3-1d4c-4454-af23-c0b4707ed412\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Puede ser dif\u00edcil entrenar a un chatbot. El mes pasado, OpenAi retrocedi\u00f3 una actualizaci\u00f3n para ChatGPT porque su &#8220;personalidad predeterminada&#8221; era demasiado sycof\u00e1ntica. (Tal vez los datos de capacitaci\u00f3n de la compa\u00f1\u00eda fueron tomados de las transcripciones del presidente estadounidense Donald Trump <a rel=\"nofollow noopener\" href=\"https:\/\/nypost.com\/2025\/04\/15\/media\/jon-stewart-rips-trumps-embarrassingly-sycophantic-cabinet-members\/\" data-trackable=\"link\" target=\"_blank\">reuniones de gabinete<\/a>. . .)<\/p>\n<p>La compa\u00f1\u00eda de inteligencia artificial hab\u00eda querido hacer que su chatbot sea m\u00e1s intuitivo, pero sus respuestas a las consultas de los usuarios sesgadas para ser demasiado solidarios y falsos. &#8220;Las interacciones sycof\u00e1nticas pueden ser inc\u00f3modas, inquietantes y causar angustia. Nos quedamos cortos y estamos trabajando para hacerlo bien&#8221;, dijo la compa\u00f1\u00eda en un <a rel=\"nofollow noopener\" href=\"https:\/\/openai.com\/index\/sycophancy-in-gpt-4o\/\" data-trackable=\"link\" target=\"_blank\">blog<\/a>.<\/p>\n<p>La reprogramaci\u00f3n de los chatbots sycophantic puede no ser el dilema m\u00e1s crucial que enfrenta OpenAi, pero suena con su mayor desaf\u00edo: crear una personalidad confiable para la empresa en su conjunto. Esta semana, Operai se vio obligado a revertir su \u00faltima actualizaci\u00f3n corporativa planificada dise\u00f1ada para convertir a la compa\u00f1\u00eda en una entidad con fines de lucro. En cambio, pasar\u00e1 a un <a rel=\"nofollow noopener\" href=\"https:\/\/openai.com\/index\/evolving-our-structure\/\" data-trackable=\"link\" target=\"_blank\">Corporaci\u00f3n de Beneficios P\u00fablicos<\/a> restante bajo el control de una placa sin fines de lucro. <\/p>\n<p>Eso no resolver\u00e1 las tensiones estructurales en el n\u00facleo de OpenAI. Tampoco satisfar\u00e1 a Elon Musk, uno de los cofundadores de la compa\u00f1\u00eda, que est\u00e1 buscando acciones legales contra OpenAi por desviarse de su prop\u00f3sito original. \u00bfLa compa\u00f1\u00eda acelera el despliegue del producto de IA para mantener felices a sus patrocinadores financieros? \u00bfO sigue un enfoque cient\u00edfico m\u00e1s deliberativo para seguir siendo fiel a sus intenciones humanitarias?<\/p>\n<p>Openai se fund\u00f3 en 2015 como un laboratorio de investigaci\u00f3n sin fines de lucro dedicado al desarrollo de inteligencia general artificial en beneficio de la humanidad. Pero la misi\u00f3n de la compa\u00f1\u00eda, as\u00ed como la definici\u00f3n de AGI, desde entonces se ha bordeado. <\/p>\n<p>Sam Altman, director ejecutivo de Openai, se dio cuenta r\u00e1pidamente de que la compa\u00f1\u00eda necesitaba grandes cantidades de capital para pagar el talento de investigaci\u00f3n y el poder inform\u00e1tico requerido para permanecer a la vanguardia de la investigaci\u00f3n de IA. Con ese fin, Openai cre\u00f3 una subsidiaria con fines de lucro en 2019. Tal fue el \u00e9xito de chatbot chatgpt de que los inversores se han encantado de arrojarle dinero, valorando a OpenAi a $ 260 mil millones durante su \u00faltima recaudaci\u00f3n de fondos. Con 500 millones de usuarios semanales, OpenAI se ha convertido en un gigante de Internet de consumo &#8220;accidental&#8221;. <\/p>\n<p>Altman, quien fue despedido y comprendido por la junta sin fines de lucro en 2023, ahora dice que quiere construir un &#8220;cerebro para el mundo&#8221; que pueda requerir cientos de miles de millones, si no billones, de d\u00f3lares de m\u00e1s inversiones. El \u00fanico problema con su ambici\u00f3n de ojos salvajes es: como el blogger tecnol\u00f3gico <a rel=\"nofollow noopener\" href=\"https:\/\/www.wheresyoured.at\/reality-check\/?ref=ed-zitrons-wheres-your-ed-at-newsletter\" data-trackable=\"link\" target=\"_blank\">Ed Zitron<\/a> Rants en t\u00e9rminos cada vez m\u00e1s salados: OpenAi a\u00fan no ha desarrollado un modelo de negocio viable. El a\u00f1o pasado, la compa\u00f1\u00eda gast\u00f3 $ 9 mil millones y perdi\u00f3 $ 5 mil millones. \u00bfSu valoraci\u00f3n financiera se basa en una alucinaci\u00f3n? Habr\u00e1 una creciente presi\u00f3n sobre Operai de los inversores r\u00e1pidamente para comercializar su tecnolog\u00eda.<\/p>\n<p>Adem\u00e1s, la definici\u00f3n de AGI sigue cambiando. Tradicionalmente, se ha referido al punto en el que las m\u00e1quinas superan a los humanos en una amplia gama de tareas cognitivas. Pero en un reciente <a rel=\"nofollow noopener\" href=\"https:\/\/stratechery.com\/2025\/an-interview-with-openai-ceo-sam-altman-about-building-a-consumer-tech-company\/\" data-trackable=\"link\" target=\"_blank\">entrevista<\/a> con Ben Thompson de Stratechery<a rel=\"nofollow noopener\" href=\"https:\/\/stratechery.com\/2025\/an-interview-with-openai-ceo-sam-altman-about-building-a-consumer-tech-company\/\" data-trackable=\"link\" target=\"_blank\">,<\/a>Altman reconoci\u00f3 que el t\u00e9rmino hab\u00eda sido &#8220;casi completamente devaluado&#8221;. Sin embargo, acept\u00f3 una definici\u00f3n m\u00e1s estrecha de AGI como un agente de codificaci\u00f3n aut\u00f3nomo que podr\u00eda escribir software y cualquier humano.<\/p>\n<p>En ese puntaje, las grandes compa\u00f1\u00edas de IA parecen pensar que est\u00e1n cerca de AGI. Un sorteo se refleja en sus propias pr\u00e1cticas de contrataci\u00f3n. De acuerdo a <a rel=\"nofollow noopener\" href=\"https:\/\/zekidata.com\/report\/the-state-of-ai-talent-2025\/\" data-trackable=\"link\" target=\"_blank\">Datos de Zeki<\/a> las 15 principales compa\u00f1\u00edas de IA de EE. UU. Hab\u00edan estado contratando fren\u00e9ticamente a los ingenieros de software a una tasa de hasta 3.000 por mes, reclutando un total de 500,000 entre 2011 y 2024. Pero \u00faltimamente su tasa de contrataci\u00f3n mensual neta ha ca\u00eddo a cero ya que estas compa\u00f1\u00edas anticipan que los agentes de IA pueden realizar muchas de las mismas tareas.<\/p>\n<figure class=\"n-content-image n-content-image--full\" data-component=\"image-set\"><picture><source media=\"(min-width: 700px)\"  width=\"3500\" height=\"2500\"\/><source media=\"(max-width: 490px)\"  width=\"1500\" height=\"2000\"\/><\/picture><\/figure>\n<p>Un reciente <a rel=\"nofollow noopener\" href=\"https:\/\/deepmind.google\/discover\/blog\/taking-a-responsible-path-to-agi\/\" data-trackable=\"link\" target=\"_blank\">trabajo de investigaci\u00f3n<\/a>De Google Deepmind, que tambi\u00e9n aspira a desarrollar AGI, destac\u00f3 cuatro riesgos principales de modelos de IA cada vez m\u00e1s aut\u00f3nomos: mal uso de malos actores; desalineaci\u00f3n cuando un sistema de IA hace cosas no deseadas; errores que causan da\u00f1o involuntario; y los riesgos de m\u00faltiples agentes cuando las interacciones impredecibles entre los sistemas de IA producen malos resultados. Todos estos son desaf\u00edos alucinantes que conllevan algunos riesgos potencialmente catastr\u00f3ficos y pueden requerir algunas soluciones de colaboraci\u00f3n. Cuanto m\u00e1s potentes se vuelvan los modelos de IA, m\u00e1s cautelosos deben ser los desarrolladores para implementarlos. <\/p>\n<p>Por lo tanto, c\u00f3mo se gobiernan las empresas de IA fronteriza no es solo un asunto para las juntas corporativas e inversores, sino para todos nosotros. Operai todav\u00eda es preocupantemente deficiente en ese sentido, con impulsos contradictorios. La lucha libre con la sileno ser\u00e1 el menor de sus problemas a medida que nos acercamos a AGI, sin embargo, lo define.<\/p>\n<p><em>John.thornhill@ft.com<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/49ad6c69-9b67-48da-a274-8408dfdaa7cb\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrese en el Empresas estadounidenses Myft Digest: entregado directamente a su bandeja<\/p>\n","protected":false},"author":1,"featured_media":1707376,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[39333,273891,2349,324,1565],"class_list":["post-1707375","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-gobernanza","tag-operai","tag-problema","tag-tiene","tag-todavia"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1707375","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1707375"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1707375\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1707376"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1707375"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1707375"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1707375"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}