Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Empresas estadounidenses Myft Digest: entregado directamente a su bandeja de entrada.
Puede ser difícil entrenar a un chatbot. El mes pasado, OpenAi retrocedió una actualización para ChatGPT porque su “personalidad predeterminada” era demasiado sycofántica. (Tal vez los datos de capacitación de la compañía fueron tomados de las transcripciones del presidente estadounidense Donald Trump reuniones de gabinete. . .)
La compañía de inteligencia artificial había querido hacer que su chatbot sea más intuitivo, pero sus respuestas a las consultas de los usuarios sesgadas para ser demasiado solidarios y falsos. “Las interacciones sycofánticas pueden ser incómodas, inquietantes y causar angustia. Nos quedamos cortos y estamos trabajando para hacerlo bien”, dijo la compañía en un blog.
La reprogramación de los chatbots sycophantic puede no ser el dilema más crucial que enfrenta OpenAi, pero suena con su mayor desafío: crear una personalidad confiable para la empresa en su conjunto. Esta semana, Operai se vio obligado a revertir su última actualización corporativa planificada diseñada para convertir a la compañía en una entidad con fines de lucro. En cambio, pasará a un Corporación de Beneficios Públicos restante bajo el control de una placa sin fines de lucro.
Eso no resolverá las tensiones estructurales en el núcleo de OpenAI. Tampoco satisfará a Elon Musk, uno de los cofundadores de la compañía, que está buscando acciones legales contra OpenAi por desviarse de su propósito original. ¿La compañía acelera el despliegue del producto de IA para mantener felices a sus patrocinadores financieros? ¿O sigue un enfoque científico más deliberativo para seguir siendo fiel a sus intenciones humanitarias?
Openai se fundó en 2015 como un laboratorio de investigación sin fines de lucro dedicado al desarrollo de inteligencia general artificial en beneficio de la humanidad. Pero la misión de la compañía, así como la definición de AGI, desde entonces se ha bordeado.
Sam Altman, director ejecutivo de Openai, se dio cuenta rápidamente de que la compañía necesitaba grandes cantidades de capital para pagar el talento de investigación y el poder informático requerido para permanecer a la vanguardia de la investigación de IA. Con ese fin, Openai creó una subsidiaria con fines de lucro en 2019. Tal fue el éxito de chatbot chatgpt de que los inversores se han encantado de arrojarle dinero, valorando a OpenAi a $ 260 mil millones durante su última recaudación de fondos. Con 500 millones de usuarios semanales, OpenAI se ha convertido en un gigante de Internet de consumo “accidental”.
Altman, quien fue despedido y comprendido por la junta sin fines de lucro en 2023, ahora dice que quiere construir un “cerebro para el mundo” que pueda requerir cientos de miles de millones, si no billones, de dólares de más inversiones. El único problema con su ambición de ojos salvajes es: como el blogger tecnológico Ed Zitron Rants en términos cada vez más salados: OpenAi aún no ha desarrollado un modelo de negocio viable. El año pasado, la compañía gastó $ 9 mil millones y perdió $ 5 mil millones. ¿Su valoración financiera se basa en una alucinación? Habrá una creciente presión sobre Operai de los inversores rápidamente para comercializar su tecnología.
Además, la definición de AGI sigue cambiando. Tradicionalmente, se ha referido al punto en el que las máquinas superan a los humanos en una amplia gama de tareas cognitivas. Pero en un reciente entrevista con Ben Thompson de Stratechery,Altman reconoció que el término había sido “casi completamente devaluado”. Sin embargo, aceptó una definición más estrecha de AGI como un agente de codificación autónomo que podría escribir software y cualquier humano.
En ese puntaje, las grandes compañías de IA parecen pensar que están cerca de AGI. Un sorteo se refleja en sus propias prácticas de contratación. De acuerdo a Datos de Zeki las 15 principales compañías de IA de EE. UU. Habían estado contratando frenéticamente a los ingenieros de software a una tasa de hasta 3.000 por mes, reclutando un total de 500,000 entre 2011 y 2024. Pero últimamente su tasa de contratación mensual neta ha caído a cero ya que estas compañías anticipan que los agentes de IA pueden realizar muchas de las mismas tareas.
Un reciente trabajo de investigaciónDe Google Deepmind, que también aspira a desarrollar AGI, destacó cuatro riesgos principales de modelos de IA cada vez más autónomos: mal uso de malos actores; desalineación cuando un sistema de IA hace cosas no deseadas; errores que causan daño involuntario; y los riesgos de múltiples agentes cuando las interacciones impredecibles entre los sistemas de IA producen malos resultados. Todos estos son desafíos alucinantes que conllevan algunos riesgos potencialmente catastróficos y pueden requerir algunas soluciones de colaboración. Cuanto más potentes se vuelvan los modelos de IA, más cautelosos deben ser los desarrolladores para implementarlos.
Por lo tanto, cómo se gobiernan las empresas de IA fronteriza no es solo un asunto para las juntas corporativas e inversores, sino para todos nosotros. Operai todavía es preocupantemente deficiente en ese sentido, con impulsos contradictorios. La lucha libre con la sileno será el menor de sus problemas a medida que nos acercamos a AGI, sin embargo, lo define.
About the Author
