Anthropic es actualmente el favorito de los inversores en IA. Google y otras partes ya han invertido más de mil millones de dólares en la empresa, que continúa Los New York Times se conoce como “uno de los laboratorios de IA líderes en el mundo”. Eso fue sólo el comienzo: Amazon anunció que invertiría nada menos que 4 mil millones en Anthropic.
Las dos empresas también trabajarán estrechamente entre sí. Recuerda a Microsoft y OpenAI, el fabricante de DALL-E y ChatGPT. Ese estrecho abrazo comenzó en 2019, cuando Microsoft invirtió mil millones de dólares en OpenAI, seguido de otros 10 mil millones de dólares este año.
Sobre el Autor
Laurens Verhagen prescribe de Volkskrant sobre tecnología, internet e inteligencia artificial. Antes de eso, fue editor en jefe, entre otras cosas nu.nl.
Dominar a la humanidad
Anthropic es mucho más pequeño que su competidor, del cual también es originario. La empresa fue fundada a principios de 2021 por varios empleados de OpenAI que estaban preocupados por el rumbo, en particular por la falta de atención al uso seguro y responsable de la IA. Temen que partes malintencionadas abusen de los chatbots avanzados como ChatGPT. Ya se conocen las advertencias, como el uso de chatbots para correos electrónicos de phishing.
Entre las salidas se encuentran el jefe de investigación de OpenAI, Dario Amodei (ahora director ejecutivo de Anthropic) y su hermana Daniela.
También hay muchas similitudes entre las dos empresas. Muchos de los empleados de la empresa con sede en San Francisco creen firmemente en la llegada de la AGI (inteligencia general artificial). Esta es la controvertida idea de que un modelo de IA en algún momento será el jefe de la humanidad en todos los ámbitos.
Ese todavía no es el caso. Aunque la IA funciona mejor que los humanos en áreas cada vez más específicas, no en todos los ámbitos. Pero este momento se acerca rápidamente, piensan los optimistas. Otra similitud: Amodei, al igual que Sam Altman de OpenAI, no se deja guiar por las limitaciones.
Nivel existencial profundo
Recientemente se le preguntó al CEO sobre esto durante una mesa redonda. Los límites de los grandes modelos lingüísticos.que poseen chatbots como ChatGPT o Anthropics claudio conducir. El progreso ha sido significativo últimamente, especialmente a medida que siguen creciendo. A diferencia de los críticos, Amodei está convencido de que no hay límite para esos modelos: “Durante la última década ha habido un aumento notable en la escala a la que entrenamos redes neuronales, y continuamos ampliándolas, y siguen funcionando mejor”. y mejor.’
Es precisamente la creencia de Anthropic en AGI lo que les hace querer hacer las cosas de manera diferente. A los empleados antrópicos no les preocupa necesariamente que su aplicación no funcione bien. No: ‘Tienen miedo – en un nivel existencial profundo – por la idea general de lo que están haciendo: construir potentes modelos de IA y entregarlos a personas que podrían usarlos para hacer cosas destructivas”, dijo Los New York Times.
Según el periodista Kevin Roose, quien anteriormente tuvo una experiencia extraña con el chatbot Bing. que quería destruir su matrimonioesto conduce a un chatbot bastante “bueno y sermoneador”: “Cada vez que el programa contrarrestaba mis intentos de engañarlo para que se comportara mal, me daba una lección sobre mi moral”.
Una primera versión ya estaba lista el año pasado, mucho antes de que ChatGPT viera la luz. Pero Anthropic decidió no presentar a Claude al público en general por temor a abusos. Ahora se puede utilizar Claude, pero por ahora sólo en EE.UU. y Gran Bretaña.
Al igual que ChatGPT o Bard de Google, Claude también puede escribir poemas, códigos o recetas y crear resúmenes, pero según los creadores, el riesgo de desviarse es menor que el de la competencia porque el modelo está diseñado teniendo como base principios de seguridad.
Miguel Pieters, fundador de Linear Logic, la startup de IA de Ámsterdam, ha seguido de cerca a Anthropic durante algún tiempo y también está experimentando con el modelo de lenguaje de Anthropic, así como con otros modelos.
Bajar el sillín de la bicicleta
Pieters considera que la empresa es interesante por su enfoque diferente: ‘OpenAI dice que quiere mejorar a la humanidad con IA, mientras que Anthropic se compromete a crear una IA que no sea dañina para el mundo. Piense en combatir los estereotipos a través de sus chatbots o impedir que Claude dé instrucciones para cosas ilegales, como por ejemplo fabricar una bomba.’ Todas las empresas de IA hablan ahora de IA responsable, pero según Pieters, Anthropic realmente está a la vanguardia en este punto.
Por otro lado, OpenAI es actualmente mucho más potente desde el punto de vista financiero y, por tanto, puede desarrollarse más rápidamente. Esta semana, OpenAI anunció nuevas capacidades de ChatGPT. El chatbot pronto también podrá comunicarse por voz y podrá dar consejos basados en imágenes. El ejemplo que pone la propia OpenAI: alguien que quiere bajar el sillín de su bicicleta, pero no sabe cómo. ChatGPT utiliza imágenes para indicarle qué herramientas se necesitan para esto.
Si Anthropic quiere unirse, se necesitan desesperadamente los miles de millones de Amazon, dice Pieters. ‘Algunos dirán que ahora están en sintonía con las Big Tech, pero no tienen otra opción. Si no aceptan el dinero, se quedarán atrás de Google, Meta u OpenAI.’