Preocupaciones sobre la IA de Anthropic
El CEO de Amazon, Andy Jassy, ha estado en el centro de una discusión importante sobre los riesgos de seguridad asociados con los modelos de inteligencia artificial de Anthropic. Según fuentes cercanas a la situación, Jassy y otros líderes tecnológicos expresaron sus preocupaciones a altos funcionarios de la administración Trump esta semana. Este diálogo surgió a raíz de las advertencias sobre las capacidades de hacking del modelo Mythos de Anthropic.
Cierre global de modelos de Anthropic
En una sorprendente medida, Anthropic decidió cerrar sus modelos más avanzados a nivel global tras recibir ordenes de seguridad nacional del gobierno estadounidense. La startup con sede en San Francisco, que había solicitado confidencialmente una oferta pública inicial en Estados Unidos, había lanzado una versión pública llamada Fable, que supuestamente contaba con salvaguardias cibernéticas. Sin embargo, sólo unos días después, el gobierno notificó a la empresa que existía un método para “burlar” estas protecciones, lo que llevó a la desactivación de los modelos Fable 5 y Mythos 5.
Medidas de Control de Exportación
El control de exportación fue implementado por el Departamento de Comercio de EE.UU., que supervisa los controles de seguridad. Aunque Amazon no ha confirmado su participación directa en las conversaciones con la administración, un portavoz de la compañía comentó que es común que los gobiernos busquen asesoría sobre riesgos de seguridad. “Cuando ocurren, no compartimos los detalles de estas discusiones”, añadió el portavoz.
Reacciones de los expertos
Algunos expertos en IA consideran que esta decisión es cuestionable, ya que afecta a naciones aliadas y rivales por igual. Jimmy Goodrich, un destacado investigador del Instituto de Conflicto y Cooperación Global de la Universidad de California, opinó que la situación no fue bien pensada, ya que “incluso prohíbe a canadienses y británicos empleados en Anthropic realizar investigaciones”.
Pasos Futuras de Anthropic
El asesor de la Casa Blanca, David Sacks, afirmó que la administración espera que Anthropic resuelva los problemas de seguridad para que el control de exportación sea levantado y el modelo Fable regrese a la disponibilidad general. Este enfoque sugiere que la administración Trump, aunque indirectamente, está apoyando el desarrollo responsable de tecnologías de inteligencia artificial.
Impacto en el Futuro de la IA
Este episodio destaca la creciente tensión entre la innovación tecnológica y las regulaciones de seguridad. A medida que avanzan las capacidades de la IA, es probable que surjan más debates sobre cómo deben manejarse estas tecnologías de vanguardia. Tanto los gigantes tecnológicos como las startups innovadoras tendrán que navegar cuidadosamente entre el deseo de avanzar y las responsabilidades de garantizar la seguridad nacional.
El futuro de Anthropic y sus modelos de IA dependerá en gran medida de cómo respondan a las inquietudes planteadas y de las decisiones que se tomen en el camino hacia la regulación de la inteligencia artificial.
About the Author
