El CEO de Amazon, Andy Jassy, ha estado en el centro de una discusi\u00f3n importante sobre los riesgos de seguridad asociados con los modelos de inteligencia artificial de Anthropic. Seg\u00fan fuentes cercanas a la situaci\u00f3n, Jassy y otros l\u00edderes tecnol\u00f3gicos expresaron sus preocupaciones a altos funcionarios de la administraci\u00f3n Trump esta semana. Este di\u00e1logo surgi\u00f3 a ra\u00edz de las advertencias sobre las capacidades de hacking del modelo Mythos de Anthropic.<\/p>\n
En una sorprendente medida, Anthropic decidi\u00f3 cerrar sus modelos m\u00e1s avanzados a nivel global tras recibir ordenes de seguridad nacional del gobierno estadounidense. La startup con sede en San Francisco, que hab\u00eda solicitado confidencialmente una oferta p\u00fablica inicial en Estados Unidos, hab\u00eda lanzado una versi\u00f3n p\u00fablica llamada Fable, que supuestamente contaba con salvaguardias cibern\u00e9ticas. Sin embargo, s\u00f3lo unos d\u00edas despu\u00e9s, el gobierno notific\u00f3 a la empresa que exist\u00eda un m\u00e9todo para “burlar” estas protecciones, lo que llev\u00f3 a la desactivaci\u00f3n de los modelos Fable 5 y Mythos 5.<\/p>\n
El control de exportaci\u00f3n fue implementado por el Departamento de Comercio de EE.UU., que supervisa los controles de seguridad. Aunque Amazon no ha confirmado su participaci\u00f3n directa en las conversaciones con la administraci\u00f3n, un portavoz de la compa\u00f1\u00eda coment\u00f3 que es com\u00fan que los gobiernos busquen asesor\u00eda sobre riesgos de seguridad. \u201cCuando ocurren, no compartimos los detalles de estas discusiones\u201d, a\u00f1adi\u00f3 el portavoz.<\/p>\n
Algunos expertos en IA consideran que esta decisi\u00f3n es cuestionable, ya que afecta a naciones aliadas y rivales por igual. Jimmy Goodrich, un destacado investigador del Instituto de Conflicto y Cooperaci\u00f3n Global de la Universidad de California, opin\u00f3 que la situaci\u00f3n no fue bien pensada, ya que “incluso proh\u00edbe a canadienses y brit\u00e1nicos empleados en Anthropic realizar investigaciones”.<\/p>\n
El asesor de la Casa Blanca, David Sacks, afirm\u00f3 que la administraci\u00f3n espera que Anthropic resuelva los problemas de seguridad para que el control de exportaci\u00f3n sea levantado y el modelo Fable regrese a la disponibilidad general. Este enfoque sugiere que la administraci\u00f3n Trump, aunque indirectamente, est\u00e1 apoyando el desarrollo responsable de tecnolog\u00edas de inteligencia artificial.<\/p>\n
Este episodio destaca la creciente tensi\u00f3n entre la innovaci\u00f3n tecnol\u00f3gica y las regulaciones de seguridad. A medida que avanzan las capacidades de la IA, es probable que surjan m\u00e1s debates sobre c\u00f3mo deben manejarse estas tecnolog\u00edas de vanguardia. Tanto los gigantes tecnol\u00f3gicos como las startups innovadoras tendr\u00e1n que navegar cuidadosamente entre el deseo de avanzar y las responsabilidades de garantizar la seguridad nacional.<\/p>\n
El futuro de Anthropic y sus modelos de IA depender\u00e1 en gran medida de c\u00f3mo respondan a las inquietudes planteadas y de las decisiones que se tomen en el camino hacia la regulaci\u00f3n de la inteligencia artificial.<\/p>\n