La suspensión de modelos de IA de Anthropic por orden del gobierno de EE. UU.
La start-up estadounidense de inteligencia artificial, Anthropic, ha tomado una drástica decisión al suspender el acceso a sus dos modelos más avanzados, Fable 5 y Mythos 5, solo tres días después de su lanzamiento. Esta acción responde a una directiva emitida por el gobierno de los Estados Unidos, la cual invoca razones de “seguridad nacional”.
Directivas del gobierno y sus implicaciones
Washington ha ordenado, bajo el control de exportaciones, que se restrinja el acceso a estos modelos para «todo ressortissant étranger, tanto dentro como fuera de EE. UU.». Esto incluye incluso a los empleados extranjeros de Anthropic. Debido a la imposibilidad de distinguir a los usuarios según su nacionalidad, la empresa, que ya había tenido conflictos con la administración de Donald Trump, ha decidido “desactivar brutalmente” ambos modelos para todos sus clientes.
Controversia en torno a la seguridad
La directiva gubernamental fue recibida a las 17:21 horas, hora local, y no especificó las razones detrás de esa preocupación de seguridad nacional, según informes. La decisión fue tomada por el secretario de Comercio, Howard Lutnick, después de que se supiera que una empresa había conseguido contornar los mecanismos de seguridad diseñados para evitar el uso malicioso de los modelos. Anthropic ha manifestado su desaprobación con esta situación, sugiriendo que la existencia de un potencial contorno de las medidas de seguridad no debe justificar el retiro de un modelo comercial que tiene un amplio alcance.
Normativas y sugerencias de Anthropic
Anthropic ha instado a crear un sistema de auditoría obligatorio para los modelos de inteligencia artificial más poderosos, inspirado en el marco regulador de la aviación. Dario Amodei, el CEO de la empresa, argumenta que el gobierno debería tener la capacidad para prohibir el despliegue de modelos si así lo ven necesario. Sin embargo, enfatiza que estas acciones deben llevarse a cabo dentro de un contexto legal transparente, justo y técnico. La reciente directiva ha sido criticada por no seguir estos principios.
Las capacidades de Fable 5 y Mythos 5
Fable 5, el primer modelo de la nueva clase Mythos, fue introducido recientemente y tiene restricciones para su uso en áreas sensibles como ciberseguridad y amenazas biológicas. Su contraparte, Mythos 5, está disponible solo para un grupo selecto de aproximadamente 200 empresas y organizaciones estatales, y tiene la capacidad de detectar y aprovechar fallas de seguridad a una velocidad sin precedentes.
Reacciones en la comunidad y el futuro
La reacción a esta decisión ha sido variada. El investigador Dean Ball, quien ha trabajado como asesor sobre inteligencia artificial en la Casa Blanca, describe la situación como “grotesca”, cuestionando si esto es el resultado de un exceso de miedo o un ataque injustificado. Por su parte, Vilas Dhar, presidente de una fundación dedicada al ámbito de la IA, ha expresado su preocupación por cómo el acceso y la seguridad parecen estar en conflicto.
A pesar de la presión regulatoria, la administración de Donald Trump había comenzado a adoptar un enfoque más flexible hacia los controles sobre los modelos avanzados de IA, un cambio que subraya el complicado equilibrio entre innovación y seguridad nacional en el panorama tecnológico actual.
About the Author
