Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Inteligencia artificial myFT Digest – entregado directamente en su bandeja de entrada.
El autor es director ejecutivo del Aspen Strategy Group y miembro visitante de la Institución Hoover de la Universidad de Stanford.
Si bien se han salvado millones de vidas gracias a los medicamentos, muchos miles murieron durante el siglo XIX por ingerir medicamentos peligrosos vendidos por charlatanes. En Estados Unidos y Europa, esto llevó a la implementación gradual de leyes e institutos de seguridad de alimentos y medicamentos (incluida la Administración de Alimentos y Medicamentos de Estados Unidos) para garantizar que los beneficios superaran los daños.
El auge de los modelos de lenguaje de gran escala de inteligencia artificial, como GPT-4, está impulsando a las industrias para que todo, desde la innovación científica hasta la educación y la producción cinematográfica, sea más fácil y eficiente. Pero, además de los enormes beneficios, estas tecnologías también pueden crear graves riesgos para la seguridad nacional.
No permitiríamos que se vendiera un nuevo medicamento sin realizar pruebas exhaustivas de seguridad y eficacia, así que ¿por qué la IA debería ser diferente? Crear una “Administración de Alimentos y Medicamentos para la IA” puede ser una metáfora contundente, ya que Instituto AI Now ha escrito, pero es hora de que los gobiernos exijan pruebas de seguridad de la IA.
El gobierno del Reino Unido bajo el ex primer ministro Rishi Sunak merece un verdadero reconocimiento en este sentido: después de solo un año de que Sunak asumiera el cargo, el Reino Unido celebró la revolucionaria Cumbre de Seguridad de IA de Bletchley Park, creó un Instituto de Seguridad de IA relativamente bien financiado y evaluó cinco grandes modelos lingüísticos líderes.
Estados Unidos y otros países como Singapur, Canadá y Japón están imitando el enfoque del Reino Unido, pero estos esfuerzos todavía están en sus primeras etapas. OpenAI y Anthropic están permitiendo voluntariamente que Estados Unidos y el Reino Unido prueben sus modelos, y merecen elogios por ello.
Ahora es el momento de ir más allá. La brecha más evidente en nuestro enfoque actual de la seguridad de la IA es la falta de pruebas obligatorias, independientes y rigurosas para evitar que la IA cause daños. Esas pruebas solo deberían aplicarse a los modelos más grandes y ser obligatorias antes de que se lance al público.
Si bien las pruebas de drogas pueden llevar años, los equipos técnicos del AI Safety Institute han podido realizar pruebas muy específicas en el lapso de unas pocas semanas. Por lo tanto, la seguridad no frenaría significativamente la innovación.
Las pruebas deberían centrarse específicamente en el grado en que el modelo podría causar daños físicos tangibles, como su capacidad para ayudar a crear armas biológicas o químicas y socavar las defensas cibernéticas. También es importante evaluar si el modelo es difícil de controlar para los humanos y si es capaz de entrenarse a sí mismo para “escapar” de las funciones de seguridad diseñadas para restringirlo. Parte de esto ya ha sucedido: en febrero de 2024 se descubrió que piratas informáticos que trabajaban para China, Rusia, Corea del Norte e Irán habían utilizado la tecnología de OpenAI para llevar a cabo nuevos ataques cibernéticos.
Si bien la IA ética y los prejuicios también son cuestiones críticas, hay más desacuerdo dentro de la sociedad sobre qué constituye tal prejuicio. Por lo tanto, las pruebas deberían centrarse inicialmente en la seguridad nacional y el daño físico a los seres humanos como la amenaza más preeminente que plantea la IA. Imaginemos, por ejemplo, si un grupo terrorista utilizara vehículos autónomos impulsados por IA para apuntar y detonar explosivos, un temor expresado por la OTAN.
Una vez que pasan estas pruebas iniciales, las empresas de inteligencia artificial (al igual que las de la industria farmacéutica) deberían estar obligadas a vigilar de cerca y de manera constante el posible abuso de sus modelos y a denunciar el uso indebido de inmediato. Una vez más, se trata de una práctica habitual en la industria farmacéutica y garantiza que se retiren del mercado los medicamentos potencialmente dañinos.
A cambio de ese seguimiento y esas pruebas, las empresas que cooperen deberían recibir una “protección” que las proteja de alguna responsabilidad legal. Tanto el sistema jurídico de Estados Unidos como el del Reino Unido tienen leyes vigentes que equilibran el peligro y la utilidad de productos como motores, automóviles, medicamentos y otras tecnologías. Por ejemplo, las aerolíneas que han cumplido con las normas de seguridad no suelen ser responsables de las consecuencias de desastres naturales imprevisibles.
Si quienes construyen la IA se niegan a cumplir, deberían enfrentar sanciones, tal como lo hacen las compañías farmacéuticas si ocultan datos a los reguladores.
California está allanando el camino en este sentido: el mes pasado, la legislatura del estado aprobó un proyecto de ley (que actualmente espera la aprobación del gobernador Gavin Newsom) que exige a los desarrolladores de inteligencia artificial crear protocolos de seguridad para mitigar los “daños críticos”. Si bien no es demasiado oneroso, se trata de un paso en la dirección correcta.
Durante décadas, los estrictos requisitos de presentación de informes y pruebas en el sector farmacéutico han permitido el desarrollo responsable de medicamentos que ayudan, y no dañan, a la población humana. De manera similar, si bien el Instituto de Seguridad de la IA en el Reino Unido y en otros lugares representa un primer paso crucial, para aprovechar al máximo los beneficios de la IA necesitamos acciones inmediatas y concretas para crear y hacer cumplir estándares de seguridad, antes de que los modelos causen daños en el mundo real.
About the Author
