La propuesta de California de regular la inteligencia artificial ha dividido a Silicon Valley, mientras los opositores advierten que el marco legal podr\u00eda socavar la competencia y la posici\u00f3n de Estados Unidos como l\u00edder mundial en esta tecnolog\u00eda. <\/p>\n
Tras librar una feroz batalla para modificar o suavizar el proyecto de ley a medida que pasaba por la legislatura de California, los ejecutivos de empresas como OpenAI y Meta esperan ansiosamente para ver si Gavin Newsom, el gobernador dem\u00f3crata del estado, lo convertir\u00e1 en ley. Tiene hasta el 30 de septiembre para decidir.<\/p>\n
California es el coraz\u00f3n de la floreciente industria de la IA, y sin una ley federal que regule la tecnolog\u00eda en todo Estados Unidos (y mucho menos un est\u00e1ndar global uniforme), las ramificaciones se extender\u00edan mucho m\u00e1s all\u00e1 del estado. <\/p>\n
\u201cEl resto del mundo ciertamente est\u00e1 prestando mucha atenci\u00f3n a lo que est\u00e1 sucediendo en California y en Estados Unidos en general en este momento, y el resultado all\u00ed probablemente tendr\u00e1 repercusiones en los esfuerzos regulatorios de otras naciones\u201d, dijo al Financial Times Yoshua Bengio, profesor de la Universidad de Montreal y un \u201cpadrino\u201d de la IA.<\/p>\n
\u00bfPor qu\u00e9 California quiere regular la IA?<\/h3>\n
El r\u00e1pido desarrollo de herramientas de inteligencia artificial que pueden generar respuestas humanas a preguntas ha magnificado los riesgos percibidos en torno a esta tecnolog\u00eda, que van desde disputas legales (como la violaci\u00f3n de derechos de autor) hasta desinformaci\u00f3n y proliferaci\u00f3n de deepfakes. Algunos incluso piensan que podr\u00eda representar una amenaza para la humanidad. <\/p>\n
El presidente estadounidense, Joe Biden, emiti\u00f3 una orden ejecutiva el a\u00f1o pasado con el objetivo de establecer est\u00e1ndares nacionales para la seguridad de la IA, pero el Congreso estadounidense no ha logrado ning\u00fan progreso en la aprobaci\u00f3n de leyes nacionales. <\/p>\n
El liberal estado de California ha intervenido a menudo para regular cuestiones en las que el gobierno federal se ha quedado atr\u00e1s. La inteligencia artificial est\u00e1 ahora en el punto de mira con la Ley de Innovaci\u00f3n Segura para Sistemas de Inteligencia Artificial de Fronteras de California, que fue presentada por el senador estatal Scott Wiener. De los diversos proyectos de ley presentados en diferentes estados, el de California es el que tiene m\u00e1s probabilidades de tener un impacto real, ya que el estado est\u00e1 en el centro del auge de la IA, sede de importantes empresas como OpenAI, Anthropic, Meta y Google. <\/p>\n
\u201cLas grandes empresas de inteligencia artificial que m\u00e1s se han expresado sobre este tema est\u00e1n actualmente atrapadas en su carrera por la participaci\u00f3n de mercado y la maximizaci\u00f3n de las ganancias, lo que puede llevar a tomar atajos en materia de seguridad, y es por eso que necesitamos algunas reglas para quienes lideran esta carrera\u201d, dijo Bengio. <\/p>\n
\u00bfQu\u00e9 dice el proyecto de ley? <\/h3>\n
Wiener ha dicho que su proyecto de ley \u201crequiere que s\u00f3lo los mayores desarrolladores de IA hagan lo que todos y cada uno de ellos se han comprometido repetidamente a hacer: realizar pruebas de seguridad b\u00e1sicas en modelos de IA enormemente potentes\u201d. <\/p>\n
El proyecto de ley exigir\u00eda a los desarrolladores que construyan modelos de gran tama\u00f1o que eval\u00faen si son \u201crazonablemente capaces de causar o facilitar materialmente un da\u00f1o cr\u00edtico\u201d, que puede ir desde el uso malintencionado o el robo hasta la creaci\u00f3n de un arma biol\u00f3gica. A continuaci\u00f3n, se esperar\u00eda que las empresas adopten medidas de seguridad razonables contra esos riesgos identificados.<\/p>\n
Los desarrolladores tendr\u00edan que incorporar un \u201cinterruptor de seguridad\u201d en todos los modelos nuevos que superen un cierto tama\u00f1o, en caso de que se utilicen incorrectamente o dejen de funcionar correctamente. Tambi\u00e9n estar\u00edan obligados a redactar un informe de seguridad antes de entrenar a un nuevo modelo y, para ser m\u00e1s transparentes, tendr\u00edan que \u201cinformar de cada incidente de seguridad de inteligencia artificial\u201d al fiscal general del estado y realizar una auditor\u00eda de terceros para garantizar el cumplimiento todos los a\u00f1os. <\/p>\n
Est\u00e1 dirigido a modelos cuyo entrenamiento cuesta m\u00e1s de 100 millones de d\u00f3lares, aproximadamente la cantidad necesaria para entrenar a los mejores modelos de la actualidad. Pero se trata de un objetivo que avanza r\u00e1pidamente: el director ejecutivo de Anthropic, Dario Amodei, ha pronosticado que el pr\u00f3ximo grupo de modelos de vanguardia costar\u00e1 1.000 millones de d\u00f3lares para entrenar y 10.000 millones de d\u00f3lares para 2026. <\/p>\n
El proyecto de ley se aplicar\u00eda a todas las empresas que hagan negocios en California, independientemente de d\u00f3nde tengan su sede, lo que cubrir\u00eda efectivamente a todas las empresas actualmente capaces de desarrollar modelos de IA de primer nivel, dijo Bengio. <\/p>\n
Introducir\u00eda sanciones civiles de hasta el 10 por ciento del costo de entrenamiento de un modelo contra los desarrolladores cuyas herramientas causen muerte, robo o da\u00f1o a la propiedad. Tambi\u00e9n crear\u00eda responsabilidades para las empresas que ofrecen recursos inform\u00e1ticos para entrenar esos modelos y las firmas de auditor\u00eda, haci\u00e9ndolas responsables de recopilar y conservar informaci\u00f3n detallada sobre las identidades e intenciones de los clientes. El incumplimiento de esta obligaci\u00f3n podr\u00eda dar lugar a multas de hasta 10 millones de d\u00f3lares.<\/p>\n
\u00bfQui\u00e9n est\u00e1 a favor del proyecto de ley y qui\u00e9n est\u00e1 en contra? <\/h3>\n
Wiener y sus colegas afirman que existe un fuerte apoyo p\u00fablico a las nuevas barreras de protecci\u00f3n para la IA. Tambi\u00e9n ha obtenido el apoyo cualificado de la importante start-up de IA Anthropic y de Elon Musk, as\u00ed como de SAG-AFTRA, un sindicato de actores y dos grupos de mujeres. El lunes, 100 empleados de importantes empresas de IA, entre ellas OpenAI, xAI y Google DeepMind, firmaron una carta en la que ped\u00edan a Newsom que firmara el proyecto de ley. <\/p>\n
\u201cEs factible y apropiado que las empresas de IA de vanguardia prueben si los modelos de IA m\u00e1s potentes pueden causar da\u00f1os graves, y que estas empresas implementen salvaguardas razonables contra tales riesgos\u201d, escribieron. <\/p>\n
Los cr\u00edticos, entre ellos acad\u00e9micos como el profesor de inteligencia artificial de Stanford Fei-Fei Li, la firma de capital de riesgo Andreessen Horowitz y la aceleradora de empresas emergentes Y Combinator, argumentan que el proyecto de ley perjudicar\u00eda a las empresas en fase inicial y a los desarrolladores de c\u00f3digo abierto que comparten p\u00fablicamente el c\u00f3digo subyacente a sus modelos. <\/p>\n
La SB 1047 \u201cralentizar\u00eda el ritmo de la innovaci\u00f3n y har\u00eda que los ingenieros y empresarios de clase mundial de California abandonaran el estado en busca de mayores oportunidades en otro lugar\u201d, advirti\u00f3 el director de estrategia de OpenAI, Jason Kwon, en una carta a Wiener el mes pasado. Se hizo eco de una de las quejas m\u00e1s comunes: que Wiener estaba entrometi\u00e9ndose en un \u00e1rea que deber\u00eda abordarse a nivel federal. <\/p>\n
Los opositores tambi\u00e9n afirman que sofocar\u00eda la innovaci\u00f3n al imponer requisitos onerosos a los desarrolladores y hacerlos responsables del uso de sus modelos de IA por parte de actores maliciosos. Legisla sobre riesgos que a\u00fan no existen, a\u00f1aden.<\/p>\n
\u201cDesde un punto de vista filos\u00f3fico, anticipar las consecuencias de c\u00f3mo la gente va a utilizar tu c\u00f3digo en un software es un problema muy dif\u00edcil. \u00bfC\u00f3mo lo va a utilizar la gente? \u00bfC\u00f3mo vas a anticipar que alguien va a hacer da\u00f1o? Es un gran inhibidor. Es una pendiente muy resbaladiza\u201d, dijo Dar\u00edo Gil, director de investigaci\u00f3n de IBM. <\/p>\n
Dan Hendrycks, director del Centro para la Seguridad de la IA, que desempe\u00f1\u00f3 un papel fundamental en la formulaci\u00f3n del proyecto de ley, dijo que los opositores \u201cquieren que los gobiernos les den un cheque en blanco para construir e implementar cualquier tecnolog\u00eda que quieran, independientemente del riesgo o da\u00f1o a la sociedad\u201d.<\/p>\n
Hendrycks, que tambi\u00e9n es asesor de xAI de Musk, ha sido criticado por cr\u00edticos que describen al CAIS como un grupo marginal demasiado preocupado por los riesgos existenciales de la IA. Los opositores tambi\u00e9n expresaron su preocupaci\u00f3n por el hecho de que el CAIS haya presionado para tener influencia sobre una “Junta de Modelos Fronterizos” que crear\u00eda el proyecto de ley, integrada por nueve directores provenientes de la industria y el mundo acad\u00e9mico y encargada de actualizar las regulaciones en torno a los modelos de IA y garantizar el cumplimiento. <\/p>\n
Wiener rechaz\u00f3 esos argumentos como \u201cuna teor\u00eda de la conspiraci\u00f3n\u201d.<\/p>\n
\u201cLa oposici\u00f3n trat\u00f3 de pintar a cualquiera que apoyara el proyecto de ley como \u2018cat\u00e1strofes\u2019\u201d, dijo Wiener. \u201cDijeron que estos eran riesgos de ciencia ficci\u00f3n; que est\u00e1bamos concentrados en Terminator. No es as\u00ed, estamos concentrados en riesgos muy reales como el cierre de la red el\u00e9ctrica o del sistema bancario, o la creaci\u00f3n de un arma qu\u00edmica o biol\u00f3gica\u201d.<\/p>\n
\u00bfC\u00f3mo han intentado los autores del proyecto de ley abordar las preocupaciones? <\/h3>\n
Wiener dijo que \u00e9l y su equipo han pasado los \u00faltimos 18 meses interactuando con \u201ccualquiera que quisiera reunirse con nosotros\u201d para discutir el proyecto de ley, incluidos Li y los socios de Andreessen y Y Combinator.<\/p>\n
Una de sus preocupaciones era que exigir un interruptor de seguridad para los modelos de c\u00f3digo abierto impedir\u00eda que otros desarrolladores los modificaran o crearan a partir de ellos por temor a que los desactivaran en cualquier momento. Eso podr\u00eda ser fatal para las empresas j\u00f3venes y el mundo acad\u00e9mico, que dependen de modelos de c\u00f3digo abierto m\u00e1s baratos o de libre acceso.<\/p>\n
El proyecto de ley de Wiener ha sido modificado para excluir los modelos de c\u00f3digo abierto que hayan sido modificados por terceros m\u00e1s all\u00e1 de un cierto nivel. Tampoco se les exigir\u00e1 que tengan un interruptor de apagado. <\/p>\n
Tambi\u00e9n se han moderado algunas de las restricciones originales del proyecto de ley, incluyendo la reducci\u00f3n del alcance de las sanciones civiles y la limitaci\u00f3n del n\u00famero de modelos cubiertos por las nuevas normas. <\/p>\n
\u00bfSe convertir\u00e1 el proyecto de ley en ley?<\/h3>\n
La SB 1047 fue aprobada f\u00e1cilmente por la legislatura del estado. Ahora Newsom tiene que decidir si firma el proyecto de ley, permite que se convierta en ley sin su firma o lo veta. Si lo hace, la legislatura de California podr\u00eda anularlo con una mayor\u00eda de dos tercios de los votos. Pero, seg\u00fan un portavoz de Wiener, pr\u00e1cticamente no hay posibilidades de que eso suceda. La \u00faltima vez que se anul\u00f3 el veto de un gobernador de California fue en 1980. <\/p>\n