¿Qué pasaría si lo único en lo que realmente pudieras confiar fuera algo o alguien lo suficientemente cercano como para tocarlo físicamente? Ese puede ser el mundo al que nos está llevando la IA. Un grupo de académicos de Harvard y expertos en inteligencia artificial acaba de lanzar un informe destinado a poner barandillas éticas en torno al desarrollo de tecnologías potencialmente distópicas, como el chatbot aparentemente sensible de OpenAI respaldado por Microsoft, que debutó en una versión nueva y “mejorada” (según su punto de vista), GPT-4, la semana pasada.
El grupo, que incluye a Glen Weyl, economista e investigador de Microsoft, Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchos otros notables de la industria, está haciendo sonar las alarmas sobre “la plétora de experimentos con tecnologías sociales descentralizadas”. . Estos incluyen el desarrollo de “contenido generado por máquina altamente persuasivo (por ejemplo, ChatGPT)” que amenaza con alterar la estructura de nuestra economía, política y sociedad.
Creen que hemos llegado a un “momento constitucional” de cambio que requiere un marco regulatorio completamente nuevo para tales tecnologías.
Algunos de los riesgos de la IA, como un futuro al estilo de Terminator en el que las máquinas deciden que los humanos han tenido su día, son un territorio muy trillado en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de dónde estará la ciencia. irá en los últimos 100 años más o menos. Pero hay otros que son menos entendidos. Si, por ejemplo, la IA ahora puede generar una identificación falsa perfectamente indetectable, ¿de qué sirven los marcos legales y de gobernanza que se basan en dichos documentos para permitirnos conducir, viajar o pagar impuestos?
Una cosa que ya sabemos es que la IA podría permitir que los malos actores se hagan pasar por cualquiera, en cualquier lugar y en cualquier momento. “Tienes que asumir que el engaño será mucho más barato y más frecuente en esta nueva era”, dice Weyl, quien ha publicado un libro en linea con la ministra digital de Taiwán, Audrey Tang. Esto expone los riesgos que la IA y otras tecnologías de la información avanzadas representan para la democracia, en particular, que aumentan el problema de la desinformación con esteroides.
Las posibles ramificaciones abarcan todos los aspectos de la sociedad y la economía. ¿Cómo sabremos que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y contratos en línea? ¿Las noticias falsas, que ya son un gran problema, se volverán esencialmente indetectables? Y qué decir de las ramificaciones políticas del incalculable número de interrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro muy importante a finales de este año.
Uno puede imaginar fácilmente un mundo en el que los gobiernos luchan por mantenerse al día con estos cambios y, como dice el informe de Harvard, “los procesos democráticos altamente imperfectos existentes resultan impotentes. . . y son así abandonados por ciudadanos cada vez más cínicos”.
Ya hemos visto indicios de esto. La ciudad privada de Texas que está construyendo Elon Musk para albergar a sus empleados de SpaceX, Tesla y Boring Company es solo la última versión de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda o trasladan su riqueza y negocios. en jurisdicciones extragubernamentales y “zonas económicas especiales”. El historiador de Wellesley, Quinn Slobodian, aborda el surgimiento de tales zonas en su nuevo libro, Capitalismo de ruptura.
En este escenario, los ingresos fiscales caen, la participación laboral se erosiona y el mundo de suma cero resultante exacerba una “exitocracia” de los privilegiados.
Por supuesto, el futuro también podría ser mucho más brillante. La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso podría permitirnos redistribuir la riqueza digital de nuevas formas. Pero lo que ya está claro es que las empresas no van a dejar de desarrollar tecnologías Web3 de vanguardia, desde IA hasta blockchain, tan rápido como puedan. Se ven a sí mismos como parte de una carrera existencial entre ellos y con China por el futuro.
Como tal, están buscando formas de vender no solo IA, sino también las soluciones de seguridad para ello. Por ejemplo, en un mundo en el que la confianza no se puede autenticar digitalmente, los desarrolladores de IA de Microsoft y otras empresas están pensando si podría haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo usted y otra persona cercana podría conocer) digitalmente y a escala.
Eso, sin embargo, suena un poco como resolver el problema de la tecnología con más tecnología. De hecho, la mejor solución al enigma de la IA, en la medida en que exista, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la comisión presidencial sobre bioética de 2010, que se publicó en respuesta al auge de la genómica. Creó pautas para la experimentación responsable, lo que permitió un desarrollo tecnológico más seguro (aunque se podría señalar nueva información sobre la posible fuga de laboratorio en la pandemia de Covid-19 y decir que ningún marco es internacionalmente infalible).
Por ahora, en lugar de prohibir la IA o tener algún método perfecto de regulación, podríamos comenzar obligando a las empresas a revelar qué experimentos están haciendo, qué funcionó, qué no y dónde podrían surgir consecuencias no deseadas. La transparencia es el primer paso para garantizar que la IA no supere a sus creadores.
About the Author
