El Ministro saliente Robbert Dijkgraaf (Educación, Cultura y Ciencia, D66) y la Secretaria de Estado Alexandra van Huffelen (Relaciones del Reino y Digitalización, D66) toman asiento uno al lado del otro en un estrecho banco gris de dos plazas. Están sentados en el ‘executive lounge’, en el noveno piso del hotel Marriott de La Haya.
El hotel está a menos de cinco minutos a pie de Catshuis, donde el gabinete se actualizó sobre inteligencia artificial (IA) en una “sesión de Catshuis” el miércoles por la mañana. Los administradores hablarán durante una hora después. NRC sobre la tecnología, que ha ido en aumento desde el lanzamiento de ChatGPT en noviembre del año pasado.
El portavoz presente señala durante la conversación que se agradecería que se indicara explícitamente que también se utilizó IA para escribir este artículo. “Para dejar claro a sus lectores lo abarcadora que es esta tecnología”.
Así es. La entrevista grabada con un iPhone fue transcrita por Whisper [software die binnen een minuut een audiogesprek in geschreven tekst kan omzetten]. Y en el sitio de NRC el artículo se lee por un voto de uno NRCPeriodista formado mediante inteligencia artificial. También en este caso –como está sucediendo o sucederá en la mayoría de las profesiones– la inteligencia artificial está asumiendo tareas de las personas.
En la Catshuis, el gabinete, sentado en una gran mesa ovalada con el Primer Ministro interino Mark Rutte en el medio, fue actualizado, entre otros, por el profesor de IA Max Welling de la Universidad de Amsterdam y la experta cibernética Marietje Schaake de la Universidad de Stanford. Tema de discusión: las oportunidades y riesgos de la IA. Era la primera vez que el gobierno incluía este tema en la agenda política de esta manera.
El grupo de expertos y organismo asesor WRR mencionó la IA anteriormente una ‘tecnología de sistema’: una tecnología con un impacto grande e imprevisto en la sociedad. Se trata de sistemas de inteligencia artificial que se utilizan para el reconocimiento facial y la detección de fraudes o para aplicaciones médicas o militares. Y los algoritmos solían influir en lo que los ciudadanos compran, leen y votan. Según el WRR, el impacto tecnológico de la IA es, por tanto, comparable al de revoluciones anteriores, como la electricidad o el motor de combustión.
Según Dijkgraaf, originalmente naturalista y matemático, la revolución de la IA va incluso un paso más allá. La IA “en realidad intenta imitar nuestro pensamiento”, afirma. Eso convierte a la IA en algo “que afecta a muchos más elementos de la vida y, por tanto, es difícil de comparar con otros avances tecnológicos”.
¿Qué arrojó la sesión de Catshuis?
Van Huffelen: “Hay muchos sectores en los que los Países Bajos son fuertes y en los que la IA desempeñará un papel importante. Pensemos en la agricultura, la atención sanitaria, la paz y la seguridad, el mundo médico. La pregunta es: ¿cómo se asegura que esta tecnología también incorpore los valores que defendemos? La sensación durante la sesión fue: realmente tenemos que ponernos a trabajar juntos”.
¿Se han tomado decisiones concretas?
Dijkgraaf: “Conducimos muy rápido, pero a través de la niebla. Eso hace que sea difícil mirar hacia adelante. Se eliminó el término “equipo de respuesta rápida”. Un grupo de expertos que realiza un seguimiento de lo que vemos que sucede aquí para el gobierno y puede responder rápidamente. Vamos a trabajar en eso. ChatGPT se lanzó hace menos de un año. Realmente pasa de mes en mes ahora. Y ese no es generalmente el ritmo al que trabaja el gobierno”.
¿Por qué ha tardado tanto el Gabinete en reunirse sobre este tema?
Van Huffelen: “Bueno, por supuesto que ya llevamos algún tiempo hablando de este tema. Pero, de hecho, encontrar el momento para juntar a todos…”
Dijkgraaf: “Los avances en IA van más rápido de lo que permiten las agendas de ministros y secretarios de Estado”.
¿Cómo te mantienes al día contigo mismo? ¿Utilizas ChatGPT? ¿Alguna vez has experimentado con los generadores de imágenes Dall-E o Midjourney?
“Van Huffelen: “Ciertamente experimenté con ello, sí. Leo mucho. Escuche podcasts e inspírese con personas que suelen estar involucradas en este tema. Pero al final, sólo podemos asimilar hasta cierto punto”.
Dijkgraaf: “Uno mío placeres culpables Todavía está escuchando conferencias científicas en línea. Entonces verás, y eso me parece sumamente interesante, todas las expectativas que tenemos en Princeton. [Dijkgraaf was van 2012 tot 2022 directeur van het Institute for Advanced Study in Princeton] hace dos años ya se ha superado. Es precisamente este salto que se está dando ahora lo que saca a todos los investigadores de sus asientos. En ciencia lo llamamos “fenómeno emergente”. Estás intentando hacer algo. Le das cada vez más potencia informática. No pasa nada. No pasa nada. No pasa nada. Y en algún momento todo sucede”.
¿Sus departamentos ya están experimentando con la IA? ¿Existen grupos de trabajo o asistentes de chat oficiales?
Van Huffelen: “Esa es otra pregunta que tenemos. ¿Qué queremos realmente con esto? Es bueno experimentar y ver qué sucede, por lo que a mí me importa responder preguntas parlamentarias. Pero la pregunta es si deberíamos querer eso”.
Usted dijo en un discurso esta semana que las grandes empresas tecnológicas deben ser “domesticadas” en lo que respecta a la IA. ¿Cómo te imaginas eso?
Van Huffelen: “Si estas empresas quieren ofrecernos sus productos, deben cumplir nuestras normas. Europa ahora está trabajando arduamente en la regulación de la IA [de AI Act, een Europese wet]. Siempre ocurre que los avances tecnológicos preceden a la regulación. Al mismo tiempo, no queremos que se vendan datos de nadie excepto de cualquier lugar sin que usted tenga ninguna influencia sobre ello. Queremos una regulación que estimule la innovación y al mismo tiempo garantice que nuestros valores públicos sigan protegidos aquí”.
¿Alguna vez ha sido víctima de noticias falsas generadas por IA? A profundamente falso ¿O una voz clonada?
Van Huffelen: “No que yo sepa, pero he visto mucha miseria en las redes sociales”.
Dijkgraaf: “No sé lo que no sé. Así que no puedo decir con absoluta certeza que esto nunca sucedió o sucederá”.
Con las elecciones acercándose, eso debería ser una preocupación importante.
Ambos, al mismo tiempo: “Por supuesto”.
¿Cómo lidias con eso?
Van Huffelen: “Siempre hay un equilibrio difícil entre la libertad de expresión y lo que realmente no está permitido. No queremos jugar al Ministerio de la Verdad ni determinar qué está permitido en las redes sociales”.
Dijkgraaf: “Existen algoritmos que no sólo crean desinformación, sino que también ayudan a difundirla. Chatbots que te ayudan con los pasos intermedios. Eso es preocupante”.
Van Huffelen: “Esto es algo que nos resulta difícil de combatir. Lo que podemos hacer es asegurarnos de que haya suficientes recursos a los que la gente pueda recurrir. Donde las personas pueden encontrar información que ha sido probada y donde los temas se discuten desde múltiples ángulos. Los medios de comunicación juegan un papel muy importante en esto”.
Todas las amenazas que ya existen serán aún más fuertes gracias a la IA.
Robert Dijkgraaf Ministro interino de Educación, Cultura y Ciencia
Dijkgraaf: “La desinformación es, en cierto sentido, eterna. Eso sólo empeorará. Ésa es también una de las conclusiones más importantes de lo que hará esta tecnología. Cualquier amenaza que ya exista se está volviendo más fuerte. Entonces también se trata de desigualdad social. La idea de que cada nueva tecnología es un igualador social no es correcta. Todas las investigaciones muestran que este no es el caso, siempre que usted, como gobierno, intervenga activamente. Entonces, si dejas que esas fuerzas se vuelvan locas, las consecuencias de este progreso tecnológico serán muy desiguales desde el punto de vista económico y financiero”.
Quiero presentarles algunos dilemas. Reconocimiento facial en el espacio público en los Países Bajos. ¿Puede o puede que no?
Van Huffelen: “En Europa hemos indicado que no queremos eso. Excepto en condiciones muy estrictas, por ejemplo durante la detección y la investigación”.
Funcionarios públicos que utilizan ChatGPT para responder preguntas parlamentarias.
Van Huffelen: “Estoy seguro de que hay funcionarios que ya están experimentando con esto. Necesitamos pensar detenidamente en esto”.
Dijkgraaf: “Hoy, durante la sesión de Catshuis, alguien dijo: ChatGPT es simplemente un aprendiz muy inteligente. No se les permite firmar ciegamente una carta al Parlamento o un contrato”.
Sistemas militares de IA que identifican objetivos de forma autónoma y luego los desactivan.
Van Huffelen: “No, ciertamente no nos gustaría eso. Lo consideraría totalmente irresponsable”.
Una pausa de seis meses durante la cual se detiene todo el desarrollo tecnológico dentro de la IA. Entender la tecnología primero.
Tanto Dijkgraaf como Van Huffelen se echaron a reír al escuchar la pregunta.
Van Huffelen: “Eso simplemente no es realista”.
Dijkgraaf: “Ahora todo va demasiado rápido para eso”.
Todavía. Hay científicos de primer nivel que dicen: este puede ser el último invento que haga el hombre. Emprendedores tecnológicos como Sam Altman (OpenAI) y Elon Musk temen una supercomputadora que pueda subyugarnos.
Dijkgraaf: “Tenemos que ser realistas. La tecnología no es inherentemente maliciosa. Tenemos la responsabilidad de proporcionar el entorno en el que estos algoritmos decidirán cuál es su propósito en la vida. Porque podría ser inofensivo si el objetivo es ganar una partida de ajedrez. Pero muy peligroso si el objetivo es ganar una guerra.
“Lo veo más como una pantalla de radar extra, con la que veremos cosas que ahora no vemos. Tengamos cuidado de no limitarnos a sólo dos escenarios. O son robots estúpidos o esto significa el fin del mundo. Todavía hay mucho en el medio”.
¿Crees que la IA podría ayudarnos a resolver los grandes problemas de nuestro tiempo? ¿Combatir el calentamiento global o encontrar una cura para el Alzheimer?
Dijkgraaf: “Las aplicaciones más importantes y positivas de la IA se encuentran en la ciencia. Quizás la IA pueda ayudarnos a identificar dónde se encuentran las oportunidades. En qué deberían centrarse nuestros científicos. ¿Porque nos preocupamos por los problemas correctos?
“Lo bueno es que en muchos momentos de la historia el hombre ha dado un salto que surgió de la nada. Algo que todos pensaban que era ridículo y que la gente iba a hacer de todos modos. Como matemático, aprendiste durante mucho tiempo que nunca debes sacar la raíz cuadrada de -1, porque ese no es un número. Lo llamaron número imaginario. Pues que locura. Ahora parece que todas las leyes físicas utilizan precisamente estos números imaginarios”.
“Ahí tienes. Los humanos a veces también tenemos la capacidad de hacer algo realmente loco. Poder realmente hacer algo de la nada. Espero que lo apreciemos un poco más juntos”.
Una versión de este artículo también apareció en el periódico el 7 de septiembre de 2023.
About the Author
