{"id":939719,"date":"2023-09-07T02:24:06","date_gmt":"2023-09-07T02:24:06","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-avances-en-ia-son-mas-rapidos-que-el-ritmo-al-que-trabaja-el-gobierno\/"},"modified":"2023-09-07T02:24:10","modified_gmt":"2023-09-07T02:24:10","slug":"los-avances-en-ia-son-mas-rapidos-que-el-ritmo-al-que-trabaja-el-gobierno","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-avances-en-ia-son-mas-rapidos-que-el-ritmo-al-que-trabaja-el-gobierno\/","title":{"rendered":"‘Los avances en IA son m\u00e1s r\u00e1pidos que el ritmo al que trabaja el gobierno’"},"content":{"rendered":"\n
\n

El Ministro saliente Robbert Dijkgraaf (Educaci\u00f3n, Cultura y Ciencia, D66) y la Secretaria de Estado Alexandra van Huffelen (Relaciones del Reino y Digitalizaci\u00f3n, D66) toman asiento uno al lado del otro en un estrecho banco gris de dos plazas. Est\u00e1n sentados en el ‘executive lounge’, en el noveno piso del hotel Marriott de La Haya. <\/p>\n

El hotel est\u00e1 a menos de cinco minutos a pie de Catshuis, donde el gabinete se actualiz\u00f3 sobre inteligencia artificial (IA) en una “sesi\u00f3n de Catshuis” el mi\u00e9rcoles por la ma\u00f1ana. Los administradores hablar\u00e1n durante una hora despu\u00e9s. NRC<\/em> sobre la tecnolog\u00eda, que ha ido en aumento desde el lanzamiento de ChatGPT en noviembre del a\u00f1o pasado. <\/p>\n

El portavoz presente se\u00f1ala durante la conversaci\u00f3n que se agradecer\u00eda que se indicara expl\u00edcitamente que tambi\u00e9n se utiliz\u00f3 IA para escribir este art\u00edculo. “Para dejar claro a sus lectores lo abarcadora que es esta tecnolog\u00eda”. <\/p>\n

As\u00ed es. La entrevista grabada con un iPhone fue transcrita por Whisper [software die binnen een minuut een audiogesprek in geschreven tekst kan omzetten]. Y en el sitio de NRC<\/em> el art\u00edculo se lee por un voto de uno NRC<\/em>Periodista formado mediante inteligencia artificial. Tambi\u00e9n en este caso \u2013como est\u00e1 sucediendo o suceder\u00e1 en la mayor\u00eda de las profesiones\u2013 la inteligencia artificial est\u00e1 asumiendo tareas de las personas. <\/p>\n

En la Catshuis, el gabinete, sentado en una gran mesa ovalada con el Primer Ministro interino Mark Rutte en el medio, fue actualizado, entre otros, por el profesor de IA Max Welling de la Universidad de Amsterdam y la experta cibern\u00e9tica Marietje Schaake de la Universidad de Stanford. Tema de discusi\u00f3n: las oportunidades y riesgos de la IA. Era la primera vez que el gobierno inclu\u00eda este tema en la agenda pol\u00edtica de esta manera. <\/p>\n

El grupo de expertos y organismo asesor WRR mencion\u00f3 la IA anteriormente una ‘tecnolog\u00eda de sistema’<\/a>: una tecnolog\u00eda con un impacto grande e imprevisto en la sociedad. Se trata de sistemas de inteligencia artificial que se utilizan para el reconocimiento facial y la detecci\u00f3n de fraudes o para aplicaciones m\u00e9dicas o militares. Y los algoritmos sol\u00edan influir en lo que los ciudadanos compran, leen y votan. Seg\u00fan el WRR, el impacto tecnol\u00f3gico de la IA es, por tanto, comparable al de revoluciones anteriores, como la electricidad o el motor de combusti\u00f3n. <\/p>\n

Seg\u00fan Dijkgraaf, originalmente naturalista y matem\u00e1tico, la revoluci\u00f3n de la IA va incluso un paso m\u00e1s all\u00e1. La IA “en realidad intenta imitar nuestro pensamiento”, afirma. Eso convierte a la IA en algo \u201cque afecta a muchos m\u00e1s elementos de la vida y, por tanto, es dif\u00edcil de comparar con otros avances tecnol\u00f3gicos\u201d. <\/p>\n

\u00bfQu\u00e9 arroj\u00f3 la sesi\u00f3n de Catshuis?<\/span><\/p>\n

Van Huffelen: \u201cHay muchos sectores en los que los Pa\u00edses Bajos son fuertes y en los que la IA desempe\u00f1ar\u00e1 un papel importante. Pensemos en la agricultura, la atenci\u00f3n sanitaria, la paz y la seguridad, el mundo m\u00e9dico. La pregunta es: \u00bfc\u00f3mo se asegura que esta tecnolog\u00eda tambi\u00e9n incorpore los valores que defendemos? La sensaci\u00f3n durante la sesi\u00f3n fue: realmente tenemos que ponernos a trabajar juntos\u201d.<\/p>\n

\u00bfSe han tomado decisiones concretas?<\/span><\/p>\n

Dijkgraaf: \u201cConducimos muy r\u00e1pido, pero a trav\u00e9s de la niebla. Eso hace que sea dif\u00edcil mirar hacia adelante. Se elimin\u00f3 el t\u00e9rmino “equipo de respuesta r\u00e1pida”. Un grupo de expertos que realiza un seguimiento de lo que vemos que sucede aqu\u00ed para el gobierno y puede responder r\u00e1pidamente. Vamos a trabajar en eso. ChatGPT se lanz\u00f3 hace menos de un a\u00f1o. Realmente pasa de mes en mes ahora. Y ese no es generalmente el ritmo al que trabaja el gobierno\u201d.<\/p>\n

\u00bfPor qu\u00e9 ha tardado tanto el Gabinete en reunirse sobre este tema? <\/span><\/p>\n

Van Huffelen: \u201cBueno, por supuesto que ya llevamos alg\u00fan tiempo hablando de este tema. Pero, de hecho, encontrar el momento para juntar a todos\u2026\u201d<\/p>\n

Dijkgraaf: \u201cLos avances en IA van m\u00e1s r\u00e1pido de lo que permiten las agendas de ministros y secretarios de Estado\u201d.<\/p>\n

\u00bfC\u00f3mo te mantienes al d\u00eda contigo mismo? \u00bfUtilizas ChatGPT? \u00bfAlguna vez has experimentado con los generadores de im\u00e1genes Dall-E o Midjourney?<\/span><\/p>\n

\u201cVan Huffelen: \u201cCiertamente experiment\u00e9 con ello, s\u00ed. Leo mucho. Escuche podcasts e insp\u00edrese con personas que suelen estar involucradas en este tema. Pero al final, s\u00f3lo podemos asimilar hasta cierto punto\u201d.<\/p>\n

Dijkgraaf: \u201cUno m\u00edo placeres culpables<\/em> Todav\u00eda est\u00e1 escuchando conferencias cient\u00edficas en l\u00ednea. Entonces ver\u00e1s, y eso me parece sumamente interesante, todas las expectativas que tenemos en Princeton. [Dijkgraaf was van 2012 tot 2022 directeur van het Institute for Advanced Study in Princeton] hace dos a\u00f1os ya se ha superado. Es precisamente este salto que se est\u00e1 dando ahora lo que saca a todos los investigadores de sus asientos. En ciencia lo llamamos “fen\u00f3meno emergente”. Est\u00e1s intentando hacer algo. Le das cada vez m\u00e1s potencia inform\u00e1tica. No pasa nada. No pasa nada. No pasa nada. Y en alg\u00fan momento todo sucede\u201d.<\/p>\n

\u00bfSus departamentos ya est\u00e1n experimentando con la IA? \u00bfExisten grupos de trabajo o asistentes de chat oficiales? <\/span><\/p>\n

Van Huffelen: \u201cEsa es otra pregunta que tenemos. \u00bfQu\u00e9 queremos realmente con esto? Es bueno experimentar y ver qu\u00e9 sucede, por lo que a m\u00ed me importa responder preguntas parlamentarias. Pero la pregunta es si deber\u00edamos querer eso\u201d.<\/p>\n

Usted dijo en un discurso esta semana que las grandes empresas tecnol\u00f3gicas deben ser “domesticadas” en lo que respecta a la IA. \u00bfC\u00f3mo te imaginas eso? <\/span><\/p>\n

Van Huffelen: \u201cSi estas empresas quieren ofrecernos sus productos, deben cumplir nuestras normas. Europa ahora est\u00e1 trabajando arduamente en la regulaci\u00f3n de la IA [de AI Act, een Europese wet]. Siempre ocurre que los avances tecnol\u00f3gicos preceden a la regulaci\u00f3n. Al mismo tiempo, no queremos que se vendan datos de nadie excepto de cualquier lugar sin que usted tenga ninguna influencia sobre ello. Queremos una regulaci\u00f3n que estimule la innovaci\u00f3n y al mismo tiempo garantice que nuestros valores p\u00fablicos sigan protegidos aqu\u00ed\u201d.<\/p>\n

\u00bfAlguna vez ha sido v\u00edctima de noticias falsas generadas por IA? A profundamente falso<\/em> \u00bfO una voz clonada?<\/span><\/p>\n

Van Huffelen: “No que yo sepa, pero he visto mucha miseria en las redes sociales”.<\/p>\n

Dijkgraaf: \u201cNo s\u00e9 lo que no s\u00e9. As\u00ed que no puedo decir con absoluta certeza que esto nunca sucedi\u00f3 o suceder\u00e1”.<\/p>\n

Con las elecciones acerc\u00e1ndose, eso deber\u00eda ser una preocupaci\u00f3n importante.<\/span><\/p>\n

Ambos, al mismo tiempo: “Por supuesto”.<\/p>\n

\u00bfC\u00f3mo lidias con eso?<\/span><\/p>\n

Van Huffelen: \u201cSiempre hay un equilibrio dif\u00edcil entre la libertad de expresi\u00f3n y lo que realmente no est\u00e1 permitido. No queremos jugar al Ministerio de la Verdad ni determinar qu\u00e9 est\u00e1 permitido en las redes sociales\u201d.<\/p>\n

Dijkgraaf: \u201cExisten algoritmos que no s\u00f3lo crean desinformaci\u00f3n, sino que tambi\u00e9n ayudan a difundirla. Chatbots que te ayudan con los pasos intermedios. Eso es preocupante\u201d.<\/p>\n

Van Huffelen: \u201cEsto es algo que nos resulta dif\u00edcil de combatir. Lo que podemos hacer es asegurarnos de que haya suficientes recursos a los que la gente pueda recurrir. Donde las personas pueden encontrar informaci\u00f3n que ha sido probada y donde los temas se discuten desde m\u00faltiples \u00e1ngulos. Los medios de comunicaci\u00f3n juegan un papel muy importante en esto\u201d.<\/p>\n

\n

Todas las amenazas que ya existen ser\u00e1n a\u00fan m\u00e1s fuertes gracias a la IA.<\/p>\n

Robert Dijkgraaf Ministro interino de Educaci\u00f3n, Cultura y Ciencia<\/span><\/p>\n<\/blockquote>\n

Dijkgraaf: \u201cLa desinformaci\u00f3n es, en cierto sentido, eterna. Eso s\u00f3lo empeorar\u00e1. \u00c9sa es tambi\u00e9n una de las conclusiones m\u00e1s importantes de lo que har\u00e1 esta tecnolog\u00eda. Cualquier amenaza que ya exista se est\u00e1 volviendo m\u00e1s fuerte. Entonces tambi\u00e9n se trata de desigualdad social. La idea de que cada nueva tecnolog\u00eda es un igualador social no es correcta. Todas las investigaciones muestran que este no es el caso, siempre que usted, como gobierno, intervenga activamente. Entonces, si dejas que esas fuerzas se vuelvan locas, las consecuencias de este progreso tecnol\u00f3gico ser\u00e1n muy desiguales desde el punto de vista econ\u00f3mico y financiero\u201d.<\/p>\n

Quiero presentarles algunos dilemas. Reconocimiento facial en el espacio p\u00fablico en los Pa\u00edses Bajos. \u00bfPuede o puede que no?<\/span><\/p>\n

Van Huffelen: \u201cEn Europa hemos indicado que no queremos eso. Excepto en condiciones muy estrictas, por ejemplo durante la detecci\u00f3n y la investigaci\u00f3n\u201d.<\/p>\n

Funcionarios p\u00fablicos que utilizan ChatGPT para responder preguntas parlamentarias.<\/span><\/p>\n

Van Huffelen: \u201cEstoy seguro de que hay funcionarios que ya est\u00e1n experimentando con esto. Necesitamos pensar detenidamente en esto\u201d.<\/p>\n

Dijkgraaf: \u201cHoy, durante la sesi\u00f3n de Catshuis, alguien dijo: ChatGPT es simplemente un aprendiz muy inteligente. No se les permite firmar ciegamente una carta al Parlamento o un contrato\u201d.<\/p>\n

Sistemas militares de IA que identifican objetivos de forma aut\u00f3noma y luego los desactivan.<\/span><\/p>\n

Van Huffelen: \u201cNo, ciertamente no nos gustar\u00eda eso. Lo considerar\u00eda totalmente irresponsable\u201d.<\/p>\n

Una pausa de seis meses durante la cual se detiene todo el desarrollo tecnol\u00f3gico dentro de la IA. Entender la tecnolog\u00eda primero.<\/span><\/p>\n

Tanto Dijkgraaf como Van Huffelen se echaron a re\u00edr al escuchar la pregunta.<\/p>\n

Van Huffelen: \u201cEso simplemente no es realista\u201d.<\/p>\n

Dijkgraaf: \u201cAhora todo va demasiado r\u00e1pido para eso\u201d.<\/p>\n

Todav\u00eda. Hay cient\u00edficos de primer nivel que dicen: este puede ser el \u00faltimo invento que haga el hombre. Emprendedores tecnol\u00f3gicos como Sam Altman (OpenAI) y Elon Musk temen una supercomputadora que pueda subyugarnos.<\/span><\/p>\n

Dijkgraaf: \u201cTenemos que ser realistas. La tecnolog\u00eda no es inherentemente maliciosa. Tenemos la responsabilidad de proporcionar el entorno en el que estos algoritmos decidir\u00e1n cu\u00e1l es su prop\u00f3sito en la vida. Porque podr\u00eda ser inofensivo si el objetivo es ganar una partida de ajedrez. Pero muy peligroso si el objetivo es ganar una guerra.<\/p>\n

\u201cLo veo m\u00e1s como una pantalla de radar extra, con la que veremos cosas que ahora no vemos. Tengamos cuidado de no limitarnos a s\u00f3lo dos escenarios. O son robots est\u00fapidos o esto significa el fin del mundo. Todav\u00eda hay mucho en el medio\u201d.<\/p>\n

\u00bfCrees que la IA podr\u00eda ayudarnos a resolver los grandes problemas de nuestro tiempo? \u00bfCombatir el calentamiento global o encontrar una cura para el Alzheimer?<\/span><\/p>\n

Dijkgraaf: \u201cLas aplicaciones m\u00e1s importantes y positivas de la IA se encuentran en la ciencia. Quiz\u00e1s la IA pueda ayudarnos a identificar d\u00f3nde se encuentran las oportunidades. En qu\u00e9 deber\u00edan centrarse nuestros cient\u00edficos. \u00bfPorque nos preocupamos por los problemas correctos? <\/p>\n

\u201cLo bueno es que en muchos momentos de la historia el hombre ha dado un salto que surgi\u00f3 de la nada. Algo que todos pensaban que era rid\u00edculo y que la gente iba a hacer de todos modos. Como matem\u00e1tico, aprendiste durante mucho tiempo que nunca debes sacar la ra\u00edz cuadrada de -1, porque ese no es un n\u00famero. Lo llamaron n\u00famero imaginario. Pues que locura. Ahora parece que todas las leyes f\u00edsicas utilizan precisamente estos n\u00fameros imaginarios\u201d. <\/p>\n

“Ah\u00ed tienes. Los humanos a veces tambi\u00e9n tenemos la capacidad de hacer algo realmente loco. Poder realmente hacer algo de la nada. Espero que lo apreciemos un poco m\u00e1s juntos\u201d.<\/p>\n