\n<\/p>\n
El a\u00f1o 2023 ser\u00e1 el de la singularidad tecnol\u00f3gica, el momento en el que las inteligencias artificiales empezar\u00e1n de repente a volverse aut\u00f3nomas, cambiando radicalmente la sociedad humana. Ya quedan pocas semanas…<\/p>\n
El a\u00f1o 2023 ser\u00e1 el de la singularidad tecnol\u00f3gica, el momento en el que las inteligencias artificiales empezar\u00e1n de repente a volverse aut\u00f3nomas, cambiando radicalmente la sociedad humana. S\u00f3lo quedan unas pocas semanas para que este pron\u00f3stico establecido en un libro de 1993 de Vernor Vinge, un autor de ciencia ficci\u00f3n con formaci\u00f3n cient\u00edfica, se haga realidad. De hecho y pese al rendimiento de ChatGPT, lanzado p\u00fablicamente hace un a\u00f1o, estamos lejos de ello. Sin embargo, este miedo y sus diferentes variantes, como la inteligencia artificial general, salen a la luz peri\u00f3dicamente. A riesgo de oscurecer en ocasiones los peligros muy concretos de la IA.<\/p>\n
Los d\u00edas 1 y 2 de noviembre, el Reino Unido organiz\u00f3 una importante cumbre sobre seguridad de la IA en Bletchley Park, donde Alan Turing descifr\u00f3 el c\u00f3digo Enigma. El tono de la reuni\u00f3n lo marc\u00f3 Rishi Sunak, Primer Ministro, poco antes del inicio de la reuni\u00f3n. A los periodistas expres\u00f3 su preocupaci\u00f3n: \u201c sin querer ser alarmista<\/em> “, que la IA” podr\u00eda plantear riesgos a una escala como pandemias o guerra nuclear<\/em> “. Una formulaci\u00f3n cercana a un texto sucinto del Centro para la Seguridad de la IA, publicado unos meses antes y firmado por grandes nombres de la tecnolog\u00eda, como Sam Altman, Bill Gates y otros l\u00edderes empresariales o investigadores en diversos campos, incluida la IA.<\/p>\n Sin referirse expl\u00edcitamente a ello, estas observaciones apocal\u00edpticas se refieren a varios conceptos cuyo n\u00facleo es la singularidad o la IA general. La idea de que la inteligencia artificial supera al ser humano en todos los sentidos y, en \u00faltima instancia, lo destruye. Estos comentarios no son nuevos. Mientras Alan Turing hablaba precisamente de aprendizaje autom\u00e1tico, a finales de los a\u00f1os 40, el c\u00e9lebre escritor Isaac Asimov ya exploraba en sus cuentos la posibilidad de la emancipaci\u00f3n, o no, de los robots. La inteligencia artificial en s\u00ed no naci\u00f3 oficialmente hasta 1955. El cine est\u00e1 lleno de estas m\u00e1quinas que tienden a la autonom\u00eda. Si ciertas pel\u00edculas, como Su<\/em>imaginemos un empoderamiento pac\u00edfico de la IA, la imagen catastr\u00f3fica de una terminador<\/em> o un Matriz<\/em> dominado.<\/p>\n Cr\u00e9dito: Daniel Oberhaus \/ Flickr<\/p>\n<\/div>\n Estas teor\u00edas han encontrado y siguen encontrando seguidores mucho m\u00e1s all\u00e1 del mundo de la imaginaci\u00f3n. En 2014, el eminente cient\u00edfico Stephen Hawking tom\u00f3 su pluma para alertar a los humanos del peligroso camino que empezaba a tomar. Elon Musk, presente en la cumbre brit\u00e1nica, es una de esas personalidades que se alarman peri\u00f3dicamente por el tema. Su miedo estar\u00eda incluso en el origen de varias de sus inversiones. Su bi\u00f3grafo, Walter Isaacson, dice que los intentos del multimillonario de tener en sus manos la startup de IA DeepMind fueron motivados en parte por el deseo de quitarle a Larry Page de Google, cuyas ideas de IA le parec\u00edan peligrosas. Neuralink pretende expl\u00edcitamente dar forma a un ser humano capaz de competir con la IA. Cofund\u00f3 OpenAI contra DeepMind. La temprana menci\u00f3n de Asimov en la obra de Isaacson entre las referencias juveniles de Musk no es inocente.<\/p>\n Estas teor\u00edas sobre el empoderamiento de la IA, temidas por los multimillonarios tecnol\u00f3gicos, ingenieros y cient\u00edficos de renombre, despiertan tanto escepticismo e incluso desconfianza. Jean-Gabriel Ganascia, profesor em\u00e9rito de la Universidad de la Sorbona, escribi\u00f3 un ensayo con un t\u00edtulo evocador: El mito de la singularidad<\/em>. Este investigador de inteligencia artificial y especialista en cuestiones \u00e9ticas escribe que \u201c Nada en el estado actual de las t\u00e9cnicas de IA nos permite afirmar que los ordenadores pronto podr\u00e1n mejorar indefinidamente sin la ayuda de los humanos, hasta el punto de correr, superarnos y adquirir su autonom\u00eda.<\/em> “. El autor est\u00e1 molesto por un cambio de paradigma. En los a\u00f1os 50 y 80, la ciencia ficci\u00f3n se inspiraba en teor\u00edas cient\u00edficas para alimentar sus historias, hoy estas historias alimentan las reflexiones de los investigadores.<\/p>\n Desde la publicaci\u00f3n del trabajo de Jean-Gabriel Ganascia, una nueva tecnolog\u00eda ha cobrado protagonismo: la IA generativa. Un \u00e9xito popular que alimenta la ansiedad. Sin embargo, ” ChatGPT, para nosotros, los cient\u00edficos, no es una revoluci\u00f3n. La ciencia detr\u00e1s de esto no es nueva. Durante 10 o 15 a\u00f1os, es m\u00e1s o menos el mismo marco de pensamiento que se ha utilizado<\/em> \u00bb coment\u00f3 a Siglo digital<\/em> Sylvain Petitjean, responsable del proyecto del presidente del Instituto Nacional de Investigaci\u00f3n en Ciencias y Tecnolog\u00edas Digitales (Inria) para la creaci\u00f3n de un organismo nacional de reflexi\u00f3n sobre la \u00e9tica de la investigaci\u00f3n en ciencias digitales. Comparte dudas sobre la hip\u00f3tesis de que una IA generalizada lleve a la humanidad a la extinci\u00f3n con el nivel tecnol\u00f3gico actual. Expresidente del Comit\u00e9 Operativo de Evaluaci\u00f3n de Riesgos Legales y \u00c9ticos del Inria, el investigador lamenta que \u201c Esta narrativa ha llegado a boca de los pol\u00edticos, llevada por los grandes industriales tecnol\u00f3gicos.<\/em> “. \u00c9l ve ” un error fundamental<\/em> “trayendo” olvidar todo lo dem\u00e1s<\/em> “.<\/p>\n Los periodistas que cubrieron la Cumbre de Seguridad de AI dieron testimonio de las dif\u00edciles discusiones que culminaron en la Declaraci\u00f3n de Bletchley, firmada por los 28 estados representados. Adem\u00e1s del supuesto riesgo existencial de la IA, planteado por el gobierno brit\u00e1nico, otros quisieron y lograron mencionar los peligros muy concretos y actuales de esta tecnolog\u00eda.<\/p>\n La vicepresidenta de Estados Unidos, Kamala Harris, no ocult\u00f3 antes de la reuni\u00f3n su frustraci\u00f3n por el marco inicial propuesto por Rishi Sunak, \u201c Seamos claros: hay otras amenazas que tambi\u00e9n exigen nuestra acci\u00f3n. Amenazas que actualmente causan da\u00f1o y que, para muchas personas, tambi\u00e9n parecen existenciales<\/em> “. El vicepresidente estadounidense cit\u00f3 la \u201cpornograf\u00eda de venganza\u201d basada en fotograf\u00edas manipuladas por IA, los sesgos discriminatorios y sus consecuencias en la sociedad, o la creaci\u00f3n de informaci\u00f3n falsa que supera la realidad. Podr\u00edamos agregar la cuesti\u00f3n de la confidencialidad de los datos o los derechos de autor.<\/p>\n En opini\u00f3n de Sylvain Petitjean, centrarse en el escenario abstracto de una IA que amenaza a la humanidad a trav\u00e9s de su autonom\u00eda es una distracci\u00f3n para grandes grupos. Estos \u00faltimos tambi\u00e9n financian en gran medida la investigaci\u00f3n en este \u00e1mbito. En primer lugar, les permite posicionarse como las \u00fanicas organizaciones con las habilidades t\u00e9cnicas para prevenir desastres. Para ello, deben tener las manos libres y autorregularse. Entonces, cuestionar las amenazas lejanas nos permite evitar cuestionar las actuales. Finalmente, ” en la forma en que estas tecnolog\u00edas fueron liberadas en la naturaleza. Hay una forma de irresponsabilidad, de estos gigantes tecnol\u00f3gicos, porque es poderosa, porque no est\u00e1 controlada.<\/em> “. El auge de la IA generativa en el espacio p\u00fablico, iniciado por OpenAI y seguido por aquellos que, como Google, hasta entonces hab\u00edan sido m\u00e1s cautelosos, se llev\u00f3 a cabo apresuradamente, sin las salvaguardias necesarias.<\/p>\n Por tanto, parece necesaria la supervisi\u00f3n estatal. Problema, como lo demuestra la AI Act de la Uni\u00f3n Europea, el texto sobre el tema m\u00e1s avanzado en su tr\u00e1mite legislativo, regular lleva tiempo. Fue presentado por la Comisi\u00f3n Europea en 2021 y su adopci\u00f3n a\u00fan encuentra dificultades. Por el contrario, con la IA, ” Estamos trabajando en tecnolog\u00edas que tienen ciclos de desarrollo muy cortos, con innovaciones en ciclos extremadamente r\u00e1pidos.<\/em> \u00bb se\u00f1ala Sylvain Petitjean. \u201c Mientras tanto, \u00bfc\u00f3mo acercamos las tecnolog\u00edas y los valores a la sociedad? Aqu\u00ed es donde entra en juego la \u00e9tica, intentaremos confrontar los avances de la ciencia y la tecnolog\u00eda, con los valores de la sociedad, los valores fundamentales.<\/em> “.<\/p>\n<\/div>\nCon las tecnolog\u00edas actuales, la IA rebelde no est\u00e1 en la agenda<\/h2>\n
\u00bfEl cinismo como fuerza impulsora detr\u00e1s de un miedo fantaseado?<\/h2>\n