{"id":820892,"date":"2023-06-24T01:15:55","date_gmt":"2023-06-24T01:15:55","guid":{"rendered":"https:\/\/teknomers.com\/es\/se-esta-extinguiendo-la-humanidad-debido-a-la-ia-eso-es-ciencia-ficcion\/"},"modified":"2023-06-24T01:15:59","modified_gmt":"2023-06-24T01:15:59","slug":"se-esta-extinguiendo-la-humanidad-debido-a-la-ia-eso-es-ciencia-ficcion","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/se-esta-extinguiendo-la-humanidad-debido-a-la-ia-eso-es-ciencia-ficcion\/","title":{"rendered":"\u00bfSe est\u00e1 extinguiendo la humanidad debido a la IA? “Eso es ciencia ficci\u00f3n”"},"content":{"rendered":"\n
\n

Otto Barten vio una charla TED en 2014 que influy\u00f3 mucho en su visi\u00f3n del mundo. \u201cFue una conferencia del futurista sueco Anders Sandberg\u201d, dijo Barten. \u201cEn \u00e9l, Sandberg habla sobre el futuro de la humanidad. Un concepto clave es el ‘riesgo existencial’: el riesgo de que la humanidad desaparezca, por ejemplo, debido a la inteligencia artificial que se vuelve contra los humanos\u201d.<\/p>\n

La lectura, La humanidad al borde de la extinci\u00f3n<\/em>, fue una revelaci\u00f3n para Barten. \u201cPara mi sorpresa, no hubo debate social sobre este tema en absoluto\u201d. Por eso decidi\u00f3 montar en 2021 el Observatorio de Riesgo Existencial, una ONG holandesa que llama la atenci\u00f3n sobre el riesgo de extinci\u00f3n humana por la futura IA (inteligencia artificial<\/em>, inteligencia artificial). El Observatorio del Riesgo Existencial lo hace a trav\u00e9s de apariciones en los medios, art\u00edculos de opini\u00f3n y debates organizativos. <\/p>\n

El Observatorio del Riesgo Existencial tambi\u00e9n est\u00e1 muy implicado en la petici\u00f3n Controlar la IA <\/em>que fue firmado este mes por un gran n\u00famero de personas destacadas. Entre ellos se encuentran (antiguos) pol\u00edticos como Lodewijk Asscher, Boris van der Ham, Klaas Dijkhoff y Gert-Jan Segers. Pero tambi\u00e9n escritores y formadores de opini\u00f3n como Maxim Februari, Rutger Bregman, Bas Heijne y Sander Schimmelpenninck. <\/p>\n

\u201cLa aparici\u00f3n de la IA ofrece oportunidades, pero tambi\u00e9n conlleva enormes riesgos\u201d, comienza el texto de la petici\u00f3n. \u201cEs por eso que hacemos un llamado a los pol\u00edticos holandeses: tomen el control del desarrollo de la IA. Deje que los humanos determinen c\u00f3mo es un futuro con IA. No de la otra manera.”<\/p>\n

Carta abierta muy discutida<\/h2>\n

En la fila ‘Iniciadores’, junto al nombre de Barten est\u00e1 el de Ruben Dieleman, jefe de campa\u00f1a del Observatorio de Riesgo Existencial. El t\u00e9rmino ‘riesgo existencial’ aparece dos veces en la petici\u00f3n, y esa fue la raz\u00f3n por la que Marleen Stikker, fil\u00f3sofa tecnol\u00f3gica y directora de Waag Futurelab, no la firm\u00f3. <\/p>\n

\u201cEstoy de acuerdo con el 80 por ciento, pero no firm\u00e9 por el t\u00e9rmino riesgo existencial. Parece un concepto inocente, pero si miras de cerca, ver\u00e1s que la petici\u00f3n enlaza con un sitio web, pauseai.info. Y all\u00ed se puede ver c\u00f3mo se resuelve. Se trata de la extinci\u00f3n de la humanidad por la IA en el futuro. No hay evidencia cient\u00edfica para eso. No se puede descartar, pero tambi\u00e9n el abominable mu\u00f1eco de nieve. Y distrae de problemas concretos del presente como la desinformaci\u00f3n y la discriminaci\u00f3n por parte de la IA. Quiero hablar de derechos humanos, democracia y autodeterminaci\u00f3n. No sobre la extinci\u00f3n de la especie humana\u201d. <\/p>\n

El sitio web pauseai.info fue fundado por Joep Meindertsma, co-iniciador de Petition Control AI. A diferencia de la petici\u00f3n, aqu\u00ed se menciona expl\u00edcitamente el t\u00e9rmino ‘extinci\u00f3n’. “Estamos en peligro de extinci\u00f3n humana”, dice, seguido de un llamado a detener el desarrollo de “todos los sistemas m\u00e1s poderosos que GPT-4”. [de nieuwste versie van ChatGPT]\u201d. Eso es exactamente lo que ped\u00eda la muy discutida carta abierta del Future of Life Institute a fines de marzo, que fue firmada por Elon Musk, entre otros. La llamada ten\u00eda 23 palabras: “Hacemos un llamado a todos los laboratorios de IA para que detengan de inmediato el desarrollo de sistemas de IA m\u00e1s potentes que GPT-4 durante un per\u00edodo de al menos seis meses”.<\/p>\n

El 30 de mayo sigui\u00f3 una declaraci\u00f3n de 22 palabras del Centro de Seguridad de la IA: “Reducir el riesgo de extinci\u00f3n de la IA deber\u00eda ser una prioridad mundial junto con otros riesgos sociales importantes, como las pandemias y la guerra nuclear”. La declaraci\u00f3n fue firmada por muchos cient\u00edficos de IA, as\u00ed como por figuras de la industria tecnol\u00f3gica como el director ejecutivo Sam Altman de OpenAI, el fabricante de ChatGPT y el generador de im\u00e1genes DALLE.<\/p>\n

gui\u00f3n de ciencia ficci\u00f3n<\/h2>\n

La petici\u00f3n holandesa es diferente: es un llamado a los pol\u00edticos holandeses para que ya no dejen el control de la IA en manos de la industria tecnol\u00f3gica, sino que lo tomen en sus propias manos: \u201cAsuman un papel de liderazgo en Europa e implementen una regulaci\u00f3n de alta calidad a trav\u00e9s de la legislaci\u00f3n de la UE. de aplicaciones de IA\u201d, dice el texto. <\/p>\n

Cada ministerio tambi\u00e9n debe investigar \u201cen qu\u00e9 \u00e1reas la IA tendr\u00e1 una influencia fundamental\u201d y trazar \u201cd\u00f3nde se necesitan regulaciones adicionales para dirigir esa influencia en la direcci\u00f3n correcta\u201d. Tambi\u00e9n se aboga por una mayor investigaci\u00f3n sobre los peligros de la IA, mediante la creaci\u00f3n de “300 puestos de investigaci\u00f3n a tiempo completo en los campos de la seguridad de la IA, la IA y el Estado de derecho y el riesgo existencial”. <\/p>\n

\u00bfQu\u00e9 quiere decir Barten con ‘riesgo existencial’? \u201cEl riesgo existencial se trata de que la supervivencia de la humanidad est\u00e9 en juego. Puede significar extinci\u00f3n, el colapso de la civilizaci\u00f3n o una distop\u00eda permanente. Pero la probabilidad de extinci\u00f3n humana es mucho mayor que la probabilidad de esos otros dos escenarios. En lo que a m\u00ed respecta, hay poco aire entre el riesgo existencial y la extinci\u00f3n\u201d.<\/p>\n

Fidelidad<\/em>Se acerc\u00f3 al columnista y cient\u00edfico inform\u00e1tico Ilyaz Nasrullah, pero se neg\u00f3 a firmar la petici\u00f3n. Esta petici\u00f3n en realidad se divide en dos partes. Por un lado los problemas futuros a corto plazo, por otro lado los riesgos existenciales. A m\u00ed tambi\u00e9n me preocupan los problemas sociales que surgen ahora que la industria tecnol\u00f3gica est\u00e1 lanzando al mercado una IA sin terminar. Pero no existe un camino tecnol\u00f3gico hacia la IA que suponga un riesgo existencial para la humanidad. Eso es un gui\u00f3n de ciencia ficci\u00f3n\u201d. <\/p>\n

El Observatorio del Riesgo Existencial est\u00e1 afiliado al movimiento de altruismo efectivo<\/em>dice Nasrullah. \u201cSe preguntan: \u00bfc\u00f3mo puedes hacer el m\u00e1ximo bien? Y luego vienen a prevenir el exterminio del hombre, la mayor caridad imaginable\u201d. <\/p>\n

En 2021, Barten present\u00f3 su ONG en el sitio web de Altruismo Efectivo. Por el momento, el Observatorio de Riesgo Existencial se ‘autofinanciaba’, escribi\u00f3 en ese momento. \u201cAhora tenemos 3 fte, yo soy uno de ellos\u201d, dice ahora. \u201cAs\u00ed que trabajo a tiempo completo para el Observatorio de Riesgo Existencial. Estamos financiados en parte por Maurice Schuurmans, un multimillonario tecnol\u00f3gico holand\u00e9s\u201d. <\/p>\n

Ajedrez<\/p>\n

En el sitio del Observatorio de Riesgo Existencial, la \u201cIA no alineada\u201d se identifica como el principal riesgo: IA que no hace lo que los humanos quieren. El riesgo de extinci\u00f3n en los pr\u00f3ximos 100 a\u00f1os es del 10 por ciento, seg\u00fan una investigaci\u00f3n del Observatorio de Riesgo Existencial. Se hace referencia a un libro de Toby Ord, uno de los fundadores del altruismo efectivo. Public\u00f3 el libro en 2021. El precipicio: riesgo existencial y el futuro de la humanidad<\/em> y est\u00e1 afiliado al Instituto del Futuro de la Humanidad en Oxford, financiado por Elon Musk, entre otros. <\/p>\n

Barten reconoce que su ONG est\u00e1 afiliada al movimiento del altruismo efectivo. \u201cLa diferencia es que miran principalmente la soluci\u00f3n t\u00e9cnica. \u00bfC\u00f3mo puede asegurarse de que la IA contin\u00fae haciendo lo que queremos como humanos? Sobre todo, queremos estimular el debate social sobre el riesgo existencial y queremos una investigaci\u00f3n cient\u00edfica independiente sobre el tema\u201d.<\/p>\n

Seg\u00fan Barten, la gran pregunta es: \u00bfqu\u00e9 pasar\u00e1 si se introduce AGI, Inteligencia General Artificial, una forma de IA que es m\u00e1s inteligente que los humanos? \u201cNo se ha pensado mucho en eso. Al igual que organizaciones como Waag Futurelab, creemos que debemos monitorear cr\u00edticamente la IA actual, pero tambi\u00e9n pensamos: \u00bfqui\u00e9n controlar\u00e1 la futura s\u00faper inteligencia? <\/p>\n

No sabemos qu\u00e9 tan poderosa ser\u00e1 la IA del futuro y si a\u00fan podemos controlarla, dice Barten. \u201cUn sistema de IA como ChatGPT actualmente permanece en el servidor en el que lo instalamos. Pero en el futuro, la IA puede comenzar a permitirse el acceso a otras ubicaciones. Puede usarse para piratear bancos, aviones o incluso armas nucleares. No digo que todos los sistemas de IA hagan eso, pero incluso si solo hay unos pocos, es peligroso”.<\/p>\n

No podemos ganar una batalla contra un sistema de IA que es m\u00e1s inteligente que los humanos, dice Barten. Lo compara con una partida de ajedrez contra un gran maestro como Magnus Carlsen. “No s\u00e9 qu\u00e9 har\u00e1, cu\u00e1l ser\u00e1 su pr\u00f3ximo movimiento, pero perder\u00e9”. <\/p>\n

Mientras que Stikker y Nasrullah califican el escenario de extinci\u00f3n como poco cient\u00edfico, Barten se refiere a los cient\u00edficos de IA que firmaron la petici\u00f3n de extinci\u00f3n del Centro para la Seguridad de la IA a finales de mayo. \u201c262 cient\u00edficos l\u00edderes en IA aparentemente piensan que el riesgo es real. Y ahora el jefe de la ONU, Guterres, la Casa Blanca y el primer ministro brit\u00e1nico, Sunak, tambi\u00e9n han reconocido el riesgo existencial de la IA\u201d.<\/p>\n

Nasrullah ve esto como una estrategia exitosa para la industria tecnol\u00f3gica. \u201cRealmente ves una amplia negativa de todas las organizaciones involucradas en tecnolog\u00eda y derechos humanos para firmar este tipo de peticiones. En nuestro mundo conocemos el lobby del Observatorio de Riesgo Existencial y los altruistas efectivos desde hace mucho m\u00e1s tiempo. Hay un cabildeo de la industria tecnol\u00f3gica para evitar hablar sobre los peligros de la IA en el presente al cambiar la atenci\u00f3n a los riesgos de una futura superinteligencia\u201d. <\/p>\n

‘Lucha de campo’<\/h2>\n

Nasrullah no es el \u00fanico que lo ve as\u00ed. Revista de tecnolog\u00eda Revisi\u00f3n de tecnolog\u00eda del MIT<\/em> le dedic\u00f3 un art\u00edculo esta semana: C\u00f3mo el riesgo existencial se convirti\u00f3 en el mayor meme de la IA<\/em>. La esencia: a las empresas de tecnolog\u00eda les gusta trasladar las preocupaciones sobre la IA a un futuro lejano, donde sus intereses actuales no est\u00e1n en juego. \u201cCuando hablamos del futuro lejano, cuando hablamos de riesgos mitol\u00f3gicos, reformulamos el problema como uno que existe en un mundo de fantas\u00eda, y las soluciones solo pueden existir en ese mundo de fantas\u00eda\u201d, dijo Meredith Whittaker, fundadora del laboratorio de investigaci\u00f3n AI. Ahora Instituto, en el art\u00edculo. En otras palabras: el riesgo x, como se llama simplemente riesgo existencial, es un pararrayos que las grandes tecnolog\u00edas utilizan para escapar de la regulaci\u00f3n en el presente.<\/p>\n

\u00bfNo cree Barten que su historia es una distracci\u00f3n de los problemas de la IA en el presente? \u201cNo, creo que hay espacio para hablar de ambos. Tambi\u00e9n sobre problemas actuales como los prejuicios, la discriminaci\u00f3n, el desempleo inminente, la desigualdad, la concentraci\u00f3n de poder, la desinformaci\u00f3n. Tambi\u00e9n nos preocupa eso. Es por eso que apoyamos la Ley de IA de la UE y eso solo demuestra que no somos una extensi\u00f3n de Big Tech, porque piensan que las reglas europeas son demasiado estrictas. Pero tambi\u00e9n queremos llamar la atenci\u00f3n sobre los riesgos de la IA del futuro\u201d. <\/p>\n

El ex miembro del parlamento Kees Verhoeven y el ex estratega de campa\u00f1a de VVD Mark Thiessen tambi\u00e9n se encuentran entre los iniciadores de la petici\u00f3n. \u201cHablamos sobre el texto\u201d, dice Stikker. \u201cEst\u00e1n principalmente preocupados por los problemas del presente, pero tambi\u00e9n quer\u00edan mantener a bordo a los clubes de riesgo x\u201d. <\/p>\n

Como resultado, muchas organizaciones involucradas en tecnolog\u00eda y derechos humanos, como Bits of Freedom, Amnesty y Waag Futurelab, no han firmado la petici\u00f3n. Verhoeven lamenta eso. \u201cHa surgido una batalla campal de la que no me siento parte\u201d, dice Verhoeven. \u201cMark Thiessen y yo estamos particularmente preocupados por los problemas actuales de IA. Pero pensamos que ser\u00eda una buena idea nombrar tantos riesgos diferentes como sea posible. En cuanto al abominable mu\u00f1eco de nieve, no causa ning\u00fan problema en el presente. La IA lo hace. As\u00ed que esa comparaci\u00f3n no funciona”. <\/p>\n

No est\u00e1 particularmente preocupado por el ‘riesgo existencial’, dice Verhoeven. “Pero no puedo descartarlo. No sabemos c\u00f3mo se desarrollar\u00e1 la IA, \u00bfverdad? En lo que a m\u00ed respecta, diferentes preocupaciones pueden coexistir. Pens\u00e9: todos pueden unirse\u201d.<\/p>\n

El ensayista Maxim Februari, que escribe mucho sobre IA, decidi\u00f3 firmar la petici\u00f3n. \u201cPreferir\u00eda discutir los problemas actuales con seriedad, como las consecuencias de la IA para la ley. Creo que todos lo sopesaron de manera diferente. Marleen Stikker y yo no estamos muy separados. Pero la pregunta es: \u00bfc\u00f3mo lo consigues en la agenda pol\u00edtica? El riesgo existencial no es algo que me preocupe. Y tambi\u00e9n veo las objeciones. Pero aparentemente esto funciona. La prensa y los pol\u00edticos finalmente han sido sacudidos\u201d. <\/p>\n