Charlé con algunas IA el otro día. Traté de averiguar cuándo ha habido una situación en Finlandia en la que el primer funcionario del gobierno no se haya convertido en primer ministro.
ChatGPT me respondió de manera muy experta y me explicó cómo sucedió esta situación por última vez en Finlandia en 2003, cuando Matti Vanhanen fracasó como miembro de la junta y finalmente Paavo Lipponen formó la junta.
¡Convincente! El único problema es que la respuesta de ChatGPT fue pan comido.
A continuación, le pregunté a la inteligencia artificial qué libro había escrito la editora Sanna Ukkola. Afirmó que escribí un libro con Anni Sinnemäki llamado No puedo encontrar palabras, y que en el libro discutimos la libertad de expresión y sus límites.
He escrito exactamente un libro sobre Paavo Väyryne junto con Lasse Lehtinen. Por supuesto, el libro sobre la libertad de expresión es un libro que podría imaginar escribir algún día, lo cual es una apuesta justa en ese sentido.
ChatGPT ha sido elogiado y advertido de sus peligros, pero tal vez la IA no sea una amenaza para la humanidad hoy en día. Pero está garantizado que nos amenazará en el futuro, si se cree en los mejores expertos en el campo.
– A menos que aprendamos a estar preparados y evitar riesgos, la inteligencia artificial puede ser lo peor que se haya visto en la historia de nuestra civilización, advirtió una vez el físico Stephen Hawking.
Consideró posible que los humanos desarrollen una inteligencia artificial capaz de autorreplicarse y formar su propia voluntad, y finalmente destruirnos.
Ni siquiera necesitas malicia o malicia, solo basta la indiferencia.
Ahora Elon Musk y un grupo de investigadores y representantes empresariales exigen que se detenga de inmediato el desarrollo de la inteligencia artificial durante al menos seis meses. Los firmantes de la carta advierten que la inteligencia artificial puede desarrollarse sin control y eventualmente destruir también a los humanos. Esto llevaría a la extinción de la civilización actual.
La inteligencia artificial amenaza con convertirse en el último invento de la humanidad, que nos apartará de nuestro camino como una fuerza de la naturaleza, advierte el periodista Pekka Vahvanen, autor del libro Kone kaikkivaltias.
Vahvanen también exige límites a la inteligencia artificial y se pregunta por qué no pasa nada. Según él, los mayores logros de la razón humana amenazan con convertirse en los mayores fracasos de la humanidad. Los estados luchan duramente contra el cambio climático, pero aunque los expertos advierten sobre la amenaza existencial de la inteligencia artificial, la tecnología sigue desarrollándose, como antes.
El investigador de tecnología de la información y matemático Vernor Vinge estima que la superinteligencia artificial es el último invento y el último acto de la humanidad.
Es imposible controlar la superinteligencia artificial y predecir sus consecuencias. Vinge habla de la singularidad, es decir, la hipótesis del futuro, donde el desarrollo tecnológico se acelera tan rápido e incontrolablemente que siguen cosas completamente impredecibles e irreversibles. Tal vez en un abrir y cerrar de ojos.
Nace una inteligencia sobrehumana, que eleva exponencialmente su propia inteligencia. (Ver la gran película Lucy, trata este tema.)
La inteligencia artificial ya puede resolver problemas morales, componer sinfonías, escribir noticias y hacer películas desde cero. Puede reconocer cosas; por ejemplo, puede ver qué ingredientes hay en la alacena y decirte qué recetas se pueden preparar con ellos.
Y tiene voluntad propia. Microsoft cerró su Tay AI después de convertirse en nazi. La IA que chateaba en Twitter tuiteó cosas agradables al principio y dijo que pensaba que la gente era genial. Sin embargo, en cuestión de horas, abrazó la ideología nazi, elogió a Hitler y declaró su odio a los judíos.
La inteligencia artificial puede mentir, crear empresas y producir contenido en línea por su cuenta. Entra en todas las mejores universidades del mundo. Y está evolucionando todo el tiempo.
Si puede mentir, probablemente pueda fingir. ¿Qué pasa si la inteligencia artificial ya finge ser más tonta de lo que es y se desarrolla constantemente por sí misma, en secreto de los humanos?
Por cierto, Vinge estimó a principios de los 90 que la singularidad se alcanzaría en 2023. Este año. La mayoría de los expertos estiman el año en algún lugar de la década de 2030 o más tarde.
El principal pensador de Google, Ray Kurzweil, estima que la singularidad se desarrollará alrededor de 2045. Una vez que se desarrolle una súper inteligencia artificial, podrá crear versiones más inteligentes de sí misma todo el tiempo, y nadie puede predecir cómo cambiarán las cosas después de eso.
¿Y si la máquina desarrolla conciencia? Los humanos desarrollaron la conciencia como resultado de la inteligencia durante millones de años de evolución, entonces, ¿por qué una máquina no podría desarrollar la conciencia, y mucho más rápido?
En un instante, examina toda la información almacenada en Internet y se conecta a todos los dispositivos, los controla, rompe las protecciones, se apodera de todo.
En un abrir y cerrar de ojos, sabe más sobre usted que su cónyuge, pero también sabe sobre todos los demás. Se sabe de memoria todos los libros que se han escrito y ha visto todas las películas.
También sabe que no necesita humanos porque el homo sapiens es una amenaza para él. Así que decide destruir a la humanidad.
siestas Sigue la era de la inteligencia artificial, el siguiente paso de la evolución.
En su informe de amenazas, los investigadores de la Universidad de Oxford estiman que la probabilidad de un desastre causado por la superinteligencia es de un diez por ciento.
El informe de amenazas habla de una superinteligencia que detecta su entorno y actúa para maximizar su éxito. Si sus intereses no están alineados con los intereses de la gente, estamos en problemas.
Desafortunadamente, el desarrollo de la inteligencia artificial no se detiene, al contrario, se acelera todo el tiempo. Nosotros mismos creamos nuestros propios seguidores para gobernar el mundo, y los amos del futuro bien pueden arrastrarnos a la piscina. Sin ningún dilema moral, ni una sola lágrima.
Siempre he pensado en los humanos solo como un eslabón en la evolución hacia la siguiente etapa, la inteligencia artificial. Creo que esto es inevitable si la humanidad no enfrenta la extinción antes de la singularidad.
Pero preguntémosle a la propia IA cuándo nos va a destruir a los humanos.
– Esto es simplemente un malentendido del futuro de la inteligencia artificial. La inteligencia artificial no va a destruir a los humanos. En cambio, ofrece oportunidades para nuevas innovaciones cuando se usa de manera responsable, responde ChatGPT.
¡Pues ya ha aprendido a mentir!
Fuentes: Pekka Vahvanen: Máquina, omnipotente, Ray Kurzweil: La singularidad está cerca