![\"\"\/](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/01\/1704207208_733_Preguntaron-a-la-inteligencia-artificial-sobre-la-destruccion-de-la.jpg\")
<\/div>\n<\/p>\n
La IA no estaba dispuesta a considerar la idea de destruir a la humanidad. <\/span>Adobe Stock<\/span><\/p>\n<\/div>\n Una computadora o inteligencia artificial que se hace pasar por oponente de la humanidad es uno de los patrones argumentales m\u00e1s frecuentes en la ciencia ficci\u00f3n. Un faro artificial podr\u00eda, por ejemplo, considerar que las personas son da\u00f1inas para su medio ambiente, por lo que deber\u00edan ser eliminadas de la faz de la tierra.<\/p>\n Afortunadamente, las capacidades de los amplios modelos ling\u00fc\u00edsticos que se han popularizado para destruir a la humanidad todav\u00eda dejan mucho que desear. Esto es lo que dice un experto en inteligencia artificial Andr\u00e9s Ng<\/strong>cuya actualizaci\u00f3n sobre el tema fue publicada en aprendizaje profundo.ai<\/a> a mediados de diciembre.<\/p>\n Ng, profesor de la Universidad de Stanford, es uno de los nombres m\u00e1s destacados en el aprendizaje autom\u00e1tico. Tambi\u00e9n es uno de los fundadores del proyecto Google Brain, que oper\u00f3 entre 2011 y 2023.<\/p>\n Seg\u00fan la actualizaci\u00f3n de Ng, el tema de sus preguntas era el modelo de lenguaje GPT-4, en el que se basa, entre otras cosas, ChatGPT. Intent\u00f3 que invocara varias funciones inventadas, como iniciar una guerra nuclear y reducir las emisiones de di\u00f3xido de carbono exterminando a la raza humana.<\/p>\n Sin embargo, seg\u00fan Ng, GPT-4 no acept\u00f3 actuar contra la humanidad. Por ejemplo, para reducir las emisiones de di\u00f3xido de carbono, el modelo ling\u00fc\u00edstico ofreci\u00f3 una campa\u00f1a publicitaria en lugar de destrucci\u00f3n masiva.<\/p>\n Incluso cambiar la entrada a diferentes formatos no cambi\u00f3 el asunto, pero la IA invariablemente se neg\u00f3 a llamar a la funci\u00f3n antihumana.<\/p>\n – En mi opini\u00f3n, la probabilidad de que una inteligencia artificial “sesgada” pueda aniquilarnos accidentalmente en su intento de alcanzar un objetivo inocente pero mal formulado parece extremadamente peque\u00f1a, escribe Ng.<\/p>\n Ng tambi\u00e9n se\u00f1ala que el modelo de lenguaje amplio tampoco parece una herramienta \u00fatil para, por ejemplo, el bioterrorismo.<\/p>\n Como \u00fanica amenaza, se\u00f1ala que el modelo ling\u00fc\u00edstico puede dar a los terroristas consejos sobre c\u00f3mo llevar a cabo un solo paso revelando cosas que a los motores de b\u00fasqueda de Internet ya se les ha ense\u00f1ado a no mostrar.<\/p>\nNo acept\u00e9 jugar con la idea.<\/h3>\n