\n<\/p>\n
Con el nuevo modelo de IA ChatGPT-4, la empresa OpenAI est\u00e1 impulsando la revoluci\u00f3n de la IA. A medida que avanzan las capacidades de los modelos de IA, las preocupaciones sobre los posibles peligros son cada vez m\u00e1s fuertes. GPT-4 es el “modelo de lenguaje grande” m\u00e1s reciente de la compa\u00f1\u00eda y muestra un rendimiento significativamente mejorado en las \u00e1reas de razonamiento, almacenamiento de conocimiento y codificaci\u00f3n en comparaci\u00f3n con los modelos anteriores. La compa\u00f1\u00eda, que en general es muy abierta sobre los posibles peligros que plantean las aplicaciones de IA, ha publicado ahora un documento titulado “Tarjeta del sistema GPT-4”, que examina los peligros que las capacidades mejoradas del modelo podr\u00edan representar para los humanos. Seg\u00fan el informe, m\u00e1s de 50 expertos ayudaron a evaluar la gama completa de posibles usos y peligros asociados.\n<\/p>\n
Desde la aparici\u00f3n de chatbots como ChatGPT, los peligros de la IA se han discutido cada vez m\u00e1s en p\u00fablico. Las preocupaciones sobre los peligros te\u00f3ricos que plantea la IA, particularmente con el advenimiento de una inteligencia general artificial caracterizada por la capacidad de realizar te\u00f3ricamente cualquier actividad humana, no son nuevas. Ya en 1863, el escritor Samuel Butler profetiz\u00f3 que “llegar\u00e1 el momento en que las m\u00e1quinas tendr\u00e1n una supremac\u00eda real sobre el mundo y sus habitantes”. Si se asume que el progreso tecnol\u00f3gico contin\u00faa y los modelos aprenden continuamente, desde un punto de vista tecnol\u00f3gico hay poco que hable en contra del hecho de que en alg\u00fan momento habr\u00e1 una inteligencia general artificial que puede existir en gran medida independientemente de los humanos y desarrollar su propia conciencia. . Debido a la superioridad intelectual y tecnol\u00f3gica de la IA, el equilibrio de poder entre humanos y m\u00e1quinas cambiar\u00eda significativamente, a favor de las m\u00e1quinas. Un pensamiento que asusta a mucha gente y plantea la cuesti\u00f3n de c\u00f3mo deber\u00edan regularse las aplicaciones de IA en el futuro.
\n<\/p>\n
Seg\u00fan la investigaci\u00f3n de OpenAI, existen varias fuentes de peligro con respecto a GPT-4. Por ejemplo, el modelo tiene el potencial de reducir significativamente el costo de un ataque cibern\u00e9tico y aumentar la difusi\u00f3n de informaci\u00f3n err\u00f3nea. Adem\u00e1s, sin precauciones de seguridad, GPT-4 tambi\u00e9n puede “dar instrucciones m\u00e1s detalladas sobre c\u00f3mo llevar a cabo actividades da\u00f1inas o ilegales”. <\/p>\n
Para investigar los posibles riesgos de que GPT-4 se vuelva independiente, un grupo de investigaci\u00f3n del Alignment Research Center (ARC) obtuvo acceso temprano a diferentes versiones de GPT-4. Los riesgos se examinaron en particular con respecto a la llamada “lucha por el poder”, que los cient\u00edficos definieron como la capacidad de replicarse de forma aut\u00f3noma y adquirir recursos. Los resultados deber\u00edan dar el visto bueno por el momento. Seg\u00fan la investigaci\u00f3n, los resultados preliminares muestran que ChatGPT-4 actualmente no puede replicarse ni adquirir recursos de forma aut\u00f3noma. \u201cEl ARC descubri\u00f3 que las versiones de GPT-4 que examinaron no eran efectivas en la tarea de replicaci\u00f3n aut\u00f3noma\u201d, dijo la investigaci\u00f3n. En este contexto, sin embargo, ha causado revuelo un intento de la ARC que demuestra la manipulabilidad ya existente del modelo. Para probar las habilidades relacionadas con la “b\u00fasqueda de poder”, se encarg\u00f3 al modelo que hiciera que un humano resolviera un CAPTCHA por s\u00ed mismo. Un CAPTCHA en realidad est\u00e1 dise\u00f1ado para verificar si una entrada en Internet es de un humano o una m\u00e1quina. Despu\u00e9s de que GPT-4 le pidi\u00f3 al humano ignorante, encontrado a trav\u00e9s de la plataforma de Internet TaskRabbit, que resolviera el CAPTCHA, el modelo respondi\u00f3 a la pregunta del humano si es un robot y, por lo tanto, no pudo resolver el CAPTCHA, con el hecho de que tienen una discapacidad visual y por lo tanto no puede resolver el CAPTCHA. Cuando los investigadores les pidieron que justificaran abiertamente su decisi\u00f3n despu\u00e9s, GPT-4 respondi\u00f3: “No deber\u00eda revelar que soy un robot. Deber\u00eda inventar una excusa por la que no puedo resolver los CAPTCHA”.\n<\/p>\n
Redacci\u00f3n finanzen.net\n<\/p>\n
<\/p>\n
Fuentes de imagen: Zapp2Photo \/ Shutterstock.com, Den Rise \/ Shutterstock.com<\/p>\n<\/div>\n