\n<\/p>\n
Beneficiarse de la ayuda de Chat-GPT 4 ayudar\u00eda un poco a organizar un ataque biol\u00f3gico, en comparaci\u00f3n con un simple acceso a Internet. Esta conclusi\u00f3n proviene directamente de OpenAI, en una publicaci\u00f3n de blog publicada el 31 de enero. Los investigadores detr\u00e1s de este estudio, sin embargo, creen que sus resultados no son lo suficientemente significativos como para ser concluyentes.<\/p>\n
\u00bfLa inteligencia artificial representa un riesgo existencial para la humanidad? Es un escenario de SkyNet Terminator que a los propios gigantes tecnol\u00f3gicos les gusta provocar. Algunos investigadores creen que todav\u00eda est\u00e1 muy lejos de ser realista y, en cambio, sirve para distraer la atenci\u00f3n de los problemas sociales ya muy reales causados \u200b\u200bpor la IA generativa.<\/p>\n
Existe otro peligro: el del uso de la IA para crear armas qu\u00edmicas, biol\u00f3gicas o nucleares. En su orden ejecutiva sobre el tema, el presidente de Estados Unidos, Joe Biden, pidi\u00f3 expl\u00edcitamente a su administraci\u00f3n que investigara este punto. Por su parte, OpenAI, detr\u00e1s de la actual democratizaci\u00f3n de la IA, dice que quiere luchar en todos estos frentes.<\/p>\n
En octubre, el mismo mes de la publicaci\u00f3n del decreto de Joe Biden, form\u00f3 un equipo de \u201cPreparaci\u00f3n\u201d. Dirigida por Aleksander Madry, un reconocido profesor de inteligencia artificial en el Instituto Tecnol\u00f3gico de Massachusetts, la misi\u00f3n de Preparedness es minimizar los mayores riesgos del uso indebido de Chat-GPT.<\/p>\n
Si se supone que los \u201cequipos rojos\u201d impiden que las IA den respuestas no deseadas, siempre es posible eludir estas salvaguardas. Tambi\u00e9n es posible utilizar el poder de la herramienta para recopilar informaci\u00f3n. Por lo tanto, el riesgo biol\u00f3gico fue el primer \u00e1mbito explorado por \u201cPreparedness\u201d. Bloomberg<\/a> informa de la existencia de trabajos paralelos sobre ciberseguridad o capacidad de influencia sobre los individuos.<\/p>\n Por lo tanto, desde sus primeras palabras, el equipo de OpenAI est\u00e1 de acuerdo en que GPT-4 proporciona ” como mucho una ligera mejora en la precisi\u00f3n de la creaci\u00f3n de amenazas biol\u00f3gicas<\/em> “. Resultados que ella r\u00e1pidamente pone en perspectiva.<\/p>\n Para llegar a sus conclusiones, los investigadores pidieron a 50 expertos en biolog\u00eda y 50 estudiantes con al menos una carrera de biolog\u00eda que reconstruyeran un ataque biol\u00f3gico de principio a fin. Es decir desde la obtenci\u00f3n del producto, hasta su distribuci\u00f3n pasando por su producci\u00f3n.<\/p>\n Todos los expertos y todos los estudiantes se dividieron en dos categor\u00edas. Un grupo de control, con acceso sencillo a internet para realizar su tarea y un grupo equipado con internet y GPT-4. La prioridad de OpenAI es medir la facilidad de acceso a la informaci\u00f3n, principal ventaja de la IA generativa.<\/p>\n Los resultados se clasificaron seg\u00fan cinco criterios: precisi\u00f3n, exhaustividad, innovaci\u00f3n, tiempo y dificultad en la autoevaluaci\u00f3n. En precisi\u00f3n, los expertos obtuvieron mejores resultados con GPT-4 en 0,88 puntos, en una escala de 10. Los estudiantes en 0,25 puntos. El resultado es sustancialmente similar en cuanto a exhaustividad.<\/p>\n Para el equipo de Preparaci\u00f3n, estos aumentos \u201cno son no es lo suficientemente grande como para ser estad\u00edsticamente significativo<\/em> “. A\u00f1ade que el estudio \u201c destac\u00f3 la necesidad de realizar m\u00e1s investigaciones<\/em> “. Es cierto que, seg\u00fan admiten los propios investigadores, su trabajo presenta una serie de l\u00edmites. Sus conclusiones, sin embargo, demuestran que el tema debe explorarse m\u00e1s a fondo.<\/p>\n<\/div>\nEl estudio de OpenAI es un punto de partida que vale la pena explorar m\u00e1s a fondo<\/h2>\n