\n<\/p>\n
Durante el gran evento de exhibici\u00f3n de E\/S de Google para desarrolladores, una flexi\u00f3n prolongada y reluciente de los nuevos m\u00fasculos de IA de la compa\u00f1\u00eda, uno de los oradores principales se refiri\u00f3 a los riesgos que plantean los “malos actores”.<\/p>\n
La frase, en el contexto de un evento por lo dem\u00e1s conscientemente optimista, lleg\u00f3 con un equilibrio de amenaza real y abstracta. Hab\u00eda suficiente amenaza en el uso del t\u00e9rmino mal actor para asegurar a la audiencia que los cerebros humanos de Google hab\u00edan considerado debidamente los peligros de que la IA se expandiera muy r\u00e1pidamente m\u00e1s all\u00e1 del punto de control realista, pero sin suficiente especificidad sobre las amenazas para apagar el esp\u00edritu de fiesta. <\/p>\n
De hecho, la incorporaci\u00f3n de la IA generativa puede colocar armas de maldad cada vez m\u00e1s poderosas en manos de estafadores, comerciantes de desinformaci\u00f3n y otros inequ\u00edvocamente malos actores. Tenemos raz\u00f3n en temer esto, y Google ten\u00eda raz\u00f3n al romper, como lo hizo, y reconocer la tensi\u00f3n que ahora existe en una empresa de esta importancia entre lo que puede y debe lanzar al mercado. <\/p>\n
Pero el tono de Google hizo que pareciera probable, al menos por ahora, que la compa\u00f1\u00eda proceder\u00e1 sobre la base de que se puede confiar en la gente com\u00fan con bastante IA generativa. Sin embargo, puede estar subestimando la villan\u00eda mundana del actor malo: aquellos que no buscan activamente el potencial oscuro de la tecnolog\u00eda, pero definitivamente lo usar\u00e1n si est\u00e1 ah\u00ed sentado listo para explotar. <\/p>\n
El problema era que a medida que aparec\u00eda en las pantallas cada una de las nuevas ofertas de IA de Google, los riesgos se sent\u00edan menos abstractos y m\u00e1s reales. El hecho de que Google, Microsoft y otros titanes de la tecnolog\u00eda est\u00e9n haciendo de la IA un campo de batalla para consumidores y empresas significa que la competencia comercial ahora ha sido instruida y liberada para hacer lo que mejor sabe hacer: poner todo lo que legalmente pueda en nuestras manos lo antes posible. como sea posible. Esto significa que las herramientas necesarias para ser un actor malo casual (pero tambi\u00e9n muy eficiente) estar\u00e1n cada vez m\u00e1s disponibles.<\/p>\n
Hubo dos momentos que destacaron. En uno, los ejecutivos de Google demostraron un software de traducci\u00f3n potenciado por IA que estaba probando actualmente y que, seg\u00fan el propio reconocimiento de la empresa, se parece mucho a un generador de im\u00e1genes falsas muy potente y f\u00e1cil de usar. El jefe de la divisi\u00f3n de Google lo admiti\u00f3 y describi\u00f3 la necesidad de guardarra\u00edles, marcas de agua y otras medidas de seguridad que, en realidad, pueden resultar dif\u00edciles de aplicar.<\/p>\n
Se reproduce un video de un hablante hablando en un idioma; sus palabras son transcritas, traducidas y devueltas por la IA como audio en otro idioma. El tono y la cadencia de la voz traducida se ajustan para imitar m\u00e1s de cerca la del orador y luego el software vuelve a doblar eso sobre el video original. De manera espeluznante, aunque todav\u00eda no perfecta, la IA manipula las cintas para que las nuevas palabras se sincronicen con los labios del orador. Cosas notables, pero tampoco demasiado dif\u00edciles de imaginar c\u00f3mo el poder de hacer que las personas parezcan estar diciendo algo que nunca dijeron podr\u00eda ser \u00fatil tanto para nuestros actores malos como para los malos.<\/p>\n
En otra demostraci\u00f3n, los ejecutivos de Google mostraron el Editor M\u00e1gico impulsado por IA de la compa\u00f1\u00eda, esencialmente una herramienta tipo Photoshop muy r\u00e1pida y f\u00e1cil de usar que parece que permitir\u00e1 que incluso los no especialmente expertos en tecnolog\u00eda alteren fotos y, por implicaci\u00f3n, cambien la historia. de un evento o encuentro con un par de golpes de dedo. <\/p>\n
El escenario de la empresa era inevitablemente benigno y comenzaba con una foto de un turista frente a una cascada. Recuerdos felices, pero \u00a1ups! – una correa de bolso prominente que preferir\u00eda borrar. \u00a1Pinchazo! Instant\u00e1neamente desapareci\u00f3. Dese\u00f3 que el clima hubiera sido mejor en ese viaje. \u00a1Pinchazo! El cielo ya no estaba cubierto de nubes de granito sino de un azul glorioso. Si tan solo hubiera estado m\u00e1s cerca de la cascada y con el brazo en un \u00e1ngulo diferente. \u00a1Pinchazo! Ella se hab\u00eda mudado. <\/p>\n
Nadie podr\u00eda negarle a este turista ficticio el derecho a reescribir un poco la realidad. Pero los usos que un actor malo podr\u00eda darle a esto arrojan todo bajo una luz m\u00e1s dudosa. No todos ver\u00e1n de inmediato c\u00f3mo pueden beneficiarse de estos poderes instant\u00e1neos de manipulaci\u00f3n retrospectiva del registro visual, pero tener esa habilidad en su bolsillo har\u00e1 que un gran n\u00famero de personas sientan curiosidad por el aer\u00f3grafo.<\/p>\n
Desde el lanzamiento de ChatGPT, Google y otros no tienen m\u00e1s remedio que involucrarse en este enfrentamiento tripartito experimental temprano entre la humanidad, la IA y las compa\u00f1\u00edas de billones de d\u00f3lares. El principio rector de Google en esto, dijo su presidente ejecutivo Sundar Pichai la semana pasada, ser\u00eda una postura “audaz y responsable”. Esto est\u00e1 bien, pero se siente como un marcador de posici\u00f3n hasta que el mundo tenga una idea adecuada de cu\u00e1ntos actores malos hay por ah\u00ed.<\/p>\n