Durante el gran evento de exhibición de E/S de Google para desarrolladores, una flexión prolongada y reluciente de los nuevos músculos de IA de la compañía, uno de los oradores principales se refirió a los riesgos que plantean los “malos actores”.
La frase, en el contexto de un evento por lo demás conscientemente optimista, llegó con un equilibrio de amenaza real y abstracta. Había suficiente amenaza en el uso del término mal actor para asegurar a la audiencia que los cerebros humanos de Google habían considerado debidamente los peligros de que la IA se expandiera muy rápidamente más allá del punto de control realista, pero sin suficiente especificidad sobre las amenazas para apagar el espíritu de fiesta.
De hecho, la incorporación de la IA generativa puede colocar armas de maldad cada vez más poderosas en manos de estafadores, comerciantes de desinformación y otros inequívocamente malos actores. Tenemos razón en temer esto, y Google tenía razón al romper, como lo hizo, y reconocer la tensión que ahora existe en una empresa de esta importancia entre lo que puede y debe lanzar al mercado.
Pero el tono de Google hizo que pareciera probable, al menos por ahora, que la compañía procederá sobre la base de que se puede confiar en la gente común con bastante IA generativa. Sin embargo, puede estar subestimando la villanía mundana del actor malo: aquellos que no buscan activamente el potencial oscuro de la tecnología, pero definitivamente lo usarán si está ahí sentado listo para explotar.
El problema era que a medida que aparecía en las pantallas cada una de las nuevas ofertas de IA de Google, los riesgos se sentían menos abstractos y más reales. El hecho de que Google, Microsoft y otros titanes de la tecnología estén haciendo de la IA un campo de batalla para consumidores y empresas significa que la competencia comercial ahora ha sido instruida y liberada para hacer lo que mejor sabe hacer: poner todo lo que legalmente pueda en nuestras manos lo antes posible. como sea posible. Esto significa que las herramientas necesarias para ser un actor malo casual (pero también muy eficiente) estarán cada vez más disponibles.
Hubo dos momentos que destacaron. En uno, los ejecutivos de Google demostraron un software de traducción potenciado por IA que estaba probando actualmente y que, según el propio reconocimiento de la empresa, se parece mucho a un generador de imágenes falsas muy potente y fácil de usar. El jefe de la división de Google lo admitió y describió la necesidad de guardarraíles, marcas de agua y otras medidas de seguridad que, en realidad, pueden resultar difíciles de aplicar.
Se reproduce un video de un hablante hablando en un idioma; sus palabras son transcritas, traducidas y devueltas por la IA como audio en otro idioma. El tono y la cadencia de la voz traducida se ajustan para imitar más de cerca la del orador y luego el software vuelve a doblar eso sobre el video original. De manera espeluznante, aunque todavía no perfecta, la IA manipula las cintas para que las nuevas palabras se sincronicen con los labios del orador. Cosas notables, pero tampoco demasiado difíciles de imaginar cómo el poder de hacer que las personas parezcan estar diciendo algo que nunca dijeron podría ser útil tanto para nuestros actores malos como para los malos.
En otra demostración, los ejecutivos de Google mostraron el Editor Mágico impulsado por IA de la compañía, esencialmente una herramienta tipo Photoshop muy rápida y fácil de usar que parece que permitirá que incluso los no especialmente expertos en tecnología alteren fotos y, por implicación, cambien la historia. de un evento o encuentro con un par de golpes de dedo.
El escenario de la empresa era inevitablemente benigno y comenzaba con una foto de un turista frente a una cascada. Recuerdos felices, pero ¡ups! – una correa de bolso prominente que preferiría borrar. ¡Pinchazo! Instantáneamente desapareció. Deseó que el clima hubiera sido mejor en ese viaje. ¡Pinchazo! El cielo ya no estaba cubierto de nubes de granito sino de un azul glorioso. Si tan solo hubiera estado más cerca de la cascada y con el brazo en un ángulo diferente. ¡Pinchazo! Ella se había mudado.
Nadie podría negarle a este turista ficticio el derecho a reescribir un poco la realidad. Pero los usos que un actor malo podría darle a esto arrojan todo bajo una luz más dudosa. No todos verán de inmediato cómo pueden beneficiarse de estos poderes instantáneos de manipulación retrospectiva del registro visual, pero tener esa habilidad en su bolsillo hará que un gran número de personas sientan curiosidad por el aerógrafo.
Desde el lanzamiento de ChatGPT, Google y otros no tienen más remedio que involucrarse en este enfrentamiento tripartito experimental temprano entre la humanidad, la IA y las compañías de billones de dólares. El principio rector de Google en esto, dijo su presidente ejecutivo Sundar Pichai la semana pasada, sería una postura “audaz y responsable”. Esto está bien, pero se siente como un marcador de posición hasta que el mundo tenga una idea adecuada de cuántos actores malos hay por ahí.
About the Author
