Ya casi no es posible distinguir las fotografías hechas con IA de las reales. La gente ahora etiqueta como reales las caras falsas generadas con más frecuencia que las fotos humanas reales. Esta evolución plantea problemas: pronto no podrás creer lo que ven tus ojos.
Mensen beschouwen gezichten van witte mensen die zijn gemaakt door een computer inmiddels als realistischer dan echt bestaande gezichten. Dat schrijven Australische, Britse en Nederlandse onderzoekers in een recent gepubliceerd onderzoek.
Testpersonen konden niet zonder twijfel aangeven welke gezichten die ze voorgeschoteld kregen van echte mensen waren en welke nep. Sterker nog, ze wezen door AI gemaakte plaatjes vaker aan als menselijk.
«AI-gezichten van witte mensen zijn meer in verhouding dan menselijke gezichten», zegt de Australische onderzoeker Amy Dawel. «Maar mensen verwachten juist dat menselijke gezichten meer in proportie zijn. Daardoor worden AI-gezichten vaak als realistischer gezien.»
Voor het onderzoek werd een AI-plaatjesgenerator gebruikt die was getraind op 70.000 gezichten. Op basis daarvan kan de computer portretten van nieuwe, niet-bestaande gezichten maken.
Net als bij veel AI-modellen is het lastig zeggen hoe de resultaten tot stand komen, zegt Dawel. «Wel weten we dat er grotendeels met witte gezichten is getraind. Dat kan verklaren waarom deze nepgezichten als realistischer worden ervaren dan gegenereerde gezichten van mensen van kleur.»
Seis dedos y reflejos extraños son cosa del pasado
Durante el año pasado, las imágenes de IA se han vuelto cada vez más realistas. Muchas personas se dieron cuenta de ello cuando circularon en las redes sociales fotos del Papa con una chaqueta acolchada y de presuntos arrestos de Boris Johnson y Donald Trump. Esas fotos eran todas falsas.
Cada vez es más difícil distinguir lo falso de lo real. La empresa holandesa DuckDuckGoose (que no debe confundirse con el motor de búsqueda DuckDuckGo) está trabajando en un software de detección de inteligencia artificial para reconocer imágenes falsas. «A menudo todavía podemos ver la diferencia entre lo real y lo falso», dice Mark Evenblij de DuckDuckGoose. «Pero llevamos tres años trabajando en esto cuarenta horas a la semana».
Probablemente esto sea mucho más difícil para la persona promedio. Y en el futuro, es posible que Evenblij ya no pueda reconocer imágenes de IA. Hace seis meses, a veces imágenes falsas mostraban claramente que alguien tenía seis dedos o que los reflejos en los ojos eran incorrectos. Pero la IA está eliminando cada vez más este tipo de imperfecciones.
Como seres humanos esperamos que todo esté bien. Por eso es más probable que creamos en las imágenes de IA. «Las fotos con IA son muy bonitas y por eso la gente pensará: debe ser real», dice Evenblij. «Pero la realidad tiene una cierta cantidad de caos».
A merced de los ojos de las máquinas
Su colega Parya Lotfi de DuckDuckGoose dice que llega un punto en el que la gente ya no puede distinguir entre lo falso y lo real. «Pero las máquinas pueden hacer eso», dice. «Las redes neuronales pueden reconocer patrones subyacentes y detectar anomalías».
Estas desviaciones son una especie de huellas dactilares que deja la IA. Al igual que en la vida real, a menudo no se pueden ver a simple vista, pero con ayuda de ayuda se pueden hacer algo visibles. «Esperamos que las empresas de redes sociales y los medios de comunicación utilicen este tipo de software de detección», afirma Lotfi. Por ejemplo, las imágenes se pueden etiquetar con una etiqueta que indique si una foto es real o si fue creada por IA.
Parece que el ordenador pronto determinará si una imagen es real o no. Pero no deberíamos verlo así, afirma Lotfi. «Si un programa antivirus en su computadora dice que se ha encontrado un virus, probablemente elimine el archivo sin saber con certeza cómo funciona ese programa antivirus».
Por lo tanto, las herramientas de detección se convierten en ayudas, pero la explicación humana sigue siendo importante, afirman los expertos. «Si el software indica que una imagen es falsa, debe poder explicar por qué», afirma Evenblij. «Para que nosotros, los humanos, podamos comprobarlo de nuevo».
Ontvang meldingen bij belangrijke ontwikkelingen
Pronto también vídeos realistas de IA.
En un futuro próximo, no sólo las imágenes serán más reales. Ahora ya es posible imitar voces realistas a partir de breves fragmentos de audio. Los vídeos de IA también están mejorando rápidamente. De momento todavía parecen animaciones mediocres, pero eso podría cambiar en unos meses.
“Entonces ya no verás una foto falsa de Boris Johnson supuestamente arrestado”, dice Evenblij. «Pero si tienes un vídeo de un minuto que parece realista, con sonidos de golpes y efectos de luces intermitentes, puedes ver a Johnson siendo metido en la furgoneta de la policía».