En febrero de 2021, los padres de un niño estadounidense contactaron a un médico. El niño tenía una infección en sus genitales. A pedido del médico, el padre del niño tomó una foto de la infección y se la envió al médico.
Dos días después, el hombre ya no podía iniciar sesión en su cuenta de Google. Según Google, el hombre había violado las pautas de la compañía. La lista de posibles razones incluía ‘abuso sexual y explotación de niños’. El hombre inmediatamente se dio cuenta de que la foto de su hijo probablemente era la causa.
Google ha estado escaneando el servicio de almacenamiento en la nube Google Drive con inteligencia artificial desde 2018. Este sistema está capacitado para reconocer imágenes de abuso sexual. En la foto, el hombre sujetaba los genitales de su hijo para poder fotografiar correctamente la infección. Esto fue marcado como un acto sexual por el sistema de Google.
Google informó inmediatamente a la policía.
El hombre contactó a Google para rectificar el malentendido. Google informó que no fue posible recuperar la cuenta porque ya se había hecho un reporte a la policía. La policía tuvo que evaluar si hubo abuso sexual.
En diciembre de 2021, nueve meses después, el hombre recibió una carta de la policía. Afirmó que se había llevado a cabo una investigación importante. La policía había investigado previamente sus búsquedas en Internet, historial de ubicaciones, mensajes y todos los documentos, fotos y videos en Google Drive.
La policía había concluido que no hubo abuso infantil e informó que la investigación estaba cerrada. Sin embargo, el hombre no recuperó su cuenta de Google.
Google ya había eliminado permanentemente su cuenta. Como resultado, el hombre perdió una gran cantidad de datos personales, incluidas fotos y videos de sus hijos. El hombre exige ahora 7.000 dólares (más de 6.900 euros) por daños y perjuicios a Google.
Millones de informes de pornografía infantil al año
Las empresas tecnológicas marcan imágenes de abuso sexual millones de veces al año. De acuerdo a Los New York Times Google realizó más de 600.000 informes de pornografía infantil en 2021. Como resultado, Google bloqueó las cuentas de más de 270.000 usuarios.
No se sabe cuántas cuentas están bloqueadas incorrectamente. La inteligencia artificial de Google puede detectar rápidamente el abuso infantil. Esto significa que los niños necesitados pueden ser rescatados rápidamente. Sin embargo, también produce informes falsos.