AI podría causar estragos en el sistema de justicia enviando personas inocentes a la cárcel, advirtió un abogado superior.
Jerry Buting, quien defendió a Steven Avery en el éxito de Netflix haciendo un asesino, dijo que el médico de video se está volviendo tan sofisticado que es cada vez más difícil de detectar.
3
3
Él cree que la IA avanzada fabricando convincentemente evidencia podría llevar a personas inocentes a ser arrojadas tras las rejas.
Buting, autor de Illusion of Justice, le dijo a The Sun: “Cada vez más personas podrían ser condenadas”.
La tecnología de Deepfake se está volviendo preocupante y extremadamente más difícil de regular.
Los expertos han dicho previamente a The Sun que Deepfakes son la “mayor amenaza en evolución” cuando se trata de delitos cibernéticos.
Deepfakes son videos fraudulentos que parecen mostrar a una persona haciendo, y posiblemente diciendo, cosas que no hicieron.
El software de estilo de inteligencia artificial se utiliza para clonar las características de una persona y asignarlas a otra cosa.
Podía ver a personas acusadas de crímenes que no cometieron en un eco escalofriante del drama de la BBC The Capture.
El espectáculo vio a un ex soldado británico acusado de secuestro y asesinato basado en imágenes de CCTV aparentemente definitivas que realmente habían sido alteradas.
Buting dijo: “La parte complicada es cuando la IA llega al punto en el que puede doctor en evidencia sin que sea obvio, donde puede alterar videos.
“Hay tantas cámaras de CCTV en el Reino Unido, prácticamente cada pie cuadrado está cubierto.
“Pero si eso pudiera ser alterado de alguna manera para que esté diseñado para presentar algo que no sea cierto, podría ser perjudicial para la defensa o el enjuiciamiento.
“Entonces, ¿qué podemos creer si no podemos creer nuestros propios ojos?”
Buting, quien defendió a Avery en su ahora infame juicio de asesinato en 2007, dijo que AI ahora está en una carrera con expertos que están siendo entrenados para notar la diferencia.
Pero el abogado de defensa penal con sede en los Estados Unidos afirma que no es garantía de evitar que Sickos torciera la verdad.
Buting afirmó: “Puede resultar en despidos, pero creo que es más probable que resulte en condenas injustas porque la policía y la fiscalía solo tienen más recursos.
“Nadie sabe realmente cómo AI va a afectar el sistema de justicia.
“Pero también hay personas muy hábiles que intentan desarrollar técnicas de poder saber cuándo se ha alterado algo, incluso a un nivel sofisticado.
“La forma en que la IA realmente afecta el sistema legal todavía está muy en el aire.
Deepfakes: ¿qué son y cómo funcionan?
Esto es lo que necesitas saber …
- Deepfakes son videos falsos de personas que se ven perfectamente reales
- Se hacen usar computadoras para generar representaciones convincentes de eventos que nunca sucedieron
- A menudo, esto implica intercambiar la cara de una persona por otra, o hacer que digan lo que quieras
- El proceso comienza alimentando una IA cientos o incluso miles de fotos de la víctima
- Un algoritmo de aprendizaje automático intercambia ciertas piezas marco por marco hasta que escupe un realista, pero falso, foto o video
- En un famoso clip Deepfake, el comediante Jordan Peele creó un video realista de Barack Obama en el que el ex presidente llamó a Donald Trump un “Dipsh*t”
- En otro, la cara de Will Smith es pegada al personaje de Neo en la película de acción. Smith rechazó el papel para protagonizar la película Flop Wild Wild West, mientras que el papel de Matrix fue para Keanu Reeves
“Si las personas pueden descubrir que se ha alterado la evidencia, digamos que es una situación en la que la defensa tiene un experto que puede mirar los metadatos y todos los antecedentes, entonces eso puede dar como resultado un despido del caso, y debería hacerlo.
“Debido a que la evidencia fue alterada, es original destruida, ¿cómo podemos creer más?”
La ex oficial de información de la Casa Blanca, Theresa Payton, advirtió anteriormente al Sol sobre los enormes riesgos que Deepfakes representan para la sociedad.
Ella dijo: “Esta tecnología plantea riesgos si se usan mal por sindicatos criminales o agentes cibernéticos de estado-nación.
“Las aplicaciones maliciosas incluyen crear personajes falsos para difundir información errónea, manipular la opinión pública y realizar ataques sofisticados de ingeniería social”.
En el estilo Black Mirror, Payton advirtió a los actores maliciosos que podrían explotar esta tecnología para sembrar confusión y caos al crear profundos líderes de líderes mundiales o caras famosas, muertos o vivos.
Buting advirtió que, aunque los equipos están siendo equipados con urgencia con habilidades para detectar deffaces profundos, el ritmo al que avanza la tecnología pronto podría convertirse en un problema real.
¿Quién es Steven Avery?
Steven Avery está cumpliendo cadena perpetua en la Institución Correccional Waupun de Wisconsin.
Él y su sobrino Brendan Dassey fueron condenados por el asesinato de Teresa Halbach en 2005.
Ha estado luchando por su libertad desde que fue declarado culpable de asesinato en 2007.
Avery argumentó que su condena se basaba en evidencia plantada y falso testimonio.
En 1985, Avery fue falsamente condenado por agredir sexualmente a una jogger femenina joven.
Se tardó 18 años en que su condena fuera revocada y se le dio un pago de $ 36 millones (£ 28.2 millones) en compensación.
Pero días después, fue arrestado por el asesinato de Teresa Halbach.
El hombre de 62 años continúa sirviendo cadena perpetua sin posibilidad de libertad condicional.
En la serie original de Netflix 2015 Making A Murderer, Avery documentó su lucha por “justicia”.
En el último episodio de la serie, se les dijo a los espectadores que Avery había agotado sus apelaciones y que ya no tenía derecho a una representación legal designada por el estado.
Añadió: “Me temo que podría ser un problema más temprano que tarde.
“Ha habido una erosión constante en la defensa en el Reino Unido, por ejemplo, los abogados ganan muy poco dinero, realmente, por lo que tienen que hacer.
“Hay un desequilibrio real. La idea completa de un sistema adversario que el Reino Unido emplea como nosotros en los Estados Unidos, es que si tiene dos partes relativamente calificadas e iguales en cada lado presentando su visión de la evidencia contra los demás de que la verdad saldrá.
“O que el jurado podrá discernir la verdad o cerca de ella de todos modos, cualquiera que sea la justicia.
“Pero en la medida en que existe este gran desequilibrio y la defensa no está calificada o no se le paga, entonces tiendes a obtener abogados de menor calidad o con experiencia más baja.
“Eso ha estado sucediendo durante mucho tiempo, así que cuando le agregas algo como AI, será aún más difícil”.
Buting se volvió internacionalmente reconocida después de aparecer en la serie documental de Netflix 2015 Making A Murderer.
Afiró que Avery había sido condenado por un asesinato que no cometió, cayendo en falto a una composición.
Pero Avery, ahora de 62 años, fue declarado culpable y está cumpliendo cadena perpetua por el asesinato de Teresa Halbach en 2005.
About the Author
