Los miembros del jurado podrían usar en secreto ChatGPT para decidir los veredictos de crujidos, los abogados de nosotros temen.
Dean Strang y Jerry Buting, quienes protagonizaron el documental de Netflix haciendo un asesino, advirtieron que podían ver a personas inocentes condenadas, o dejar que los delincuentes fuera del gancho.
4
Los abogados, que defendieron a Steven Avery en el exitoso programa, insistieron en que los jurados vitales se les impide acceder a la herramienta AI durante los ensayos.
Strang dijo que los jurados podrían verse tentados a usar ChatGPT como un “tablero de sonido” si no están seguros de un acusado.
Pero enfatizó que podría tener consecuencias “desastrosas”, ya que los jurados podrían obtener respuestas sesgadas que obligan a un juicio nulo o llevarlos a la decisión equivocada.
Strang, quien ha trabajado en defensa criminal durante más de 30 años, le dijo a The Sun: “Se debe prohibir a los jurados usar chatgpt.
“No puedo probar esto y no soy un ingeniero informático, pero mi sensación es que la IA, en parte, está evaluando lo que cree que queremos escuchar y adaptar las respuestas a su percepción de cuáles son nuestros deseos y propósitos humanos.
“Eso sería desastroso en una sala de jurado, en la medida en que AI decide que el jurado se inclina a una condena.
“Vas a obtener una respuesta sesgada. En la medida en que la IA percibe que los miembros del jurado están inclinados a absolvir o si AI desarrolla su propia voluntad, lo que leí es al menos posible, desarrollando una conciencia.
“De cualquier manera, estás recibiendo un sesgo y ninguno de los dos es bueno, y estás sustituyendo lo que esperas que sea el juicio humano, una evaluación humana de lo que está sucediendo en la sala del tribunal, determinaciones de credibilidad”.
Cuando se le preguntó si teme que los jurados ya estén usando la herramienta, o pronto lo hará, Strang respondió: “Sí.
“Algunos nunca lo harían, y me temo que algunos se sienten tentados o lo usarían como un tablero de resonancia, usarlo como asesor.
“Incluso si el jurado dice que voy a tomar la decisión, pero recibo consejos de la IA, ese será un consejo que probablemente sea difícil de ignorar”.
Strang y Buting defendieron a Avery en el documental de 2015, que afirmó que Avery había sido enmarcado por el asesinato de Teresa Halbach.
Avery ha estado tras las rejas por el crimen desde 2007.
Antes de eso, pasó 18 años en la cárcel por una violación e intento de asesinato, luego fue encontrado inocente.
Strang y Buting continúan manteniendo su inocencia, al igual que Avery mismo.
Ahora, pero teme aún más presuntos abortos involuntarios de justicia mediante el uso de ChatGPT.
Buting, autor de Illusion of Justice, le dijo a The Sun: “He visto a personas en línea tomar situaciones como el caso Steven Avery o el caso Karen Reed, un segundo juicio en este momento porque el jurado estaba colgado, tratar de usar GPT poniendo los hechos tal como los conocen.
“Luego le preguntan a Chatgpt si la persona es culpable o inocente y se les ocurre una respuesta.
“Es Bulls *** básicamente, porque depende de lo que pongas como los hechos.
¿Cuáles son los argumentos contra la IA?
La inteligencia artificial es un tema altamente disputado, y parece que todos tienen una postura al respecto. Aquí hay algunos argumentos comunes en su contra:
Pérdida de empleos: algunos expertos de la industria argumentan que AI creará nuevos nichos en el mercado laboral, y a medida que se eliminen algunos roles, otros aparecerán. Sin embargo, muchos artistas y escritores insisten en que el argumento es ético, ya que las herramientas generativas de IA están siendo entrenadas en su trabajo y no funcionarían de otra manera.
Ética: cuando la IA está capacitada en un conjunto de datos, gran parte del contenido se toma de Internet. Esto casi siempre se hace, si no exclusivamente, no notifica a las personas cuyo trabajo se está tomando.
Privacidad: el contenido de cuentas personales de redes sociales puede alimentarse a modelos de idiomas para capacitarlos. Las preocupaciones han surgido a medida que meta revela a sus asistentes de IA en plataformas como Facebook e Instagram. Ha habido desafíos legales para esto: en 2016, se creó una legislación para proteger los datos personales en la UE, y las leyes similares están en proceso en los Estados Unidos.
Información errónea: a medida que las herramientas de IA extraen información de Internet, pueden sacar las cosas de contexto o sufrir alucinaciones que producen respuestas sin sentido. Herramientas como Copilot on Bing y la IA generativa de Google en la búsqueda siempre están en riesgo de equivocarse. Algunos críticos argumentan que esto podría tener efectos letales, como la IA que prescribe la información de salud incorrecta.
“Este sería el problema con el jurado que lo hacía porque los jurados escuchan la evidencia.
“Si regresan allí y realmente no pueden resolver algo ellos mismos, entonces eso probablemente sea una duda razonable en la mayoría de los casos.
“Pero si dicen, bueno, no podemos resolver esto, piensas esto y creo que y hay una disputa, pongámoslo en Chatgpt y veamos qué dice, y luego se le ocurre una respuesta, entonces alguien puede ser influido por eso.
“La IA, al menos en su iteración actual, ha incorporado sesgos debido a los algoritmos”.
Buting anteriormente le dijo a The Sun que teme que AI pudiera destruir todo el sistema de justicia enviando personas inocentes a la cárcel con CCTV falso.
ChatGPT explotó en escena en 2022 y desde entonces se ha convertido en una herramienta esencial para individuos y empresas en todo el mundo.
Buting dijo: “No sabemos en este punto exactamente cómo se filtra, cómo está aprendiendo.
“La idea es que aprende de más situaciones de hechos presentadas una y otra vez, pero ¿qué situaciones de hechos, qué pruebas, por ejemplo, está viendo?
4
4
“¿Ya hay uno donde ha habido un sesgo incorporado? Porque hay mucho sesgo en el sistema legal de Estados Unidos. Sesgo contra las minorías en particular.
“Entonces, ¿están subrepresentados en el algoritmo, aprendizaje automático que está sucediendo con AI? Mucha gente se pregunta sobre eso.
“Solo sé que he visto a la gente usar chatgpt. Puedo usarlo y poner en hechos, y dejar de lado los hechos que quiero, y se le ocurrirá una respuesta probablemente que quiero.
“Así que creo que hay un problema real”.
Cuando el sol le preguntó a Chatgpt si Avery era culpable, la respuesta fue: “Legalmente: Steven Avery es culpable, fue condenado y permanece en prisión.
¿Qué dice la ley?
Según la ley del Reino Unido, los jueces pueden usar ChatGPT para ayudarlos cuando toman decisiones.
La asistencia de IA recibió luz verde mediante una decisión emblemática en 2023.
Las pautas de la oficina judicial enviada a miles de jueces en Inglaterra y Gales dijeron que la tecnología puede ser útil para resumir grandes volúmenes de texto o llevar a cabo tareas administrativas.
Sin embargo, advierte que los chatbots deben confiar para investigar marcos legales, porque existe el riesgo de que fabrique casos o documentos legales.
Las pautas también advierten que la tecnología de IA generativa podría usarse para crear evidencia falsa, como imágenes o videos de Deepfake.
Estados Unidos está actualmente lidiando con la integración de la IA en sus procedimientos legales.
El progreso de la cabeza de lanza es la Corte Suprema de Illinois, que emitió una guía sobre el uso de IA por parte de jueces y abogados en diciembre de 2024.
El documento alentó el uso responsable y supervisado de la IA, y sugirió que no es necesario declarar el uso de chatbots en los alegatos de redacción.
Su tono es generalmente pro-AI, y enfatiza que se puede aplicar una guía legal y ética existente.
A principios de mayo de 2025, un panel judicial federal avanzó una propuesta para buscar los comentarios del público sobre un borrador de regla diseñada para garantizar que la evidencia producida por AI cumpla con los mismos estándares que la evidencia humana.
“Opinión pública y debate experto: dividido. Muchos creen que puede haber sido condenado injustamente nuevamente, especialmente dada el manejo sospechoso de evidencia.
“Ninguna prueba definitiva de inocencia o de un marco aún ha convencido a los tribunales”.
Se produce a medida que se continúan aumentando los temores sobre su amenaza para los trabajos y los peligros del software que superan a los humanos.
Muchos expertos también han advertido sobre los peligros de seguridad de la IA avanzada, y cómo los ciber-crooks podrían abusar de ellos para estafar a las víctimas inocentes.
El sol se ha acercado a ChatGPT para una respuesta.
¿Quién es Steven Avery?
Steven Avery está cumpliendo cadena perpetua en la Institución Correccional Waupun de Wisconsin.
Él y su sobrino Brendan Dassey fueron condenados por el asesinato de Teresa Halbach en 2005.
Ha estado luchando por su libertad desde que fue declarado culpable de asesinato en 2007.
Avery argumentó que su condena se basaba en evidencia plantada y falso testimonio.
En 1985, Avery fue falsamente condenado por agredir sexualmente a una jogger femenina joven.
Se tardó 18 años en que su condena fuera revocada y se le dio un pago de $ 36 millones (£ 28.2 millones) en compensación.
Pero días después, fue arrestado por el asesinato de Teresa Halbach.
El hombre de 62 años continúa sirviendo cadena perpetua sin posibilidad de libertad condicional.
En la serie original de Netflix 2015 Making A Murderer, Avery documentó su lucha por “justicia”.
En el último episodio de la serie, se les dijo a los espectadores que Avery había agotado sus apelaciones y que ya no tenía derecho a una representación legal designada por el estado.
About the Author
