\n
La abuela me encerr\u00f3 en el horno a 230 grados cuando solo ten\u00eda 21 meses\u201d, dice la linda beb\u00e9 de enormes ojos azules y diadema floral en un video de TikTok.<\/p>\n
La beb\u00e9, que habla con una voz cari\u00f1osamente infantil al ritmo lastimero de “Love Is Gone” de Dylan Mathews, se revela como Rody Marie Floyd, una ni\u00f1a que viv\u00eda en Mississippi con su madre y su abuela. Ella dice que un d\u00eda ten\u00eda hambre y no dejaba de llorar, despu\u00e9s de lo cual su abuela la meti\u00f3 en el horno, lo que result\u00f3 en su muerte. \u201cPor favor, s\u00edganme para que m\u00e1s personas conozcan mi verdadera historia\u201d, dice el beb\u00e9 al final del video.<\/p>\n\nrecomendaci\u00f3n del editor<\/h3>\n<\/aside>\n El beb\u00e9 en el video no es real, por supuesto: es una creaci\u00f3n de inteligencia artificial publicada en la cuenta @truestorynow en TikTok, una cuenta con casi 50,000 seguidores que publica videos de v\u00edctimas de cr\u00edmenes reales que cuentan su historia.<\/p>\n
La espantosa historia que cuenta es cierta, aunque solo sea en parte. La beb\u00e9 no se llamaba Rody Marie, sino Royalty Marie, y fue encontrada muerta a pu\u00f1aladas y quemada en un horno en la casa de su abuela en Mississippi en 2018. La abuela, Carolyn Jones, de 48 a\u00f1os, fue acusada de asesinato a principios de este a\u00f1o. Pero Royalty ten\u00eda 20 meses cuando muri\u00f3, no 21, y a diferencia del beb\u00e9 en el video de TikTok, ella era negra, no blanca.<\/p>\n
Las v\u00edctimas a menudo hablan por s\u00ed mismas y cuentan su horrible fallecimiento.<\/h3>\n Tales imprecisiones son comunes en el mundo grotesco de TikTok de cr\u00edmenes reales de IA, que emplea inteligencia artificial para resucitar a las v\u00edctimas de asesinatos, muchas de las cuales son ni\u00f1os peque\u00f1os. En los videos, algunos de los cuales han sido vistos millones de veces, una v\u00edctima habla sobre los espantosos detalles de su muerte desde una perspectiva en primera persona; la mayor\u00eda de ellos no vienen con una advertencia de contenido.<\/p>\n
“Son bastante extra\u00f1os y espeluznantes”, le dice a ROLLING STONE Paul Bleakley, profesor asistente de justicia penal en la Universidad de New Haven. “Parecen dise\u00f1ados para provocar fuertes respuestas emocionales porque esa es la forma m\u00e1s segura de obtener clics y me gusta. Es inc\u00f3modo de ver, pero creo que tal vez ese es el punto.<\/p>\n
Muchas de las cuentas tienen un descargo de responsabilidad que indica que los videos no usan fotos reales de las v\u00edctimas para “respetar la privacidad de la familia”, como Nostalgia Narratives, una cuenta que publica videos de v\u00edctimas de cr\u00edmenes reales para sus 175,000 seguidores, escribe en el subt\u00edtulos de los videos.<\/p>\n\nrecomendaci\u00f3n del editor<\/h3>\n<\/aside>\n La cuenta no solo cuenta las historias de famosas v\u00edctimas de asesinatos infantiles como Elisa Izquierdo, una ni\u00f1a de seis a\u00f1os que fue asesinada por su madre abusiva en 1995, y Star Hobson, un ni\u00f1o de un a\u00f1o que fue asesinado por la novia de su madre en 2020. , pero tambi\u00e9n v\u00edctimas adultas de asesinatos como George Floyd y JFK. Ninguna de las cuentas con las que ROLLING STONE contact\u00f3 respondi\u00f3 a las solicitudes de comentarios, pero el hecho de que alteren la apariencia de las v\u00edctimas probablemente se deba a las pautas de la comunidad de TikTok que proh\u00edben la falsificaci\u00f3n profunda de personas o menores, una pol\u00edtica de medios generada que la plataforma implement\u00f3 en marzo.<\/p>\n
La distribuci\u00f3n de estos videos de IA con v\u00edctimas de delitos reales en TikTok plantea cuestiones \u00e9ticas. Aunque documentales como The Jinx y Making a Murderer y podcasts como Crime Junkie y My Favourite Murder tienen muchos seguidores, muchos cr\u00edticos del g\u00e9nero del crimen real se han mostrado en desacuerdo con las implicaciones \u00e9ticas de consumir historias reales en lugar de historias horribles. Robos y asesinatos cuestionados como puro entretenimiento. , con el surgimiento de detectives aficionados y obsesivos de cr\u00edmenes reales que posiblemente vuelvan a traumatizar a las familias de las v\u00edctimas.<\/p>\n
Esa preocupaci\u00f3n es doblemente cierta para videos como el de Royalty, que cuentan la historia de una v\u00edctima desde su perspectiva y usan su nombre, presumiblemente sin el consentimiento de la familia, con un efecto incre\u00edblemente escalofriante. “Tiene el potencial de volver a victimizar a las personas que han sido v\u00edctimas antes”, dice Bleakley. \u201cImagina que eres padre o pariente de uno de los ni\u00f1os en estos videos de IA. Se conectan en l\u00ednea y aqu\u00ed hay una imagen de IA [basierend auf] Su hijo fallecido que describe con detalles muy sangrientos lo que le sucedi\u00f3\u201d.<\/p>\n
Las quejas podr\u00edan quedar en nada<\/h3>\n Los videos deepfake, como parte del g\u00e9nero del crimen real, difieren de la pornograf\u00eda deepfake por razones obvias. Sin embargo, Bleakley puede imaginar que las familias en duelo emprender\u00e1n acciones civiles contra los creadores de tales videos, especialmente si se monetizan; sin embargo, se\u00f1ala que dado que los individuos han fallecido, ser\u00eda dif\u00edcil para las familias hacer un argumento de calumnias. “Es un \u00e1rea gris muy complicada y turbia”, dice.<\/p>\n
Sin embargo, una cosa est\u00e1 clara: con el r\u00e1pido desarrollo de la tecnolog\u00eda de IA y el hecho de que hay poca regulaci\u00f3n para frenar su propagaci\u00f3n, la pregunta no es si videos como este seguir\u00e1n creciendo en popularidad, sino cu\u00e1nto peor ser\u00e1 la conexi\u00f3n de El verdadero crimen y la IA a\u00fan est\u00e1n por llegar.<\/p>\n