Baltimore İlçe Polisi Perşembe günü Pikesville Lisesi’nin eski atletik direktörünü, kullandığı iddiasıyla tutukladı. AI ses klonu okul müdürünün kimliğine bürünmek, halkın Müdür Eric Eiswert’in ırkçı ve Yahudi karşıtı yorumlar yaptığına inanmasına neden oldu. Baltimore Banner’ı.
Banner’ın haberine göre Dazhon Darien, perşembe sabahı Baltimore havaalanında Houston’a giden uçağa silahla binmeye çalışırken durduruldu. Müfettişler, Darien’ın bir yapay zeka klonlama aracı kullanarak Eiswert’in sesini taklit ettiğini belirledi. AI ses kaydıSosyal medyada geniş çapta yayılan, siyahi öğrenciler ve Yahudi cemaati hakkında aşağılayıcı yorumlarda bulundu.
Baltimore İlçe Polisi, “Kapsamlı bir soruşturmaya dayanarak, dedektiflerin artık kaydın gerçek olmadığına dair kesin kanıtları var” dedi. basın bülteni. “Araştırmalarının bir parçası olarak dedektifler, kaydı analiz etmek için FBI ile sözleşmeli bir adli tıp analistinden talepte bulundu. Bu analizden elde edilen sonuçlar, kaydın yapay zeka tarafından oluşturulan içeriğin izlerini içerdiğini gösterdi.”
Bu derin sahtekarlığın, Müdür Eiswert’in bir dizi nefret dolu mesaj almasına ve okuldan geçici olarak uzaklaştırılmasına neden olarak halkın öfkesine yol açtığı bildirildi. Okulun resepsiyonu endişeli velilerin çağrılarıyla doldu. Pikesville okul bölgesi, güvenlik duygusunu yeniden sağlamak için sonuçta okulda ve Eiswert’in evinde polis bulunmasını ayarladı.
Baltimore Polisi yetkilileri, eski atletik direktörün yapay zeka kaydını okul müdürüne misilleme yapmak için yaptığını söyledi. Kaydın viral hale gelmesinden bir ay önce The Banner, Eiswert’in okul fonlarının potansiyel hırsızlığı nedeniyle Darien hakkında bir soruşturma başlattığını bildirdi. Darien, uygun prosedürleri atlayarak, aynı zamanda oda arkadaşı olan okulun ortak girişim basketbol koçuna 1.916 dolarlık bir ödeme yapılmasına izin verdi. Darien, istifasını Nisan ayının başlarında sundu. okul belgeleri.
Polis, Darien’in ses klibini internette yayılmadan önceki gece alan üç öğretmenden ilki olduğunu söyledi. Banner, kaydı alan başka bir öğretmenin bunu öğrencilere, medya kuruluşlarına ve NAACP’ye gönderdiğini bildirdi. Polis, ödeme belgelerinde Darien’in okul ağını OpenAI araçlarını aramak ve büyük dil modellerini birçok kez kullanmak için kullandığını yazdı. Ancak bugünlerde pek çok insan bu yapay zeka araçlarını kullanıyor. Şu anda araştırmacıların Darien’ı bu ses kaydının yaratıcısı olarak nasıl tespit edebildikleri belli değil.
Yapay zeka tarafından üretilen derin ses sahtelerinin oluşturulması, teknoloji dünyasının karşı karşıya olduğu giderek daha büyük bir sorundur. Federal İletişim Komisyonu, Şubat ayında derin sahte otomatik aramaları yasaklamak için adımlar attı. Joe Biden’ın derin sahtekarlığı New Hampshire seçmenlerini yanılttı.
Bu durumda yapay zeka uzmanları, Baltimore müdürünün iddia edilen sesinin sahte olduğunu tespit edebildiler. Ancak bu, sesin viral hale gelmesinden iki ay sonra gerçekleşti ve hasar zaten verilmiş olabilir. Zararı en aza indirmek için AI deepfake’lerinin gerçekten erken durdurulması gerekiyor, ancak bunu söylemek yapmaktan daha kolay.
