Ülkenin en büyük şehirlerinden bazıları, gelecekteki suçları tahmin etmeyi vaat eden yazılımların geliştirilmesini finanse etmek için federal vergi dolarına güvendi. Yani neredeyse on yıldır. Bununla birlikte, ilk kez, bu fonları dağıtmaktan sorumlu kurum, söz konusu paranın nasıl kullanıldığı konusunda çok az ipucuna sahip olduğunu kabul etti.
Eyalet ve yerel kolluk kuvvetleri için denetleme hibeleri ile görevlendirilmiş olsa da, üst düzey bir yetkili, hangi kurumların tahmine dayalı polislik araçlarını satın almak için önde gelen bir DOJ fon kaynağına başvurduğuna ilişkin olarak, Adalet Bakanlığı yetkililerinin “belirli kayıtlar” tutmadığını söyledi. Kabul, Nisan 2020’de bir grup Demokrat milletvekili tarafından, suçu tahmin etmek için teknolojiye federal hibe parası harcayan polis departmanlarının tam listesini arayan bir soruşturmayı takip ediyor. DOJ’un yalnızca Gizmodo tarafından elde edilen yanıtı, yalnızca bu fonların tam bir muhasebesini sağlamakta başarısız olmakla kalmıyor, aynı zamanda federal milletvekilleri tarafından sorulan temel soruların çoğunu da göz ardı ediyor.
Örneğin, bu tür araçların medeni haklar yasalarına uygunluk açısından ne dereceye kadar değerlendirildiği veya değerlendirildiği belirsizliğini koruyor. Bölümden bu yılın başlarında imzalanan bir mektupta, bu ayrıntılara yönelik talepler büyük ölçüde belirsizlikle karşılandı. En az bir ABD senatörü, hükümetin vergi mükelleflerinin on senti üzerindeki çalışmalarıyla ilgili bilgilerindeki boşluklardan dolayı öfkeli olduğunu ifade ediyor.
Oregon Demokrat Senatörü Ron Wyden, Gizmodo’ya, “Adalet Bakanlığı bundan daha iyi yanıtlara sahip değilse, Kongre, vergi mükellefleri tarafından finanse edilmek şöyle dursun, bu programlara izin verilip verilmeyeceğini tartışmalı” dedi. Hala cevaplar için baskı yapan senatör, Ocak ayından bu yana Adalet Bakanlığı’nda bir toplantı talep ediyor. Şu ana kadar hiçbir yanıt alamadı.
Wyden’ın sözleri, Gizmodo ve The Markup’ın bir yıldan fazla süren bir anlaşmayı tamamlamasından dört ay sonra geldi. soruşturma PredPol adlı Kaliforniya merkezli bir tahmine dayalı polislik şirketine. Soruşturma, 2020 yazında güvenli olmayan bir Amazon sunucusunda 7 milyondan fazla suç tahmininin keşfedilmesiyle desteklendi. Tahminler düzinelerce ABD şehrini kapsıyordu ve 33 ABD sakininden birini etkiledi. Mevcut suç verilerindeki sınırlamalar, PredPol’ün suç üzerindeki gerçek etkisinin analizini engellerken, Araştırma şehirlerin çoğunda ağırlıklı olarak Siyah ve Latin bölgeleri hedefleyen bir ürün ortaya çıkardı. Verilerin mevcut olduğu yargı bölgelerinin çoğunda, bu bölgelerin en yoksul sakinleri de ezici bir çoğunlukla -bazen acımasızca- hedef alındı. Daha açık bir ifadeyle, soruşturma, bir bölgede yaşayan daha az Beyaz sakinin, PredPol’ün oradaki suçu tahmin etme olasılığının daha yüksek olduğunu buldu. (PredPol CEO’su Brian MacDonald, açıklama yapmadan, kendi tahmin verilerinin “hatalı” ve “eksik” olduğunu iddia ederek bulgulara itiraz etti.)
Aşağıdakiler gibi şirketler tarafından tasarlanan algoritmalara beslenen geçmiş suç verilerine dayanan tahmine dayalı polislik araçları kehanet ve IBM– polis departmanlarının devriyelere odaklandığı yerler hakkındaki kararları giderek daha fazla otomatikleştiriyor. Bu tür ürünler, yalnızca belirli mahalleleri suç için “sıcak noktalar” olarak etiketlemek için değil, aynı zamanda belirli insanlar o sırada henüz işlenmemiş suçların muhtemel şüphelileri olarak.
Nisan 2020’de Wyden ve diğer Demokratlar ABD Başsavcısı Merrick Garland’a büyüdüklerini bildirdiler.derinden endişeliTahmine dayalı polisliğin ülke genelinde kontrolsüz genişlemesi hakkında. Departmanın rolü hakkında bilgi istediler ve – yaklaşık bir buçuk ay sonrasına bir son tarih belirlediler – ilgili soruların bir listesini eklediler. Dokuz ay sonra, nihayet bir yanıt geldiğinde, çoğunun yanıtsız kaldığını gördüler.
Milletvekilleri Garland’a yazdıkları mektupta, Adalet Bakanlığı’nın yapay zeka güdümlü yazılımları finanse etmesiyle ilgili temel gerçekleri talep ettiler. Örneğin, hangi eyalet ve yerel kurumların, DOJ’un yardımıyla tahmine dayalı polislik araçlarına yönelik araştırmaları özel olarak benimsediğini veya ilerlettiğini öğrenmeye çalıştılar. Adalet Bakanlığı’nın bu tür araçların “etkililik, geçerlilik, güvenilirlik ve yanlılık açısından test edilmesini” sağlamak için tasarlanmış herhangi bir kuralı olup olmadığını öğrenmeye çalıştılar.
Bu soruşturmaya yanıt veren ve Başsavcı Vekili Peter S. Hyun tarafından imzalanan mektup, tahmine dayalı polisliğin ülke çapında kullanılmasının “karmaşık sorulara” yol açtığını belli belirsiz kabul ederek başlıyor. Hyun, hükümetin, iş suçları tahmin etmeye geldiğinde Amerikalıların medeni haklarını korumaya “sabit bir şekilde bağlı” olduğunu iddia etse de, bu güvenceler Capitol Hill’in en büyük mahremiyet şahini ve güçlü Senato Finans Komitesi başkanı Wyden’ı etkilemedi.
Asistan AG Hyun’un yanıtına göre, öngörücü polislik için federal fon esas olarak iki kaynaktan geldi. Bir tanesi, Edward Byrne Memorial Adalet Yardımı Hibe Programı (JAG) olarak bilinir—adını New York Şehri polis memurundan alır öldürülmüş 1988’de—ikincisinden çok daha sıkı koşullar altında hibe dağıtıyor gibi görünüyor. JAG, ulusun “önde gelen kaynakDOJ’a göre ceza adaleti finansmanının ”, fonların bu amaç için kullanılıp kullanılmadığını aktif olarak takip etmiyor.
Hyun, “BJA’nın, Edward Byrne Memorial Justice Assistance Grant (JAG) Formula Programı dahilinde tahmine dayalı polislik kullanan tam hibe alan ve hibe alan kişilerin sayısını doğrulayan özel kayıtları yok” dedi.
Gereksiz uygulamalarına rağmen, bu alanda en azından bir miktar JAG fonu harcanmıştır. Milletvekillerinin endişelerini gidermeye çalışırken BJA, tahmine dayalı polislik programlarına hibe uygulayan en az beş ABD şehrini belirlemeyi başardı.. Bunlar arasında Bellingham, Washington; Temple ve Ocala, Florida; ve Alhambra ve Fremont, California. Hyun, Temple vakasında JAG fonunun “polis müdahalesi için hedefleri belirleme” amaçlı bir tahmin programına harcandığını yazdı.
Beş şehirde, hibe rakamları 12.805 ile 774.808 dolar arasında değişiyordu ve Hyun, ikincisini “PEN Kayıtları” olarak adlandırdığı bir “öngörüye dayalı analitik yazılım çözümüne” uygulandığını açıklıyor. (Bunun aslında gerçek bir öngörücü polislik aracının adı olup olmadığı hemen belli değil; “kalem kaydı”, belirli bir telefondan aranan telefon numaralarını tanımlamak için kullanılan bir polis cihazının adıdır.)
JAG hibelerinden farklı olarak, Hyun tarafından tanımlanan ikinci finansman kaynağı –Akıllı Polislik Girişimi (SPI) olarak bilinen Adalet Yardımı Bürosu (BJA) tarafından yürütülen rekabetçi bir hibe programı – alıcıları çok daha yüksek bir hesap düzeyinde tutar. Bildirildiğine göre, finansmana ilişkin hükümler, örneğin, onaylanmış projelerin amaçlanan sonuçlara ulaşıp ulaşmadığının kontrollerini içermektedir. Los Angeles, Chicago ve Baton Rogue’daki tahmine dayalı polislik girişimlerini içeren SPI tarafından finanse edilen projeler, sivil haklar üzerindeki etkilerini ölçmekten sorumlu olan Hyun, araştırmacılar tarafından ayrıca değerlendirildiğini söyledi.
Bir e-postada Wyden, kongre üyelerinin hükümetin faaliyetleri hakkında daha fazla bilgi alamamasının daha fazla yanıt gerektirmesi gerektiğini söyledi. Hatta, Kongre’nin, sivil haklar gruplarının uzun süredir şüpheli olduğu teknoloji üzerindeki yasağı tartmasının zamanının geldiğini öne sürdü.
Wyden, “Bu talihsiz bir durum,” dedi, “Adalet Bakanlığı, tahmine dayalı polislik programları için federal fonlarla ilgili sorularımın çoğuna yanıt vermemeyi seçti.” Adalet Bakanlığı’na yaptığı ilk soruşturma, altı Demokrat meslektaşı tarafından desteklendi: Massachusetts’ten Senatörler Ed Markey, California’dan Alex Padilla, Georgia’dan Raphael Warnock ve Oregon’dan Jeff Merkley ve Temsilciler. New York’tan Yvette Clarke ve Teksas’tan Shelia Jackson Lee.
Adalet Bakanlığı’na yaklaşırken, Wyden ve meslektaşları, polis kararlarını otomatikleştirmeye yardımcı olmak için kullanılan algoritmaların anlamlı bir gözetim eksikliğinden muzdarip olduğuna ve uzun süredir Amerikan polis güçlerine yayılmış olan ırksal önyargıları güçlendirmek için bazı uzmanlar arasında bir itibara sahip olduklarına inandıklarını belirttiler. Suçları tahmin etmeyi vaat eden ticari ürünlerin en azından bazılarının adlarına zar zor dayandığından endişe duyduklarını söylediler: birden fazla denetimler “suçları önlemede etkili olduklarına dair hiçbir kanıt bulamadılar” dediler.
Dahası, kanun yapıcılar tahmine dayalı algoritmaların “vatandaşların anayasal haklarının yasalara göre eşit korunma ve yasal süreçlerin ihlali anlamına gelebileceğini” bile yazdılar. ABD’de adil yargılama
Bir iç değerlendirme 2019’da Los Angeles Polis Departmanı tarafından, AI güdümlü araçlara dayanan polis stratejilerinin yeterli denetimden yoksun olduğunu ve “genellikle belirtilen hedeflerinden saptığını” tespit etti. Geçtiğimiz on yılda, LAPD, yalnızca suçların sözde meydana geleceği yerleri tahmin etmek için değil, aynı zamanda toplanan verilere dayanarak gelecekte suç işleme olasılığı bulunan LA sakinlerinin isimlerini oluşturmak için kullanılan bir dizi tahmin aracı kullanmıştır.
Bazı yazılımlar, polis departmanlarının en kötü davranışlarına göre modellenmiştir. New York Üniversitesi’nden yayınlanan bir 2019 araştırması, dokuz polis teşkilatının yazılım verilerini beslediğini ortaya koydu. oluşturulan “departmanın çeşitli yasadışı ve taraflı polis uygulamalarına giriştiğinin tespit edildiği dönemlerde.” Aynı araştırmacılar, “polis departmanlarının veya öngörücü sistem satıcılarının yeterince değerlendirme, hafifletme veya güvence sağlama çabalarının varsa, çok azını” gözlemlediklerini belirttiler.
AG Yardımcısı Hyun, Wyden’a yazdığı mektubunda, DOJ’un daha önce iki sempozyum biri 2009’da diğeri 2010’da olmak üzere kestirimci polisliği tartışmak ve bir başvuru Kılavuzu RAND Corporation tarafından 2013’te yayınlanan kestirimci polislik ile ilgilenen kurumlar için.
Hem RAND hem de sempozyuma katılan uzmanlar, teknolojinin yaklaşık on yıl önce karşılaşacağı sorunları önceden bildirdiler. Sempozyum üyeleri, örneğin, Amerikan polisinin “zengin tarih“Henüz çözülmemiş” gizlilikle ilgili sorunların. Bu arada RAND, polisin özel şirketlerle ortaklıklarının, kolluk kuvvetlerinin özel verilerin toplanmasına karşı anayasal güvenceleri aşmasına izin verebileceğini belirterek, “Dördüncü Değişiklik, üçüncü şahıslar tarafından depolanan veriler için çok az koruma sağlıyor veya hiç koruma sağlıyor” diye yazdı. RAND, tahmin araçları kullanan çok az bölümün “tahminlerin etkinliğini” veya “öngörülerine yanıt olarak geliştirilen müdahaleleri” gerçekten değerlendirdiğini söyledi.
Hyun, DOJ’un belirli bireyler üzerinde şüphe uyandırmak için kullanılan tahmin araçlarını finanse ettiğini kabul etmesine rağmen, mektubunda yer alan rehber, konum tabanlı hedeflerden “daha az sorun” çıkacağını belirterek buna karşı uyarıda bulunuyor.