Fort Worth, Texas’ta dev bir cam ve tuğla yapı önünde durdum. İçeride, “dijital çağda polisin geleceği” olarak tanıtılan bir etkinlik için toplanmış binlerce kişi vardı. Basın mensubu olarak içeri girmeme izin verilmedi, ancak çevredeki birçok yerden katılımcılarla bir araya geldim ve içeride nelerin sunulduğunu öğrendim. Yapay zekanın, ABD’deki polisliğin kalbini tehdit etmeye başladığını öğrendim.
Bu yılki Uluslararası Polis Şefleri Derneği (IACP) Teknoloji Konferansı’nda sunulan yapay zeka vaadi, işin rutin kısımlarını otomatikleştirmeye odaklanıyordu. Bu, aynı zamanda hukuki süreçte kritik adımları da içeriyordu. Son yıllarda işletmelere aktarılan benzer bir satış taktiği: Makinelerin sıkıcı işleri üstlenmesine izin verin, böylece daha anlamlı görevlere odaklanabilirsiniz. Fakat kolluk kuvvetlerinde, görünürde zararsız olan “meşguliyetlerin” otomatikleştirilmesi — örneğin bir polis raporunu dikkatle doldurmak veya şüphelinin dosyasını incelemek — insanların hayatında muazzam sonuçlar doğurabilir.
Konferansta sergilenen yapay zeka ürünleri arasında yüz tanıma kameraları, otomatik plaka okuyucular, vücut kameraları, acil olmayan 911 çağrılarını yönlendiren chatbotlar, ateş tespiti platformları, dronlar ve rapor yazım araçları bulunuyordu. Ülke, kolluk kuvvetlerinin gerçek, insani polis varlığından uzaklaşması ile yüzleşirken, sektör otomasyonu benimsemeye devam ediyor.
Polis departmanlarındaki karar verme süreçleri giderek algoritmalara devrediliyor. Bir dizi teknoloji girişimi, polislere bir tür otomatik hava trafik kontrol sistemi sunuyor; büyük miktarda veriyi işleyebilen merkezi bir dijital zihin. Ancak, polis bile bu tekliflerden pek memnun değil.
Brookhaven, Georgia’daki bir polis kaptanı Abrem Ayana, “Bunların çoğu, vaat ettikleri şeyi sunmayan satış numaraları,” dedi. Federal gözetimin eksikliği ve endüstri standartları nedeniyle, teknoloji novitesi nedeniyle, Ayana gibi kolluk kuvveti yetkilileri çoğu zaman şirketlerin ürünlerinin güvenli olduğuna ve ilan edildikleri gibi çalıştığına dair sözlerine güvenmek zorunda kalıyorlar.
Polis departmanları, veri analizi yapmak ve teorik olarak sahada daha bilinçli kararlar almak için yıllardır teknoloji kullanıyor. Bazı kötü şöhretli durumlarda, bu tamamen geri tepti. CompStat ve PredPol, örneğin, insan yargısındaki hataları azaltmayı hedefleyen erken deneylerdi. Ancak, bu sistemler, çözmek istedikleri sorunları daha da kötüleştirdi.
Daha önceki bu deneyler, beklenilen yeni bir nesil nesnel polislik anlayışını getiremedi. En azından insan unsuru hala devredeydi ve en önemli kararları veriyordu.
Bu yeni yapay zeka ürünlerinin arkasındaki satış stratejisi, geçmişteki hataların nesnel, gerçek zamanlı verilerin eksikliğinden kaynaklandığı. Yapay zeka, teori olarak, kamu güvenliği verilerinin miktarını artırmada ve bunların analiz seviyesini artırmada köprü işlevi görebilir. Ancak birçok kamu güvenliği savunucusu ve hukuk uzmanı, bu tür kara kutu algoritmalarının hukukun uygulanmasında şeffaflığı ve hesap verebilirliği azaltacağını uyarıyor.
Jason Truppi, siber suçlarla ilgili eski bir FBI özel ajanı, polislerin veri denizinde boğulduklarını ifade etti. 2020 yılı sonunda ForceMetrics adlı, kamu güvenliği ajanslarının operasyonel verimliliği artırmalarını ve topluluklarına daha iyi bir şekilde hizmet vermelerini sağlamak için “yapay zeka destekli karar yardım platformu” sunan bir yazılım şirketi kurdu.
Polis departmanlarının son 20 yıldır kullandığı tüm kayıt sistemleri, acil çağrı kayıtları, denetim kayıtları ve vücut kamera görüntüleri veritabanları gibi, Truppi’ye göre büyük bir bilgi yüküne neden oldu. “Polis departmanları tarafından kullanılan tüm kayıt sistemleri temelde eski.”
“Biz ‘p kelimesini’ hiç kullanmıyoruz, çünkü o başarısız oldu.”
ForceMetrics, polis departmanlarına, “kamu güvenliği verilerini büyük, anlaşılır ve eyleme geçirilebilir içgörülere dönüştüren yapay zeka kullanan” Velocity adlı bir platform sunuyor. Polis teknolojileri sektöründeki terminolojiyle, Velocity gerçek zamanlı suç merkezi veya RTCC olarak biliniyor. 20 yıl önce New York Polis Departmanı tarafından benimsenen RTCC’ler, gelen verileri 911 gönderim, CCTV kameraları ve plaka okuyuculardan derleyerek, memurlara bir olay yerine vardıklarında ne beklemeleri gerektiğini özetleyen bilgiler sunmayı sağlar. Teorik olarak, memurlara verebileceğiniz daha fazla gerçek zamanlı veri, onları “yetersiz bilgiyle” göreve gitmekten alıkoyar.
Geçmişte, RTCC’ler, gelen dijital verileri toplamak, düzenlemek ve devriye gezen memurlara iletmekle yükümlü insan analistleri tarafından denetleniyordu. Ancak Truppi’nin önerdiğine göre, son yıllarda veri toplama teknolojilerinin çoğalması, herhangi bir departmanın bu bilgi yağmurunda nefes almasını neredeyse imkansız hale getirmiştir. 2019 yılına kadar NYPD haftalık olarak yaklaşık iki yıl boyunca vücut kamera görüntüleri topluyordu, bu da en dikkatli insan çalışan için bile anlamlı bir analiz yapmayı gerektiriyordu.
Modern RTCC’ler, veri okyanuslarından desenler çıkarmak için tasarlanmış olup, memurlar için durum farkındalığını artırmayı amaçlamakta. Truppi, son yıllarda, özellikle pandemide, ABD’li polis departmanlarının güvenine zarar veren “talihsiz olayların” çoğunun, onun “veriye dayalı yaklaşımının” eksikliğinden kaynaklandığını öne sürüyor.
New York Üniversitesi Irk, Eşitsizlik ve Hukuk Merkezi’nden Nina Loshkajian, bu iddiaya şüpheyle yaklaşıyor. “Gerçek şu ki, polis departmanları, polis tarafından daraltılan bu veriye dayalı sistemleri yıllardır kullanıyor ve başkanın ‘polis bütçesi’ tartışmaları sırasında bile bu sistemler şiddetli karşılaşmaları önlemedi.”
Truppi’nin şirketi, modern polis teknolojisi endüstrisi çerçevesinde büyük oyuncularla rekabet ediyor: Motorola Solutions ve Axon Enterprise, her ikisi de kendi RTCC’lerini üretmenin yanı sıra, kullandıkları veri toplama ve gözetleme teknolojilerinin çoğunu da sağlıyorlar.
2024 yılının başlarında Axon, RTCC oluşturmak için gözetleme teknoloji şirketi Fusus’u satın aldı. O dönem Axon, sadece elektroşok tabancaları, giyilebilir kameralar ve otomatik plaka okuyucularla tanınmıyordu. Şirket, popüler bir yapay zeka destekli rapor yazım aracı olan Draft One’ı, Axon Air programı aracılığıyla polis departmanlarına dronlar sunmayı ve hatta kendi yapay zeka chatbotunu sağlıyordu.
Axon ve Motorola, çağdaş polis teknolojisi yelpazesini monopolize etmeye çalışan çok az sayıda şirketten. Bugün, polis departmanları genellikle bu sağlayıcılarla çok yıllı sözleşmeler imzalamakta; bu arada yeni teknolojiler için deneme süreleri sunmakta ve rakip teklifler almadıkları için belirli sözleşmelerle devam ettirmekte.
“Polise [yapay zeka] teknolojisi satmada bir altın madeni görüyoruz; bunun işlerini daha kolay hale getireceğine dair vaatlerle dolu.”
2024 yılının sonlarına doğru Axon, müşterilere mevcut yapay zeka araçlarına ve gelecekte başlatabileceği diğerlerine erişim sağlamaya yönelik bir abonelik başlattı. AI dönemi planı, abone sayısının yüzde 140 arttığını belirtiliyor: “Büyük ajansların, gelecekte nasıl teknoloji kullanacaklarına dair düşünme biçimlerinin standart bir parçası haline geldiğini görüyoruz.” dedi Axon başkanı Joshua Isner, yaptığı bir yatırımcı çağrısında.
Axon, Motorola ve Flock Safety gibi büyük şirketler mevcut polis teknoloji endüstrisine hakim olurken, Texas’taki IACP teknolojisi konferansında sergilenen yeni teknoloji girişimlerinin ortaya çıkmasıyla artan rekabetle karşı karşıya: “Bu şirketlerin tamamının oyunu, polislik için en iyi platform haline gelmek.”
Bu “altın madeni”, dış yatırımcıların akışını da çekti: Konferans katılımcılarının dörtte biri, “en son teknolojiye yatırım yapmayı planlayan sermaye şirketleri” idi.
Satış stratejileri işe yarıyor gibi görünüyor.
Draft One ve diğer yapay zeka destekli rapor yazım araçları, örneğin, ortalama bir polis memurunun vardiyasının yüzde 40’ını rapor yazmakla geçirdiği bir zamanda özellikle anne, bu tür işlemler için önemli bir cazibe sağlıyor. “Klavyenin arkasında oturmak için buraya gelmedik,” dedi Colorado’nun Avon polis departmanından devriye serjanı John Mackey.
Draft One, belirli detayları boş bırakma özellikleri ile tasarlandı, böylece memurların manuel olarak doldurmaları gerekecek. ChatGPT’nin değişik bir versiyonu üzerine inşa edilen bu platform, yapay zeka destekli raporlar oluşturarak sıfıra indirilmiş yaratıcılıkla çalıştıklarını iddia ediyor. Ancak gördüğüm kadarıyla, sektörünün en ileri aşamalardaki laboratuvarları bile hala bu hallüsinasyonları tamamen ortadan kaldırmakta zorlanıyor.
Gerçekten bu durum oldukça komik: Utah’taki bir memurun, Disney’in “Pamuk Prenses ve Yedi Cüceler” filminin o sırada arka planda çalması nedeniyle bir kurbağaya dönüştüğünü yazdı.
Yapay zeka tarafından yazılan polis raporlarının sonuçları oldukça ciddiyet taşıyabilir. Bir insan memuru rapor yazarken, mahkemede sorgulanabilir ve önemli detaylar, zihinsel durumu veya niçin belirli detayları içerip diğerlerini dışarıda bıraktığını belirtmek için sorgulanabilir. Ancak, kara kutu algoritmaları aynı seviyede inceleme yapılamaz.
Axon ve Motorola, çağdaş polis teknolojisi yelpazesini monopolize etmeye çalışan çok az sayıda şirketten biri.
Draft One için, rapor sonradan sunulduğunda, hangi bölümlerin yapay zeka tarafından ve hangilerinin insan memuru tarafından oluşturulduğunu belirlemek de çok zordu. Bu durum, bir sorun değil, özeldi. Hemen ardından çıkan bir yuvarlak masa tartışmasında, platformun, memurların kendilerinin bellekleri dışında, sunulan raporların orijinal bir kopyasını kaydetmediğini ifade etti.
Gelişmeler yaşandıkça, Axon’dan yapılan güncellemeler, polis departmanlarının yapay zeka tarafından oluşturulan orijinal, düzeltilmemiş anlatımı saklamalarına ve erişim sağlamalarına imkan tanıdı; bu güncelleme, daha belirgin beklentiler ve gereklilikler oluşturmuş polis departmanları ve yasama organları için yapıldı.
Yapay zeka sistemi üzerinde araştırma yapan Duke Üniversitesi Hukuk Okulu profesörü Brandon Garrett, bu teknolojiden endişeli. “Verileri oluşturma fikri – ki bu, üretken modellerin yaptıklarıdır – mahkemede kullanılacaksa korkutucu,” diyor ve ekliyor: “Bir polis memuruna, ‘Kendinize göre yaratıcı olun ve suç mahallinde gördüğünüzü bir hikaye olarak oluşturun’ demiyoruz; tabii ki hayır: En iyi şekilde nesnel bir şekilde kaydetmek ve gördüklerini belgelerle yazmak zorundadırlar. Ama üretken modeller oluşturmak üzere tasarlanmış.”
2008 finansal krizinin ardından, Los Angeles polis şefi Charlie Beck, Wal-Mart ve Amazon’ın kişiselleştirilmiş alışveriş algoritmalarından ilham alarak, polis departmanlarının benzer araçlar kullanmasını önerdi. 2010’lu yılların başlarından beri, “öngörücü polislik” programları Amerika genelinde yaygınlaştırıldı. Ancak, aynı zamanda birçok algoritma, geçmişteki ayrımcı vermelerin herhangi bir etkisini maskelemekteydi.
Örneğin, PredPol, yer sarsıntılarının coğrafi dağılımını tahmin etmek için kullanılan bir algoritmaya dayanıyor; aynı genel ilkenin suç tahminine uygulanabileceği düşünülüyor. Ancak, PredPol ve benzeri programlar, anahtar bazı gerçekleri göz ardı etti.
Daha fazla suç, çoğu büyük şehirde, genellikle çoğunluğu renkli olan insanlarla dolu daha yoksul mahallelerde bildirildi; bu, daha fazla polis varlığı ve tutuklama oranı anlamına gelmektedir. Algoritmanın, bir mahallenin daha fazla suç oranına neden olan sosyal ve politik geçmişi anlama yeteneği yoktu; böylece yapay zekanın daha fazla suç raporladığı alanlara daha yoğun bir şekilde odaklanmasıyla sonuçlanan bir kısır döngü oluştu.
“Öngörücü polislik sistemlerinin kullanımı, geleceği geçmişe çok benzetebilir.”
Benzer bir durum, 2016 yılında yapay zeka araştırmacıları Kristian Lum ve William Isaac tarafından Oakland Polis Departmanından alınan tarihsel uyuşturucu suç verileri ile bir öngörücü polislik algoritmasının teste tabi tutulmasında da gözlemlendi. Algoritma, “neredeyse tamamen düşük gelirli azınlık mahallelere polis gönderilmesini” öneriyordu.
Öngörücü polislik programları nerede uygulanırsa, aynı desenler ortaya çıkıyordu: “Bu sistemlerin kullanılması, geleceğin geçmişe çok benzer görünmesine neden olabilir,” dedi. 2024’te, dört Demokratik Amerikan senatörü, tüm öngörücü polislik programları için Adalet Bakanlığına yeni fonlardan kaçınmasını talep etti. Öngörücü polislik sistemleri yüzde 100 haksız sonuç veriyordur.
Sonuç olarak, öngörücü polislik modern polis teknolojisi alanında oldukça sorunlu bir durum; istatistikleri nesnellik ile birleştirdiği için bir uyarı hikayesidir.
“Öngörücü polislik sistemlerinin kullanımı, geleceği geçmişe çok benzetebilir.”
Uzmanlar, giderek daha fazla kişisel verilerin toplanması ve yapay zeka destekli polisliğin korkutucu olduğunu belirtiyor. Yapay zekanın polislikteki karar verme gücü arttıkça, adalet sisteminin anlaşılamazlığı da artacak. “Herkesten ne kadar çok veri toplarsanız,” diyor, “birine yönelik hedef oluşturmayı pekiştirirsiniz.”
Bütçe kesintileri ve personel eksikliği ile karşılaşan polis departmanları, özel şirketler gibi yapay zeka araçlarını benimsemeleri için baskı altında. Yine de, komiser Ayana’nın belirttiği gibi, tüm bunlar düzenleyici bir boşluk içinde gerçekleşiyor; bu da, polis liderlerinin yanıltıcı olanlarla gerçek anlamda kullanışlı olanları ayırmada yalnız kalmasına neden oluyor.
Polis departmanlarının rayından çıkışına doğru giden bir çarpıcılık içinde, yapay zekanın geleceğiyle ilgili düşünceniz nedir?
