Axon tarafından teknoloji kararlarını önermek üzere atanan bir etik kurulun 12 üyesinden dokuzu, şirketin okullarda Taser donanımlı insansız hava araçları ve yaygın gözetim kurmayı planlıyor. Ayrılan üyeler, “Birkaç yıllık çalışmanın ardından şirket, aşılamaya çalıştığımız değerleri benimsemede temelden başarısız oldu” diye yazıyor. “Axon’ın sorumlu bir ortak olma yeteneğine olan inancımızı kaybettik.”
Axon (eski adıyla Taser), son yıllarda yalnızca tanıdık ve eskiden aynı adı taşıyan elektrikli silahları değil, vücut kameralarını ve kanıt yönetimi için tüm dijital platformları sağlayarak bir kolluk kuvvetleri yazılımı ve donanımına dönüştü. Bu tür şeyleri özelleştirmenin doğasında var olan riskleri şimdilik bir kenara bırakan Axon, teknolojisi konusunda oldukça şaşırtıcı bir şekilde düşünceli davrandı ve bu araçların kullanılacağı toplulukların yanı sıra onları kullanacak veya kullanacak polislerin tavsiyelerini istedi.
Yapay Zeka Etik Kurulu birkaç yıl önce, makine öğreniminin son derece değerli bir araç olduğu ve aynı zamanda kolayca zayıf bir şekilde oluşturulabileceği, kötüye kullanılabileceği veya ikisinin bir kombinasyonu olabileceği anlaşılınca kuruldu. Uzmanlar, akademisyenler ve endüstri profesyonellerinden oluşan kurul, güvenlik önlemleri, hesap verebilirlik önlemleri vb. öneren teknoloji hakkında ılıman bir bakış açısı sağlayacak.
İyi bir başlangıç yaptı, istifa eden üyeler bir açıklamada yazdı:
Her birimiz, polislik teknolojisinin ekebileceği zararları azaltmaya ve herhangi bir faydayı daha iyi yakalamaya yardımcı olacak şekilde şirketin yönünü etkileyebileceğimiz inancıyla bu Kurula katıldık. Bir süreliğine, bu etkinin Axon’un bazı kararlarında etkili olduğunu gördük. Ürünlerinden hiçbirini yüz tanıma özelliğiyle donatmamaktan, sosyal medya web sitelerinden veri toplamak için yeni bir yazılım aracını geri çekmeye, plaka okuyucularının kullanımını kontrol altına almak için umutsuzca ihtiyaç duyulan mevzuatı teşvik etmeye kadar, aradaki farkın somut kanıtlarını gözlemledik. yapıyorlardı.
2020’de CEO Rich Smith ile sohbet ettim ve teknolojinin devam eden bir polislik krizine cevap olup olmadığı sorusuna canlandırıcı dürüstlükle yaklaştığını gördüm.
“Teknoloji her derde deva değil. Bu sorunları bizim için çözmeyecek” dedi. Ama aynı derecede doğru, diye devam etti, teknoloji olmadan bu sorunlardan bazılarının çözülemeyeceği gerçeğidir. Vücut kameraları ve polis karşılaşmalarının diğer dijital takibi, saf bir mal değildir, ancak bu tür olayların sistematik olarak kaydedilmesini başka nasıl bekleyebiliriz? Bu araçları tanımlayacak olanlar polis değil, onları yapan şirketlerdir ve Axon kendini bu konuma sokmak için jokeylik yapmıştır.
Ancak son zamanlarda, toplu çekimlere karşı caydırıcı olarak ne kadar ve ne tür bir teknolojinin kullanılması gerektiği konusunda çok ileri gitmiş olabilir.
“[Axon] Taser donanımlı insansız hava araçları geliştirmeyi, bunları kitlesel ve okul çekimleri için potansiyel hedeflere önceden konumlandırmayı ve bu hedefleri gerçek zamanlı akış özelliklerine sahip gözetleme kameralarında çevrelemeyi amaçlıyor, ”diyor kurulun mektubu.
“Kurul, Taser Drone ile sıkı kontrollerle denenmesi gereken bir şey olarak tanıtıldı ve tartışıldı, çünkü bu tür ekipmanların kullanımı hakkında cevaplanması gereken çok fazla soru var. Ancak, Axon’ın bu aracı AI Etik Kurulu’nun uyarısını tamamen göz ardı ederek yaygın bir konsept olarak duyurmayı planladığı çok kısa bir süre içinde yönetim kuruluna bildirildi” dedi. Polislik Projesi bekçi grubu. “Bu kadar önemli bir konuda Yönetim Kurulu’nu kenara çekmek bu kadar kolaysa, kendimize burada ne işimiz olduğunu sormamız gerekiyordu?”
Kurul, Axon’ı planlandığı gibi takip etmeleri halinde istifaların olacağı konusunda uyardı. Devam etti – ve istifa ettiler.
Bu ve topluluktaki diğer kişilerin, toplu katliam tehdidine belki de bunun uygun bir yanıt olmadığına dair haykırışlarıyla, Smith bu blog gönderisini kaleme aldı şirketin kendini aşmış olabileceğini kabul etmek.
“Geri bildirimler ışığında, bu proje üzerindeki çalışmayı durduruyoruz ve ileriye dönük en iyi yolu tam olarak keşfetmek için kilit seçmenlerle daha fazla ilişki kurmaya yeniden odaklanıyoruz” diye yazdı. “Okullarda uzaktan çalıştırılan, ölümcül olmayan, TASER özellikli bir drone, bir ürün değil, bir fikirdir ve çok uzaklardadır. Bu teknolojinin uygulanabilir olup olmadığını görmek ve ilerlemeden önce halkın endişelerinin yeterince ele alınıp alınamayacağını anlamak için çok çalışmamız ve araştırmamız var.”
Ayrıca, McBride’ın işaret ettiği gibi, mevcut sistem üzerinde buharlaşmış gibi görünse de, alternatif görüşleri toplama sürecini “geliştireceklerini” söyledi. Hangi iyileştirmeler, gelecekte şahinler karar verme pozisyonlarındayken tamamen danışmanlık rolünde olan, iyi personele sahip olsa da, aynı şeyi herhangi birine yapmasını engeller mi? Axon, yönetim kurulunun geleceği ile ilgili soruları yanıtlamadı ve beni yukarıda belirtilen gönderiye yönlendirdi.
İlginç bir şekilde Smith, bu yazıda, etik kurulun istifa eden üyelerinin “biz onların teknik sorularını duymadan ya da ele alma şansı bulamadan bu konularla doğrudan ilgilenmekten çekilmeyi seçtiklerini” iddia ediyor.
Yine de, Axon ve yönetim kurulu ile bu fikir üzerinde çalışan Polislik Projesi’nin avukatı Max Isaacs, Smith’in açıklamasının “Bir yıldan fazla bir süredir Etik Kurulu, dar bir pilot programın parametrelerini tartışmak için Axon ile birlikte çalıştığını” belirtti. geriye doğru. Isaacs, “Şirketin bu tür önemli kararlar almadan önce Etik Kurul’a danışma vaadini ihlal etmesi ve sürekli toplu gözetimi benimsemesi, Axon’ın bu teknolojiyi sorumlu bir şekilde geliştirmeye yeterince kararlı olmadığını gösteriyor” dedi. Başka bir mesajda, Axon’a fikri halka açıklamamaları için “yalvardıklarını” yineledi.
Bir Axon temsilcisi, kurulun Taser donanımlı bir drone üzerinde tartıldığını açıkladı. polis, “kamusal alanlara önceden kurulmuş” değil ve kısaca okullarda kullanılması amaçlanıyor. Kurulun ağırlığını koymadığını söylemek için biraz ince: Polis tarafından konuşlandırma konusundaki endişeleri kesinlikle okullarda konuşlandırma için daha da acil olmalı. Ve istifa mektubunda belirtildiği gibi, Axon onlara yanıt vermeleri için fazla zaman vermedi – ya da daha büyük olasılıkla yanıtın tam olarak ne olacağını biliyordu.
Durum ne olursa olsun, Taser Drone planı buz üzerinde ve Axon el ele bir barut fıçısı tartışmasına atlamadan önce iki kez düşünebilir. Teknoloji, güvenlik ve kanun yaptırımında her zaman önemli bir role sahip olacaktır, ancak düşündüğümüzden daha hızlı hareket etmenin kimseye faydası yoktur (ve ciddi sonuçları olabilir).