TechCrunch’ın AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını spot ışığında vermeyi amaçlayan devam eden Kadınlar AI serisinin bir parçası olarak TechCrunch, CIA’deki AI direktörü Lakshmi Raman ile röportaj yaptı. Direktörlüğe giden yolunun yanı sıra CIA’in AI kullanımını ve yeni teknolojiyi benimsemek ile sorumlu bir şekilde dağıtmak arasında sağlanması gereken dengeyi konuştuk.
Raman uzun zamandır istihbaratta. Illinois Urbana-Champaign Üniversitesi’nden lisans derecesini ve Chicago Üniversitesi’nden bilgisayar bilimleri alanında yüksek lisans derecesini aldıktan sonra 2002’de CIA’e yazılım geliştiricisi olarak katıldı. Birkaç yıl sonra ajansın yönetimine geçti ve sonunda CIA’in genel kurumsal veri bilimi çalışmalarına liderlik etti.
Raman, istihbarat alanında tarihsel olarak erkeklerin egemen olduğu bir kadronun olması nedeniyle CIA’de kaynak olarak kadın rol modellerinin ve öncüllerinin olmasından dolayı şanslı olduğunu söylüyor.
“Hala bakabileceğim, tavsiye isteyebileceğim ve bir sonraki liderlik seviyesinin nasıl görüneceği konusunda yaklaşabileceğim insanlar var,” dedi. “Bence her kadının kariyerinde ilerlerken aşması gereken şeyler var.”
Yönetici rolünde Raman, CIA genelindeki AI faaliyetlerini düzenliyor, entegre ediyor ve yönlendiriyor. “AI’nın misyonumuzu desteklemek için burada olduğunu düşünüyoruz,” dedi. “AI kullanımımızda ön planda olan insanlar ve makineler birlikte.”
Yapay zeka CIA için yeni bir şey değil. Raman, ajansın 2000’li yıllardan beri veri bilimi ve yapay zekanın uygulamalarını araştırdığını, özellikle de doğal dil işleme (yani metin analizi), bilgisayar görüşü (görüntü analizi) ve video analitiği alanlarında araştırma yaptığını söylüyor. CIA’in, hem endüstri hem de akademi tarafından bilgilendirilen bir yol haritasıyla, üretken yapay zeka gibi daha yeni trendlerin zirvesinde kalmaya çalıştığını da sözlerine ekledi.
Raman, “Ajans içinde tüketmemiz gereken muazzam miktardaki veriyi düşündüğümüzde, içerik sınıflandırması, üretken yapay zekanın fark yaratabileceği bir alandır,” dedi. “Arama ve keşif yardımı, fikir oluşturma yardımı ve sahip olabileceğimiz analitik önyargıya karşı koymamıza yardımcı olacak karşı argümanlar üretmemize yardımcı olma gibi şeylere bakıyoruz.”
ABD istihbarat topluluğunda acilen harekete geçme ihtiyacı var herhangi Gazze’deki savaştan kaynaklanan terör tehditlerinden yabancı aktörler (örneğin Çin, Rusya) tarafından yürütülen dezenformasyon kampanyalarına kadar CIA’nın dünya çapında büyüyen jeopolitik gerginliklerle mücadele etmesine yardımcı olabilecek araçlar. Geçtiğimiz yıl, ulusal güvenlikte yapay zekaya odaklanan yüksek güçlü bir danışma grubu olan Özel Rekabetçi Çalışmalar Projesi, iç istihbarat servisleri için iki yıllık bir zaman çizelgesi belirleyin Deneyselliğin ve sınırlı pilot projelerin ötesine geçerek, üretken yapay zekayı büyük ölçekte benimsemek.
CIA’in geliştirdiği üretken AI destekli bir araç olan Osiris, OpenAI’nin ChatGPT’sine biraz benziyor ancak istihbarat kullanım durumları için özelleştirilmiş. Verileri özetliyor — şimdilik yalnızca sınıflandırılmamış ve kamuya açık veya ticari olarak erişilebilir veriler — ve analistlerin sade İngilizce ile takip soruları sorarak daha derinlemesine araştırma yapmalarına olanak sağlıyor.
Osiris artık sadece CIA’in duvarları içinde değil, aynı zamanda 18 ABD istihbarat teşkilatı genelinde binlerce analist tarafından kullanılıyor. Raman, bunun şirket içinde mi geliştirildiğini yoksa üçüncü taraf şirketlerin teknolojisini mi kullandığını açıklamadı ancak CIA’in markalı satıcılarla ortaklıkları olduğunu söyledi.
Raman, “Ticari hizmetlerden yararlanıyoruz,” dedi ve CIA’in çeviri ve mesai saatleri dışında analistleri potansiyel olarak önemli gelişmeler konusunda uyarma gibi görevler için yapay zeka araçlarını da kullandığını ekledi. “Sadece duyduğunuz daha büyük hizmetleri ve çözümleri değil, aynı zamanda aklınıza gelmemiş olabilecek geleneksel olmayan tedarikçilerden daha da niş hizmetleri sağlamamıza yardımcı olabilmek için özel sektörle yakın bir şekilde çalışabilmemiz gerekiyor.”
Zorlu bir teknoloji
CIA’in yapay zeka kullanımına şüpheyle yaklaşmak ve endişe duymak için birçok neden var.
Şubat 2022’de Senatörler Ron Wyden (D-OR) ve Martin Heinrich (D-New Mexico), CIA’in genel olarak Amerikalılar ve Amerikan işletmelerini soruşturmasının yasak olmasına rağmen, kamuoyuna açık bir mektupta, gizli, ifşa edilmemiş bir veri deposuna sahiptir ABD vatandaşları hakkında toplanan bilgileri içerir. Ve geçen yıl, Ulusal İstihbarat Direktörü Ofisi raporu, CIA dahil olmak üzere ABD istihbarat teşkilatlarının, Amerikalılar hakkında veri aracılarından veri satın alın LexisNexis ve Sayari Analytics gibi çok az denetime sahip.
CIA bu verileri incelemek için AI’yı kullansaydı, birçok Amerikalı kesinlikle itiraz ederdi. Bu, medeni hakların açık bir ihlali olurdu ve AI’nın sınırlamaları nedeniyle ciddi şekilde adaletsiz sonuçlara yol açabilirdi.
Geolitica gibi firmaların tahmin edici suç algoritmalarının birçok çalışmayla kanıtlandığı görülmektedir. tutuklama oranlarından kolayca etkileniyor ve orantısız bir şekilde Siyah toplulukları işaretleme eğilimindedir. Diğer çalışmalar Yüz tanıma teknolojisinin, beyaz insanlara kıyasla renkli insanların yanlış tanımlanmasında daha yüksek bir orana yol açtığını öne sürüyor.
Önyargıların yanı sıra, bugünün en iyi yapay zekası bile halüsinasyon görüyor veya sorgulara yanıt olarak gerçekler ve rakamlar uyduruyor. Örneğin Microsoft’un toplantı özetleme yazılımını ele alalım, ara sıra alıntıları var olmayan insanlara atfederDoğruluk ve doğrulanabilirliğin çok önemli olduğu istihbarat çalışmalarında bunun nasıl bir sorun haline gelebileceğini tahmin edebiliriz.
Raman, CIA’in yalnızca tüm ABD yasalarına uymakla kalmayıp aynı zamanda “tüm etik yönergeleri takip ettiği” ve yapay zekayı “önyargıyı azaltacak şekilde” kullandığı konusunda kararlıydı.
“Bunu düşünceli bir yaklaşım olarak adlandırırım [to AI]” dedi. “Kullanıcılarımızın kullandıkları AI sistemi hakkında olabildiğince çok şey anlamalarını istediğimizi söyleyebilirim. Sorumlu bir AI oluşturmak, tüm paydaşların dahil olması gerektiği anlamına gelir; bu AI geliştiricileri, gizlilik ve medeni haklar ofisimiz anlamına gelir. [and so on].”
Raman’ın belirttiği gibi, bir AI sisteminin ne yapmak için tasarlandığından bağımsız olarak, sistemin tasarımcılarının yetersiz kalabileceği alanları açıkça belirtmeleri önemlidir. Kuzey Carolina Eyalet Üniversitesi araştırmacıları yakın zamanda yaptıkları bir çalışmada, yüz tanıma ve silah sesi algılama algoritmaları da dahil olmak üzere AI araçlarının, teknolojilere aşina olmayan polisler tarafından kullanılıyordu veya eksiklikleri.
Belki de cehaletten kaynaklanan, kolluk kuvvetlerinin yapay zekayı kötüye kullanmasının özellikle çirkin bir örneğinde, NYPD’nin bir zamanlar ünlülerin fotoğraflarını kullandığı bildiriliyorGözetleme görüntülerinin sonuç vermediği durumlarda şüphelilere ait yüz tanıma eşleşmeleri üretmek için çarpıtılmış görüntü ve çizimler kullanıldı.
Raman, “Yapay zeka tarafından üretilen her çıktı kullanıcılar tarafından açıkça anlaşılmalıdır ve bu, açıkça yapay zeka tarafından üretilen içeriği etiketlemek ve yapay zeka sistemlerinin nasıl çalıştığına dair net açıklamalar sağlamak anlamına gelir,” dedi. “Ajansta yaptığımız her şeyde yasal gerekliliklerimize uyuyoruz ve kullanıcılarımızın, ortaklarımızın ve paydaşlarımızın yapay zeka sistemlerimizin kullanımını yöneten tüm ilgili yasalardan, düzenlemelerden ve yönergelerden haberdar olmasını sağlıyoruz ve tüm bu kurallara uyuyoruz.”
Bu muhabir bunun doğru olmasını umuyor.