Yapay zeka “değil Şirketin başkanı Meredith Whittaker, şifreleme konusundaki mücadelenin kazanılmaktan çok uzak olduğu ve Signal’in ilkeli (ve tavizsiz) yaklaşımının birlikte çalışabilirlik çabalarını karmaşık hale getirebileceği konusunda uyardı. Ama hepsi kötü haber değil.
(Aslında bunların hepsi kötü haber çünkü iyi haberi ayrı ayrı yazdım.)
StrictlyVC LA’de benimle sahnede konuşuyorumWhittaker, şifrelemeye yönelik yasama saldırılarının yeniden canlanmasını “sihirli düşünce” olarak nitelendirdi.
“Genellikle çocukları koruma fikrine endeksli, dar görüşlü ve oldukça siyasi motivasyonlu bir dizi mevzuat parçası görüyoruz. Ve bunlar aslında güvenlik hizmetlerinin, hükümet otokratlarının çok eski bir arzusu olan, sistematik olarak arka kapıdan güçlü şifreleme yapılması yönünde baskı yapmak için kullanıldı” dedi Whittaker. “Çoğu zaman, yaptıkları şeyin sonuçlarını anlayacak bilgi veya eğitime sahip olmayan iyi niyetli insanlar tarafından itilmenin, özel olarak dijital olarak iletişim kurma yeteneğini temelden ortadan kaldırabileceğine inanıyorum.”
İronik ya da belki de alaycı bir şekilde, canlandırıcı faktörlerden biri, on yıldır teknoloji şirketlerine daha fazla sorumluluk alma yönünde yapılan çağrılardı.
“Gördüğüm genel tema, 2010’ların ortalarında canlandırıldığını gördüğümüz, teknolojide sorumluluk konusunda derin bir arzu. O zaman bu silah haline getirildi ve sanırım sorumluluk şişelerinde gözetim şarabını görüyoruz” dedi.
“’Sorumluluk’, gözetleme reklamcılığı yöntemlerinin kullanılabileceği devasa platformlar yaratan iş modellerini fiilen kontrol etmek yerine, daha fazla izleme, daha fazla gözetim, daha fazla arka kapı, insanların özgürce ifade edebileceği veya iletişim kurabileceği yerlerin daha fazla ortadan kaldırılması gibi görünüyor. Bilgi operasyonları, ifşa etme veya her ne ise onu kolaylıkla silah haline getirilebilir, değil mi? Sorunun köküne inme konusunda bir isteksizlik var. Bunun yerine, hesap verebilirlik adına gözetimin hükümet ve STK sektörlerine yaygınlaştırılmasına yönelik etkin öneriler görüyoruz.”
Böyle bir teklif, Birleşik Krallık’taki Soruşturma Yetkileri Yasası aracılığıyla geldi; oradaki hükümet buna göre herhangi bir uygulama güncellemesini engellemekle tehdit ediyor – küresel olarak – ulusal güvenliğine yönelik bir tehdit olarak görüyor.
“[The IPA] Birleşik Krallık adına, tüm yetki alanlarındaki herhangi bir teknoloji şirketinin, siz bir güvenlik yaması göndermeden önce Birleşik Krallık hükümetiyle iletişime geçmesini talep etme yetkisine sahip olduğunu iddia ediyor; çünkü bu yamayı bir yerlerde, yapmaya devam etmek istedikleri bazı işler için kullanıyor olabilirler. Burada yine dar görüşlü, büyülü bir düşünce biçimi var” dedi Whittaker.
“Bu çok tehlikeli çünkü 1999’da şifrelemenin serbestleştirilmesinden önceye geri dönme tehdidiyle karşı karşıyayız; bu, hükümetin şifreleme ve dijital mahremiyet hakkı üzerinde tekele sahip olduğu 90’ların başlarındaki bir paradigmaya benziyor. Ve şifreleme veya gizlilik güncellemelerini veya hizmetinizi güvence altına alacak ve güçlendirecek herhangi bir şeyi dağıtma yeteneğinin, hükümetten izin almanız gereken bir şey haline geldiği yer.
“Ve dürüst olmak gerekirse,” diye ekledi, “VC topluluğuna ve daha büyük teknoloji şirketlerinin bunun sektör için ne kadar büyük bir tehdit olduğunu adlandırma ve geri püskürtme konusunda daha fazla rol almasına ihtiyacımız olduğunu düşünüyorum.”
Signal başkanı Meredith Whittaker ve Devin Coldewey, StrictlyVC LA’da. Resim Kredisi: TechCrunch
Mantıklı görünebilecek düzenlemelerden biri, AB’de Dijital Piyasalar Yasası aracılığıyla takip edilen mesajlaşma birlikte çalışabilirliği zorunluluğudur. Ancak bunun da gizli tehlikeleri var.
“Bence bu ruh çok anlamlı. Ancak elbette Signal, gizlilik çıtasını önemli ölçüde yükseltmeden başka bir mesajlaşma platformuyla birlikte çalışamaz, hatta uçtan uca şifrelemeyi destekleyen ve protokolü kısmen kullanan WhatsApp gibi platformlar bile. “Çünkü biz Signal protokolünü kullanarak yalnızca mesajların içeriğini şifrelemiyoruz. Meta verileri şifreliyoruz, profil adınızı, profil fotoğrafınızı, kişi listenizde kimlerin olduğunu, kiminle konuştuğunuzu, onlarla konuştuğunuzda şifreliyoruz. Birlikte çalışmaya izin vermeden önce, birlikte çalıştığımız herkesle genel olarak mutabakata varılan gizlilik ve güvenlik düzeyinin bu olması gerekir.”
Rahatlık adına güvenlik ve mahremiyetin sulandırılarak tam tersinin yaşanma riski bulunduğunu açıkladı. “Aslında gizlilik standardını düşürebilir ve bir tür birlikte çalışan monolit oluşturarak, çok fazla bütünlük içeren bir gizlilik standardı talep edenleri daha marjinal bir konuma düşürebilir.” (Bu arada, Apple’ın geçiş izni alması ve böyle bir rejimi umutsuzca parçalanmış halde bırakması fikriyle alay etti.)
Özel sektörde Whittaker, yükselen Nvidia’yı tekelci olarak adlandırmakta gecikmedi.
Günümüzün yüksek performanslı bilgisayarlarının çoğunun kalbinde yer alan özel hesaplama mimarisine atıfta bulunarak, “Bu çip tekeli ve CUDA tekelidir” dedi.
Şirketin güç birikiminin tehlikeli hale geldiğini düşünüp düşünmediğini sordum.
“Demek istediğim, birbirimize işaret eden bir sürü Örümcek Adam var, değil mi? Şimdi Microsoft’un Nvidia’yı işaret ettiğini görüyorum ve şunu söylüyorum: Tekel konusunda endişeleniyorsanız zavallı Microsoft’a bakmayın, Nvidia’ya bakın, onlar onlar ve siz de Google’a bakın. Google geçen hafta yapay zeka erişim ilkelerine dair bu tür bir halkla ilişkiler bildirisi yayınladı ve Google’ın uygulama mağazasından çiplere kadar dikey olarak entegre olan tek şirket olduğundan bahsettiler. Ve bu doğru, değil mi? Ancak birkaç gün sonra Google, Microsoft’un aslında tekel olduğunu çünkü OpenAI’ye ve bir nevi Azure tekeline sahip olduğunu yayınladı, değil mi?
“Yani burada kimse masum değil. Pek çok şey var, ‘Hepimiz bunu yapan adamı bulmaya çalışıyoruz…’” (örn. ünlü ‘sosisli sandviç adam’ meme “Sanırım Tim Robinson’la Ayrılmalısın”) bölümünden kaldırıldı.
“Yapay zekanın Büyük Teknolojiye bağımlı olduğunu kabul etmemiz gerektiğini düşünüyorum. Büyük Teknoloji kaynakları gerektirir. Hiçbir şekilde açık değil” dedi. “Dürüst olabiliriz ki, bir eğitim çalışması için 100 milyon dolara ihtiyacınız varsa, bu açık bir kaynak değildir, değil mi? Bir ay boyunca geniş ölçekte dağıtım için 100 milyon dolara ihtiyacınız varsa bu açık değil, değil mi? Dolayısıyla bu terimleri nasıl kullandığımız konusunda dürüst olmamız gerekiyor. Ancak haftanın suçlusu olarak Nvidia’ya yönelmenin, bu yoğun yoğunlaşmış güçle karşı karşıya olduğumuz durumu gölgelemesini istemiyorum.”
Röportajın tamamını aşağıdan izleyebilirsiniz.