Kullanıcılarının verilerinden para kazanmaya bel bağlayan bu kadar çok şirket neden yapay zeka konusunda son derece sıcak görünüyor? Signal başkanı Meredith Whittaker’a sorarsanız (ki ben de öyle yaptım), size bunun sadece “Yapay zekanın bir gözetleme teknolojisi olması” nedeniyle olduğunu söyleyecektir.
TechCrunch Disrupt 2023’te sahnedeWhittaker, yapay zekanın, Google ve Meta gibi şirketlerin yanı sıra daha az tüketici odaklı ancak aynı derecede önde gelen kurumsal ve savunma şirketleri tarafından sürdürülen büyük veri ve hedefleme endüstrisinden büyük ölçüde ayrılamaz olduğu yönündeki bakış açısını açıkladı. (Sözleri netlik sağlamak amacıyla hafifçe düzenlenmiştir.)
“Gözetim iş modelini gerektiriyor; 90’ların sonlarından bu yana gördüklerimizin ve gözetleme reklamcılığının gelişiminin daha da kötüleşmesi. Yapay zekanın gözetleme iş modelini sağlamlaştırmanın ve genişletmenin bir yolu olduğunu düşünüyorum” dedi. “Venn diyagramı bir dairedir.”
“Ve yapay zekanın kullanımı da gözetleme amaçlıdır, değil mi?” diye devam etti. “Biliyorsunuz, sözde bilimsel duygu tanıma özelliğine sahip bir yüz tanıma kamerasının önünden geçiyorsunuz ve kamera sizin hakkınızda ‘mutlusunuz, üzgünsünüz, kötü bir karaktere sahipsiniz’ diyen doğru ya da yanlış veriler üretiyor. her neyse, ben bir yalancıyım.’ Bunlar sonuçta, kaynaklara ve fırsatlara erişimimizi şekillendirecek tespitler ve tahminler yapmak için genel olarak üzerimizde güce sahip olanlara (işverenlerimize, hükümetlere, sınır kontrollerine vb.) pazarlanan gözetim sistemleridir.”
İronik bir şekilde, bu sistemlerin altında yatan verilerin, hedef alınabileceği çalışanlar tarafından sıklıkla organize edildiğini ve açıklamalara eklendiğini (AI veri seti derleme sürecinde gerekli bir adım) belirtti.
“Verilerin temel gerçeğini bildirecek düzeyde insan emeği olmadan bu sistemleri yapmanın bir yolu yok; insan geri bildirimiyle pekiştirmeli öğrenme, ki bu da yine güvencesiz insan emeğinin teknolojiyle yıkanması anlamına geliyor. Binlerce ve binlerce işçi çok az para ödüyor, ancak toplu olarak bu çok pahalı ve bu sistemleri yaratmanın başka yolu yok, tam anlamıyla,” diye açıkladı. “Bazı açılardan gördüğümüz şey bir tür Oz Büyücüsü fenomeni; perdeyi kaldırdığımızda pek de akıllıca bir şey kalmıyor.”
Ancak tüm yapay zeka ve makine öğrenimi sistemleri eşit derecede sömürücü değildir. Signal’in uygulama veya geliştirme çalışmalarında herhangi bir yapay zeka aracı veya süreci kullanıp kullanmadığını sorduğumda uygulamanın “bizim geliştirmediğimiz küçük bir cihaz içi modeli olduğunu, onu arayüzün bir parçası olarak rafta kullandığımızı” doğruladı. medya düzenleme araç setimizdeki bulanıklaştırma özelliğini kullanın. Aslında o kadar da iyi değil… ama kalabalık fotoğraflarındaki yüzleri tespit etmeye ve bulanıklaştırmaya yardımcı oluyor, böylece bunları sosyal medyada paylaştığınızda insanların özel biyometrik verilerini örneğin Clearview’e ifşa etmiyorsunuz.”
“Ama olay şu. Mesela… evet, bu yapay zekanın harika bir kullanımı ve bu bizi sahneye fırlattığım tüm bu olumsuzluklardan kurtarmıyor mu?” diye ekledi. “Tabii, eğer yüz tanımanın tek pazarı bu olsaydı… ama açık olalım. Yüz tanıma teknolojisinin geliştirilmesi ve yaygınlaştırılması gibi çok pahalı bir süreci yönlendiren ekonomik teşvikler, bunun tek kullanım alanı olmasına asla izin vermez.”