Bugün erken saatlerde San Francisco’daki bir Bloomberg konferansında, iki aylık dünya turunu yeni bitiren OpenAI’den Sam Altman ve Stability AI kurucusu Emad Mostaque dahil olmak üzere AI’daki en büyük isimlerden bazıları ortaya çıktı. Yine de en ilgi çekici konuşmalardan biri, öğleden sonra yapay zeka etiğiyle ilgili bir panelde gerçekleşti.
Güvenli mesajlaşma uygulaması Signal’in başkanı Meredith Whittaker; Credo AI’nın kurucu ortağı ve CEO’su Navrina Singh; ve Dağıtılmış Yapay Zeka Araştırma Enstitüsü Araştırma Direktörü Alex Hanna, üçünün de izleyiciler için birleşik bir mesajı vardı: Yapay zekanın geleceği ile ilgili vaatler ve tehditlerle dikkatinizi bu kadar dağıtmayın. Sihir değil, tamamen otomatik değil ve – Whittaker’a göre – şu anda, çoğu Amerikalının görünüşte anlayabileceği her şeyin ötesinde müdahaleci.
Örneğin Hannah, dünyanın dört bir yanında günümüzün büyük dil modellerinin eğitilmesine yardımcı olan birçok kişiye işaret ederek, bu kişilerin üretken yapay zeka hakkındaki bazı soluksuz yayınlarda kısmen işin gösterişsiz olması ve kısmen de işin gösterişsiz olması nedeniyle kısa sürede kayıtsız kaldıklarını öne sürdü. AI hakkındaki mevcut anlatıya uymuyor.
Hannah şöyle dedi: “Nereden biliyoruz raporlama . . .bu şeylerin herhangi bir derecede çalışmasını sağlamak için bile perde arkasında açıklama yapan bir işçi ordusu var – Amazon Mechanical Turk ile çalışan işçiler, Amazon Mechanical Turk ile çalışan insanlar [the training data company Sama — in Venezuela, Kenya, the U.S., actually all over the world . . .They are actually doing the labeling, whereas Sam [Altman] ve Emad [Mostaque] ve bunların sihir olduğunu söyleyecek olan diğer tüm insanlar – hayır. İnsanlar var. . . .Bunların otonom görünmesi gerekiyor ve bu cilaya sahip ama altında çok fazla insan emeği var.
Daha önce Google’da çalışan, NYU’nun AI Now Enstitüsü’nün kurucu ortağı ve Federal Ticaret Komisyonu’nun danışmanı olan Whittaker’ın ayrı ayrı yaptığı yorumlar daha da anlamlıydı (ve ayrıca izleyicilerin onlara coşkulu tepkisine bağlı olarak etkiliydi). Mesajı şuydu: Dünya artık ChatGPT ve Bard gibi sohbet robotları tarafından büyülenmiş olsa da, onları destekleyen teknoloji tehlikeli, özellikle de gelişmiş yapay zeka piramidinin tepesindekiler tarafından daha fazla yoğunlaşan güç.
Whittaker, “Bu kitledeki bazı kişilerin yapay zeka kullanıcıları olduğunu söyleyebilirim, ancak nüfusun çoğunluğu ders AI’nın. . .Bu kişisel bir seçim meselesi değildir. Yapay zekanın yaşamımıza enterpolasyon yaptığı yolların çoğu, kaynaklara ve fırsatlara erişimimizi şekillendiren belirlemeler yapıyor, muhtemelen bizim bile bilmediğimiz şekillerde perde arkasında yapılıyor.”
Whittaker, bir bankaya giren ve borç isteyen birine bir örnek verdi. Bu kişi reddedilebilir ve “dünyada bir sistem olduğu hakkında hiçbir fikri olmayabilir”. [the] Muhtemelen, kazınmış sosyal medyaya dayalı olarak, itibarlı olmadığımı belirleyen bazı Microsoft API’leri tarafından desteklenmektedir. asla bilemeyeceğim [because] Bunu bilmem için bir mekanizma yok.” Bunu değiştirmenin yolları var, diye devam etti, ancak bunu yapmak için mevcut güç hiyerarşisinin üstesinden gelmenin neredeyse imkansız olduğunu öne sürdü. “15, 20 yıldır masadayım. Ya sahibim olmuştur masada. Güçsüz bir masada oturmak bir hiçtir.”
Elbette, şirketlerinin yapay zeka ürünlerini piyasaya sürme yaklaşımı sırasında temkinli davrandıkları bildirilen mevcut ve eski OpenAI ve Google çalışanları da dahil olmak üzere pek çok güçsüz insan Whittaker’la aynı fikirde olabilir.
Gerçekten de, Bloomberg moderatörü Sarah Friar panele ilgili çalışanların işlerini kaybetme korkusu olmadan nasıl seslerini yükseltebileceklerini sordu ve girişimi şirketlere yapay zeka yönetişimi konusunda yardımcı olan Singh’in şu yanıtı verdi: “Bence bunun çoğu liderliğe ve şirkete bağlı. değerler, dürüst olmak gerekirse. . . . Geçtiğimiz yıl sorumlu yapay zeka ekiplerinin salıverildiğini defalarca gördük.”
Bu arada, AI’yı “bir gözetleme teknolojisi” olarak adlandıran Whittaker, sıradan insanların neler olup bittiğini anlamadığı çok daha fazla şey olduğunu öne sürdü. Kalabalığın karşısında, detaylandırdı ve yapay zekanın “giderek daha fazla veriye ve giderek daha fazla mahrem toplama ihtiyacını sağlamlaştıran ve genişleten bu devasa veri kümeleri biçiminde gözetim gerektirdiğini” belirtti. Her şeyin çözümü, bu şirketlerin elinde daha fazla veri, daha fazla bilgi birikimi. Ancak bu sistemler aynı zamanda gözetleme cihazları olarak da konuşlandırılır. Ve bir yapay zeka sisteminden bir çıktının bazı olasılıksal istatistiksel tahminler yoluyla mı üretildiği yoksa konumumu üçgenleyen şeyin bir baz istasyonundan gelen veriler mi olduğunun önemli olmadığını kabul etmenin gerçekten önemli olduğunu düşünüyorum. O veriler benim hakkımda veri oluyor. Doğru olması gerekmiyor. Kim olduğumu veya nerede olduğumu yansıtması gerekmiyor. Ama hayatım üzerinde önemli olan bir güce sahip ve bu güç bu şirketlerin ellerine veriliyor.”
Gerçekten de, “AI endişelerinin ve mahremiyet endişelerinin Venn diyagramı bir dairedir” diye ekledi.
Whittaker belli ki bir noktaya kadar kendi gündemine sahip. Etkinlikte kendisinin de söylediği gibi, “Signal ve diğer meşru gizliliği koruyan teknolojilerin sebat ettiği bir dünya var” çünkü insanlar bu güç yoğunlaşmasıyla gittikçe daha az rahat oluyorlar.
Ancak ayrıca, yeterince geri adım atılmazsa ve yakında – AI’daki ilerleme hızlanırken toplumsal etkiler de hızlanırsa – “AI’ya doğru abartılı bir yolda” ilerlemeye devam edeceğiz, “bu gücün yerleşik olduğu yerde” dedi. ve zeka kisvesi altında vatandaşlaştırıldık ve noktaya kadar izlendik [of having] bireysel ve kolektif yaşamlarımız üzerinde çok, çok az aracılık.”
Bu “endişe varoluşsaldır ve genellikle verilen AI çerçevesinden çok daha büyüktür.”
Tartışmayı büyüleyici bulduk; tamamını görmek isterseniz, Bloomberg o zamandan beri yayınladı Burada.
Üstte: Signal Başkanı Meredith Whittaker
