AI ile ilgili bu haftaki Senato duruşmasıyla ilgili en sıra dışı şey, nazik oldu. Başta OpenAI CEO’su Sam Altman olmak üzere sektör temsilcileri, yeni yapay zeka teknolojilerinin düzenlenmesi gereği konusunda neşeyle anlaşırken, politikacılar kuralların hazırlanması sorumluluğunu şirketlerin kendilerine devretmekten mutlu görünüyorlardı. Senatör Dick Durbin (D-IL) olarak koymak açılış konuşmasında: “Büyük şirketleri veya özel sektör kuruluşlarını temsil eden kişilerin ne zaman önümüze gelip bunları düzenlememiz için bize yalvardıklarını hatırlayamıyorum.”
Bu tür samimiyet insanları tedirgin eder. Bir dizi uzman ve endüstri figürü, duruşmanın AI’da endüstrinin ele geçirildiği bir çağa doğru gidebileceğimizi gösterdiğini söylüyor. Teknoloji devlerinin bu teknolojiyi yöneten kuralları yazmalarına izin verilirse, bunun küçük firmaları boğmaktan zayıf düzenlemeler getirmeye kadar birçok zararı olabileceğini söylüyorlar.
Sektörün ele geçirilmesi daha küçük firmalara zarar verebilir ve zayıf düzenlemelere yol açabilir
Duruşmadaki uzmanlar arasında IBM’den Christina Montgomery ve aynı zamanda düzenleyici yakalama hayaletini gündeme getiren ünlü AI eleştirmeni Gary Marcus da vardı. (Marcus, tehlikenin şu olduğunu söyledi: “Bir şey yapıyormuşuz gibi görünmesini sağlıyoruz, ancak bu daha çok yeşil aklama ve gerçekten hiçbir şey olmuyor, sadece küçük oyuncuları dışarıda tutuyoruz.”) Şu anda, teknoloji endüstrisinin resmi olmayan sözcüsü Altman’dı.
Altman’ın OpenAI’si, bazıları tarafından hala bir “startup” olarak anılsa da, muhtemelen dünyadaki en etkili AI şirketidir. ChatGPT gibi görüntü ve metin oluşturma araçlarını piyasaya sürmesi ve Bing’i yeniden yapmak için Microsoft ile yaptığı anlaşmalar, tüm teknoloji endüstrisinde şok dalgaları yarattı. Altman’ın kendisi iyi bir konumda: hem VC sınıfının hayal gücüne hem de süper zeki yapay zeka inşa etme vaatleriyle zorlu yapay zeka destekçilerine hitap edebiliyor ve belki bir gün, kendi sözleriyle“evrendeki tüm gelecekteki değerlerin ışık konisini yakalayın.”
Bu haftaki duruşmada o kadar gösterişli değildi. Altman da düzenleyici el koyma sorunundan bahsetti, ancak daha küçük kuruluşlara lisans verme konusundaki düşünceleri konusunda daha az netti. “Daha küçük girişimleri yavaşlatmak istemiyoruz. Açık kaynak çabalarını yavaşlatmak istemiyoruz,” dedi ve ekledi, “Hâlâ bir şeylere uymaları için onlara ihtiyacımız var.”
AI Now enstitüsünün genel müdürü Sarah Myers West, şunları söyledi: Sınır birçok konuşmacı tarafından önerilen lisanslama sisteminden şüpheleniyordu. “Bence zararı, şirketlerin ‘evet, lisanslıyız, zararların ne olduğunu biliyoruz ve işlerine her zamanki gibi devam edebiliriz’ dediği bir tür yüzeysel onay kutusu alıştırmasıyla sonuçlanmamız olacak. Bu sistemler yanlış gittiğinde herhangi bir gerçek sorumluluk ”dedi.
“Modelleri eğitmek için bir lisans gerektirmek … gücü birkaç kişinin elinde daha da yoğunlaştırır”
Diğer eleştirmenler – özellikle kendi AI şirketlerini yönetenler – rekabete yönelik potansiyel tehdidi vurguladılar. Stability AI’nin kurucusu ve CEO’su Emad Mostaque, “Yönetmelik her zaman yerleşikleri destekliyor ve yeniliği engelleyebilir” dedi. Sınır. Yapay zeka girişimi Hugging Face’in CEO’su Clem Delangue, tweet attı benzer bir tepki: “Modelleri eğitmek için lisans gerektirmek, kod yazmak için lisans gerektirmeye benzer. IMO, gücü birkaç kişinin elinde daha da yoğunlaştırır ve ilerlemeyi, adaleti ve şeffaflığı büyük ölçüde yavaşlatır.”
Ancak bazı uzmanlar, bir tür lisanslamanın etkili olabileceğini söylüyor. Yapay zeka dil modellerinin potansiyel zararları üzerine bir araştırma makalesi yazdıktan sonra Timnit Gebru ile birlikte Google’dan atılan Margaret Mitchell, kendisini “yukarıdan aşağıya düzenlemeyle birlikte bir miktar öz düzenlemenin savunucusu” olarak tanımlıyor. O söyledi Sınır sertifikasyonun cazibesini görebildiğini, ancak belki de şirketlerden çok bireyler için.
Şu anda Hugging Face’de baş etik bilimcisi olan Mitchell, “Bir modeli (bazı eşiklerin üzerinde) eğitmek için bir geliştiricinin ‘ticari bir makine öğrenimi geliştirici lisansına’ ihtiyacı olacağını hayal edebilirsiniz,” dedi. “Bu, ‘sorumlu yapay zekayı’ yasal bir yapıya getirmenin basit bir yolu olacaktır.”
Mitchell, iyi düzenlemenin, firmaların kolayca kendi avantajlarına çeviremeyecekleri standartlar belirlemeye bağlı olduğunu ve bunun, değerlendirilen teknolojinin incelikli bir şekilde anlaşılmasını gerektirdiğini ekledi. Algoritmalarının “yüzde 100” doğru olduğunu iddia ederek kendisini polis güçlerine satan yüz tanıma firması Clearview AI örneğini veriyor. Bu kulağa güven verici geliyor, ancak uzmanlar şirketin kullandığını söylüyor çarpık testler Bu rakamları üretmek için. Mitchell, Big Tech’in kamu yararına hareket etme konusunda genellikle güvenmediğini de sözlerine ekledi. “Teknoloji şirketleri [have] insanlara saygı duymayı şirket yönetmenin bir parçası olarak görmediklerini tekrar tekrar gösterdiler” dedi.
Lisanslama başlatılsa bile, hemen bir etkisi olmayabilir. Duruşmada, endüstri temsilcileri genellikle varsayımsal gelecekteki zararlara dikkat çekti ve bu süreçte AI’nın zaten mümkün kıldığı bilinen sorunlara çok az ilgi gösterdi.
Örneğin, Joy Buolamwini gibi araştırmacılar, yüz tanımada önyargıyla ilgili sorunları defalarca tespit ettiler. Siyah yüzleri tanımlamada yanlış ve üretti birçok vaka haksız tutuklamak ABD’de. Buna rağmen, duruşma sırasında AI güdümlü gözetimden hiç bahsedilmedi, yüz tanıma ve kusurlarından sadece bir kez bahsedildi.
Endüstri rakamları, mevcut sorunlar hakkında konuşmaktan kaçınmak için genellikle yapay zekanın gelecekteki zararlarını vurgular.
AI Now’dan West, gelecekteki zararlara odaklanmanın AI endüstrisi figürleri arasında yaygın bir retorik el çabukluğu haline geldiğini söylüyor. Bu kişiler, genellikle yapay şeylerden bahsederek, “hesap verebilirliği geleceğe doğru konumlandırıyorlar” dedi. genel zeka veya AGI: çeşitli görevlerde insanlardan daha akıllı olan varsayımsal bir yapay zeka sistemi. Bazı uzmanlar aldığımızı öne sürüyor bu tür sistemler oluşturmaya daha yakınancak bu sonuca şiddetle itiraz edilmektedir.
Bu retorik aldatmaca duruşmada barizdi. Devlet lisanslarını tartışırken, OpenAI’den Altman sessizce tüm lisansların yalnızca aşağıdakiler için geçerli olması gerektiğini önerdi: gelecek sistemler. “Lisans şemasının devreye girdiği yer, bu modellerin bugün yapabilecekleri değil.” dedi. “Ama yapay genel zekaya doğru ilerlerken… kişisel olarak böyle bir plana ihtiyacımız olduğunu düşünüyorum.”
Uzmanlar, Kongre’nin (ve Altman’ın) önerilerini olumsuz bir şekilde AB’nin yakında çıkacak olan Yapay Zeka Yasası ile karşılaştırdı. Bu mevzuatın mevcut taslağı, lisanslamaya benzer mekanizmalar içermez, ancak yapay zeka sistemlerini risk düzeylerine göre sınıflandırır ve güvenlik önlemleri ile veri koruması için değişen gereksinimler getirir. Bununla birlikte, daha dikkate değer olan, dijital haklar uzmanlarından övgü toplayan tahmine dayalı polislik algoritmaları ve kitlesel gözetleme gibi bilinen ve mevcut zararlı AI kullanım durumlarının açık yasaklarıdır.
West’in dediği gibi, “Bu sektörde herhangi bir türde anlamlı hesap verebilirlik istiyorsak, konuşmanın yönlendirilmesi gereken yer burasıdır.”