Bu Haftanın Manşetleri
- Meta’nın geçen hafta piyasaya sürülen yapay zeka tarafından oluşturulan çıkartmaları zaten kargaşaya neden oluyor. Kullanıcılar, bunları Elon Musk’un göğüsleri, çocuk askerlerin yer aldığı görüntüler ve Disney karakterlerinin kana susamış versiyonları gibi müstehcen görüntüler oluşturmak için kullanabileceklerini kısa sürede fark etti. Microsoft Bing’in, kullanıcıların ünlülerin ve video oyunu karakterlerinin resimlerini oluşturma eğilimini başlatan görüntü oluşturma özelliği için de aynı şey geçerli. 11 Eylül saldırılarını gerçekleştirmek.
- San Francisco’da bir Cruise robotaksisinin çarpması sonucu bir kişi daha yaralandı. Kurbana başlangıçta insan gücüyle çalışan bir araba çarptı, ancak daha sonra otomatik araç tarafından ezilmek, onun üzerinde durdu ve çığlıklarına rağmen kıpırdamayı reddetti. Tamamı böyle görünüyor “Yol güvenliğini artırma” Sürücüsüz otomobil şirketlerinin misyon bildirgesinde yaptıkları şey henüz tam anlamıyla sonuç vermiyor.
- Son fakat bir o kadar da önemli: yeni bir rapor, yapay zekanın tüm dünyada otokratik hükümetler tarafından halihazırda silah haline getirildiğini gösteriyor. Özgürlük evi ortaya çıkardı liderlerin muhalefeti bastırmak ve çevrimiçi dezenformasyonu yaymak için yeni yapay zeka araçlarından yararlandığı. Bu haftaki röportajımız için raporla bağlantılı araştırmacılardan biriyle röportaj yaptık.
En Önemli Hikaye: Yapay Zekanın Yaratıcı Darbesi
Üretken yapay zeka endüstrisinin arkasındaki abartılı adamlar bunu kabul etmekten nefret etseler de, ürünleri ne özellikle üretken ne de özellikle akıllıdır. Bunun yerine, ChatGPT ve DALL-E gibi platformların yoğun bir güçle ortaya çıkardığı otomatik içerik, daha doğru bir şekilde türevsel bir ürün olarak nitelendirilebilir; insan sanatçılar ve yazarlar tarafından yaratılan binlerce gerçek yaratıcı eserin algoritmik püresinin kusması. Kısacası: Yapay zeka “sanatı” sanat değildir; yalnızca yazılım tarafından üretilen ve kolay kurumsal entegrasyon için tasarlanmış sıkıcı bir ticari üründür. Federal Ticaret Komisyonu işitmesanal olarak canlı web yayını aracılığıyla gerçekleştirilen bu gerçeği fazlasıyla açık bir şekilde ortaya koydu.
Bu haftanın “Yaratıcı Ekonomi ve Üretken Yapay Zeka” başlıklı oturumu, çeşitli yaratıcı mesleklerden temsilcilere, endüstrilerini kasıp kavuran son teknolojik bozulma hakkındaki endişelerini ifade etme fırsatı vermek için tasarlandı. Her kesimden yankılanan çağrı, işçileri korumaya yönelik etkili düzenleme yapılması yönündeydi.
Bu arzu Bu eyleme muhtemelen en iyi örnek, şu anda OpenAI’ye karşı açılan toplu davada davacı olarak listelenen düzinelerce yazardan biri olan Douglas Preston tarafından verilmiştir. şirketin algoritmalarını eğitmek için materyallerini kullanması. Açıklamaları sırasında, Preston dikkat “ChatGPT, kitaplarımız olmadan yetersiz ve işe yaramaz olurdu” ve şunu ekledi: “Sadece web bloglarından, görüşlerden, kedi hikayelerinden, pornografiden ve benzerlerinden alınan metinler üzerinde eğitilmiş olsaydı nasıl olurdu bir düşünün.” Son olarak şunları söyledi: “Bu bizim hayatımızın işi, kalbimizi ve ruhumuzu kitaplarımıza döküyoruz.”
Sanatçıların sorunu oldukça hoş görünüyor açık: nasıllar Büyük şirketlerin yapay zekayı onların yerini almak için kullanabildiği veya daha doğrusu, yaratıcı hizmetlerin büyük bölümünü otomatikleştirerek fırsatlarını ve pazarlık gücünü azaltabildiği bir pazarda hayatta kalacaklar?
Bu arada yapay zeka şirketlerinin sorunu, OpenAI gibi şirketlerin sanatçı/yazar/müzisyen değiştirme algoritmalarını eğitmek için kullandığı anlatılmamış baytlarca özel eser söz konusu olduğunda çözülmemiş yasal soruların var olmasıdır. Arkasındaki şirket yayınlanmış yazarlardan ve görsellerden onbinlerce sayfayı silip süpürmeseydi, ChatGPT bir düğmeye tıklayarak şiirler ve kısa öyküler üretemezdi ve DALL-E de tuhaf görüntülerini ortaya çıkarma kapasitesine sahip olamazdı. sanatçılar. O halde yapay zeka endüstrisinin geleceği – ve aslında insan yaratıcılığının geleceği – şu anda ABD mahkeme sisteminde ortaya çıkan devam eden bir tartışma tarafından belirlenecek.
Görüşme: Allie Funk, Yapay Zekanın Otokrasiler Tarafından Nasıl Silahlandırıldığını Anlatıyor
Bu hafta Freedom House’un Teknoloji ve Demokrasi Araştırma Direktörü Allie Funk ile konuşmanın mutluluğunu yaşadık. Tüm dünyada sivil özgürlükler ve insan haklarıyla bağlantılı konuları takip eden Freedom House, geçtiğimiz günlerde internet özgürlüğünün durumuyla ilgili yıllık raporunu yayınladı. Bu yıllar rapor yeni geliştirilen yapay zeka araçlarının otokratik hükümetlerin sansüre, dezenformasyona ve dijital özgürlüklerin genel olarak bastırılmasına yönelik yaklaşımlarını nasıl güçlendirdiğine odaklandı. Tahmin edebileceğiniz gibi bu departmanda işler pek iyi gitmiyor. Bu röportaj netlik ve kısalık sağlamak amacıyla hafifçe düzenlenmiştir.
Raporda bahsettiğiniz kilit noktalardan biri yapay zekanın hükümet sansürüne nasıl yardımcı olduğu. Bu bulguları biraz açabilir misiniz?
Bulduğumuz şey, yapay zekanın hükümetlerin sansüre yönelik yaklaşımlarını geliştirmelerine gerçekten olanak sağladığıdır. Özellikle Çin hükümeti, bilgi üzerindeki kontrollerini güçlendirmek için chatbotları düzenlemeye çalıştı. Bunu iki farklı yöntemle yapıyorlar. Birincisi, Çin vatandaşlarının ABD merkezli şirketler tarafından oluşturulan sohbet robotlarına erişememesini sağlamaya çalışıyorlar. Çin’deki teknoloji şirketlerini, ChatGPT’yi ürünlerine entegre etmemeye zorluyorlar… Ayrıca kendi botlarının eğitim verilerine sansür kontrollerini yerleştirebilmeleri için kendi başlarına sohbet robotları oluşturmaya da çalışıyoruz. Hükümet düzenlemeleri, Baidu’nun sohbet robotu Ernie’nin eğitim verilerinin ÇKP’nin (Çin Topluluk Partisi) istekleriyle uyumlu olmasını ve sosyalist propagandanın temel unsurlarıyla uyumlu olmasını gerektiriyor. Eğer onunla oynarsanız bunu görebilirsiniz. Tiananmen Meydanı katliamıyla ilgili çağrılara yanıt vermeyi reddediyor.
Dezenformasyon da bahsettiğiniz başka bir alan. Yapay zekanın bu alana ne yaptığını biraz açıklayın.
Bu raporları yıllardır hazırlıyoruz ve açık olan şu ki, hükümetin dezenformasyon kampanyaları bugünlerde bilgi alanının sıradan bir özelliği. Bu yılki raporda, 70 ülkeden en az 47 hükümetin, çevrimiçi tartışmayı manipüle etmeye çalışmak için aldatıcı veya gizli taktikler kullanan yorumcuları görevlendirdiğini tespit ettik. Bunlar [disinformation] ağlar uzun süredir var. Birçok ülkede oldukça karmaşıktırlar. Bu tür kampanyaları desteklemek için tam bir kiralık hizmet pazarı ortaya çıktı. Yani sizin için çalışması için bir sosyal medya etkileyicisini veya benzer bir aracıyı kiralayabilirsiniz ve hükümetler için bu tür işleri yapan pek çok şüpheli PR firması vardır.
Yapay zekanın uzun zamandır tüm bu dezenformasyon sürecinin bir parçası olduğunu kabul etmenin önemli olduğunu düşünüyorum. Kışkırtıcı veya güvenilmez bilgileri yaymak için uzun süredir kullanılan platform algoritmalarınız var. Bu kampanyaların yayılmasını kolaylaştırmak için sosyal medyada kullanılan botlarınız var. Yani yapay zekanın dezenformasyonda kullanımı yeni değil. Ancak üretken yapay zekanın yapmasını beklediğimiz şey, dezenformasyon pazarına giriş engelini azaltmaktır çünkü çok uygun fiyatlı, kullanımı kolay ve erişilebilirdir. Bu alandan bahsettiğimizde sadece chatbotlardan bahsetmiyoruz; aynı zamanda görüntü, video ve ses üretebilen araçlardan da bahsediyoruz.
Yapay zekanın çevrimiçi ortamda yapabileceği zararları azaltmak için ne tür düzenleyici çözümlere bakılması gerektiğini düşünüyorsunuz?
İnternet politikasıyla ilgili son on yılda yapılan tartışmalardan yapay zekaya uygulanabilecek pek çok ders olduğunu düşünüyoruz. İnternet özgürlüğü konusunda halihazırda sunduğumuz tavsiyelerin çoğu, konu yapay zekayla mücadeleye geldiğinde faydalı olabilir. Dolayısıyla, örneğin hükümetlerin özel sektörü, ürünlerinin nasıl tasarlandığına ve insan haklarına etkilerinin ne olduğu konusunda daha şeffaf olmaya zorlaması oldukça faydalı olabilir. Bu arada platform verilerinin bağımsız araştırmacılara devredilmesi de yaptığımız bir başka kritik öneridir; bağımsız araştırmacılar platformların toplumlar üzerindeki etkisinin ne olduğunu, insan hakları üzerinde ne gibi etkileri olduğunu inceleyebilirler. Gerçekten tavsiye edeceğim diğer şey ise gizlilik düzenlemesinin güçlendirilmesi ve sorunlu gözetim kurallarının yeniden düzenlenmesidir. Daha önce incelediğimiz şeylerden biri hükümetlerin yapay zeka gözetim araçlarını kötüye kullanamayacağından emin olmak için yapılan düzenlemelerdi.
Hepsini yakalayın Gizmodo’nun yapay zeka haberleri buradaveya bakın en son haberler burada. Günlük güncellemeler için, ücretsiz Gizmodo bültenine abone olun.