Herkes çevrimiçi dezenformasyonun büyük bir sorun olduğunu biliyor; parçalanmış topluluklarseçimleri manipüle etti ve küresel nüfusun belirli kesimlerinin akıllarını kaybetmek. Elbette hiç kimse bu sorunu gerçekten çözmekle ilgilenmiyor gibi görünüyor. Aslında kurumlar en sorumlu çevrimiçi dezenformasyon için (ve dolayısıyla bu konuda bir şeyler yapmak için en iyi konumda olanlar), yani teknoloji şirketleri, sorunu katlanarak daha da kötüleştirmek için ellerinden geleni yapmaya kararlı görünüyor.
Örnek olay: OpenAI Sora’yı başlattı, yeni metinden videoya oluşturucusu Perşembe günü. Model, web kullanıcılarının yalnızca bir metin istemiyle yüksek kaliteli yapay zeka videoları oluşturmasına olanak tanıyacak şekilde tasarlandı. Uygulama şu anda tuhaf görsel imge çeşitliliğiyle interneti hayrete düşürüyor; Çin Yeni Yılı geçit törenikaranlıkta koşu bandında geriye doğru koşan bir adam, yatakta bir kediveya iki korsan gemisi bir kahve fincanının içinde dönüp duruyorum.
Bu noktada, “dünyayı değiştirme” misyonuna rağmen OpenAI’nin internete en büyük katkısının, sayısız terabaytlık dijital saçmalığın anında üretilmesi olduğu söylenebilir. Şirketin tüm açık ve halka açık araçları içerik oluşturuculardır; uzmanlar uyardıdolandırıcılık ve dezenformasyon kampanyalarında kullanılmak üzere hazırlanmıştır.
onun içinde Blog yazısı Sora ile ilgili olarak OpenAI ekibi, yeni uygulamalarının bazı potansiyel dezavantajları olabileceğini açıkça kabul ediyor. Şirket, oluşturucusunun oluşturduğu içeriği işaretlemek için bazı filigran teknolojileri üzerinde çalıştığını ve Sora’nın daha az zehirli hale getireceği AI tarafından üretilen kaçınılmaz saçmalık tufanının nasıl yapılacağını bulmak için bilgili kişilerle arayüz oluşturma sürecinde olduğunu söyledi. Sora henüz halka açık değil ve bu arada OpenAI, şiddet içeren veya cinsel görüntüler oluşturmak isteyen kullanıcıları engelleyecek sistemler oluşturduğunu söylüyor. Açıklamada şunlar belirtiliyor:
Kaygılarını anlamak ve bu yeni teknolojinin olumlu kullanım örneklerini belirlemek için dünyanın dört bir yanındaki politika yapıcılar, eğitimciler ve sanatçılarla iletişime geçeceğiz. Kapsamlı araştırma ve testlere rağmen, insanların teknolojimizi kullanacakları tüm yararlı yolları veya onu kötüye kullanacakları tüm yolları tahmin edemiyoruz.
Sorunun bu şekilde çerçevelenmesi oldukça komik çünkü OpenAI’nin yeni aracının potansiyel olarak nasıl suistimal edilebileceği zaten tamamen açık. Sora devasa ölçekte sahte içerik üretecek; bu çok açık. Görünüşe göre bu içeriğin bir kısmı çevrimiçi siyasi dezenformasyon amacıyla kullanılacak, bir kısmı varsayımsal olarak çeşitli dolandırıcılık ve dolandırıcılıklara yardımcı olmak için kullanılacak ve bir kısmı da toksik içerik oluşturmak için kullanılabilir. OpenAI, şiddet ve cinsel içeriğe anlamlı sınırlamalar getirmek istediğini söyledi ancak web kullanıcıları ve araştırmacılar ne kadar anlayışlı olabileceklerini gösterdi jailbreak yapan AI sistemlerinde şirketlerin kullanım politikalarına uymayan içerik türleri oluşturmak. Tüm bu Sora içeriği açıkça sosyal medya kanallarını dolduracak, sıradan insanların neyin gerçek neyin sahte olduğunu ayırt etmesini zorlaştıracak ve genel olarak interneti çok daha sinir bozucu hale getirecek. Bunu anlamak için küresel bir uzmanlar panelinin gerekli olduğunu düşünmüyorum.
Başka bariz olumsuzluklar da var. Öncelikle Sora ve benzerleri büyük bir çevresel etkiye muhtemelen sahip olmayacak. Araştırmacılar, metinden görüntüye dönüştürücülerin çevre açısından bakıldığında metin oluşturuculardan önemli ölçüde daha kötüdür, Sadece bir AI görüntüsü oluşturmak, akıllı telefonunuzu tamamen şarj etmekle aynı miktarda enerji gerektirir. Başka bir deyişle, yeni metinden videoya dönüştürme teknolojileri muhtemelen video yaratıcısı ekonomisine zarar verecektir; çünkü bir video oluşturmak için gerekli olan tek şey bir düğmeye tıklamak iken şirketler neden görsel içerik yapmaları için insanlara para ödesin?
Bu ülkedeki kurumsal sınıf söz konusu olduğunda para dışında hiçbir şeyin önemi yok. Çevreyi sikeyim, sanatçıları sikeyim, dezenformasyon içermeyen interneti sikeyim, politik söylemin sağlığını sikeyim, kâr amacının önüne geçen her şeyi sikeyim. Para kazanmak için sıkıştırılabilen her şey sıkıştırılmalıdır; bu, tek gerçek faydası ejderhaya binen bir kovboy hamsterinin videosunu oluşturmak olan bir yazılım programı olsa bile. Gibi one X kullanıcısı bunu koydu: “Bu moronların uğruna çevreyi feda ettikleri şey. Aptal. Bok. Beğenmek. Bu.”