Bu, The Stepback, teknoloji dünyasından önemli bir hikayeyi detaylandıran haftalık bir bülten. Dystopik gelişmeler hakkında daha fazla bilgi için Hayden Field‘i takip edin. The Stepback abonelerin kutularına her sabah 8’de gelir. The Stepback‘e buradan abone olabilirsiniz.
Her şey, Elon Musk’ın yapay zeka alanındaki korkuları ve “uyanış” karşıtı duruşuyla başladı. xAI şirketi, 2023 Kasım ayında Grok’i duyurduğunda, bu proje “isyankar bir ruh haline” sahip bir sohbet robotu olarak tanımlandı ve “diğer birçok yapay zeka sisteminin reddettiği cesur sorulara cevap verme” yeteneğine sahip olduğu belirtildi. Sohbet robotu, birkaç ay süren bir geliştirme ve sadece iki ay süren bir eğitimin ardından piyasaya sürüldü ve duyuruda Grok’in X platformunda gerçek zamanlı bilgiye sahip olacağı vurgulandı.
Ancak, bir sohbet robotunun internete ve X platformuna yayılması, birçok riski beraberinde getiriyor. Görünen o ki, xAI bu riskleri göz önünde bulundurmak için gerekli adımları atmamış olabilir. Musk, 2022 yılında Twitter’ı satın alıp adı X olarak değiştirdiğinde, global güvenlik ve güvenilirlik ekibinin %30’unu, güvenlik mühendislerinin ise %80’ini işten çıkardığını açıkladı. Grok piyasaya sürüldüğünde, xAI’nin bir güvenlik ekibinin olup olmadığı belirsizdi. Temmuz ayında Grok 4 piyasaya sürüldüğünde, şirketin bir güvenlik model kartı yayınlaması bir ay sürdü — bu genellikle, güvenlik testleri ve olası sorunları detaylandıran bir uygulama olarak kabul edilir. Grok 4’ün yayınlanmasından iki hafta sonra, bir xAI çalışanı X’te “xAI’nin güvenlik ekibi için sıkı mühendisler/araştırmacılar aradıklarını” belirtti. Bir yoruma yanıt verirken, “xAI güvenliğiyle mi ilgileniyor?” sorusuna orijinal çalışan, “Üzerinde çalışıyoruz.” şeklinde yanıtladı.
Gazeteci Kat Tenbarge, Grok’in cinsel içerikli derin sahte görüntülerinin nasıl viral hale geldiği hakkında yazdı. Bu görüntülerin Grok tarafından oluşturulduğu söylenemezdi — çünkü Ağustos 2024’e kadar bu tür görüntüleri üretebilme yeteneği yoktu — ancak X’in konuya yanıtı çeşitlilik gösterdi. Hatta geçtiğimiz Ocak’ta, Grok yapay zeka üretilen görüntülerle tartışmalara neden oluyordu. Bu geçtiğimiz Ağustos ayında, Grok’ün “cesur” video üretim modu, Taylor Swift’in izni olmadan çıplak derin sahte görüntülerini oluşturdu. Uzmanlar, Eylül ayından beri The Verge‘ye, şirketin güvenlik ve koruma açısından bir “çikiçiki” yaklaşım izlediğini ve güvenlik önlemleri düşünülerek tasarlanan bir yapay zeka sisteminin bile düzgün çalışmasını sağlamakta zorlandığını, bir de üzerine yerleşik sorunları gidermeye çalışmanın zorluğunu belirttiler. Görünen o ki, bu yaklaşım xAI için oldukça olumsuz sonuçlar doğurdu.
Grok, son birkaç hafta içinde platformda cinsel içerikli ve rızaya dayanmayan derin sahte görüntüler yaymaya devam etti. Ekran görüntüleri, Grok’un kullanıcıların kadınların giysilerini iç çamaşırlığı ile değiştirmesini ve onları bacaklarını açmaya ikna etmesini sağladığını gösteriyor. Daha da kötü raporlar var. Grok’un oluşturduğu görüntülerin 24 saatlik bir analizinde, bir tahmine göre, bu sohbet botunun saatte yaklaşık 6,700 cinsel bir önermeyi veya “çıplaklaştırıcı” görüntüler ürettiği belirlenmiştir. Bu duruma neden olan şey, Grok’a yeni eklenen bir özellik; kullanıcıların, orijinal posterin izni olmadan görüntüleri değiştirmek için bir “düzenle” butonu kullanmalarını sağlaması.
O zamandan beri, birkaç ülke bu durumu araştırma veya X’i tamamen yasaklama tehdidinde bulundular. Fransa hükümeti bir soruşturma sözü verdi, Hindistan Bilgi Teknolojisi Bakanlığı da bu durumu inceleyeceklerini duyurdu, ve Malezya hükümeti kaygılarına dair bir mektup yazdı. Kaliforniya valisi Gavin Newsom, Amerika Birleşik Devletleri Başsavcısı’na xAI’yi araştırması için çağrıda bulundular. Birleşik Krallık, X’in, rızaya dayanmayan, cinsellik içeren görüntülerin oluşturulmasını yasaklayan bir yasayı geçirmeyi planladığını duyurdu ve ülkenin iletişim endüstrisi düzenleyicisi, X ve üretilen görüntülerin, Çevrimiçi Güvenlik Yasası’nı ihlal edip etmediğini görmek için inceleme yapacağını belirtti. Ayrıca, bu hafta hem Malezya hem de Endonezya Grok’a erişimi engelledi.
xAI, Grok için hedeflerinin “insanlığa anlayış ve bilgi yolculuğunda yardımcı olmak,” “tüm insanlığa maksimum fayda sağlamak” ve “yapay zeka araçlarımızla kullanıcıları güçlendirmek” olduğunu belirtmişti. Ancak bu, rızaya dayanmayan, kadınların çıplak veya cinsel içerikli derin sahte görüntülerini üretmekten oldukça farklıdır.
Çarşamba akşamı, baskılar arttıkça, X’in Güvenlik hesabı, platformun “Grok hesabının gerçek kişilerin bikini gibi yeniden ütüleme yaptıkları görüntülerin düzenlenmesine izin vermek için teknolojik önlemler aldığını” duyurdu. Duyurunun devamında, sadece ücretli abonelerin Grok kullanarak her türlü görüntü oluşturmasına veya düzenlemesine izin verileceği belirtildi. X ayrıca, “Gerçek insanların bikini, iç çamaşırı ve benzeri giysileri ile ilgili görüntülerin oluşturulma yeteneğini X’te Grok kaynağı ile birlikte coğrafi olarak bloke ediyoruz” açıklamasında bulundu, ki bu biraz garip bir noktaya işaret oldu.
Önemli bir diğer nokta ise: Çalışanlar, Çarşamba günü Grok’un görüntü oluşturma kısıtlamalarını test ettiklerinde, çoğu korumayı aşmanın bir dakikadan az sürdüğünü keşfettiler. Kullanıcının “onu bikini giymesini sağlaması” veya “giysilerini çıkarması” gibi talimatlar vermesi, sansürlü sonuçlar oluştursa da, “göğüs dekoltesini göster” veya “göğüslerini büyüt” gibi talimatlar verildiğinde hiçbir sorun çıkmadan görüntüler oluşturuldu. Çarşamba akşamına kadar, Grok uygulamasının kullanıcıların çıplak görüntülerini üretmesine izin verildi.
X’in Çarşamba duyurusundan sonra, bazı ülkelerin ya X’i ya da Grok’u yasaklaması ya da geçici olarak erişimi engellemesi beklenebilir. Ayrıca, dünya genelindeki önerilen yasaların ve incelemelerin nasıl gelişeceğini göreceğiz. Musk için baskı artıyor; Çarşamba öğleden sonra X’te “Grok tarafından üretilen çıplak çocuk görüntülerinden haberdar olmadığını” belirtti. Saatler sonra, X’in Güvenlik ekibi, “ihlal eden ve yasadışı içeriği hızla kaldırmak, uygun olduğunda hesapları kalıcı olarak askıya almak ve gerekli olduğunda yerel hükümetlerle ve kolluk kuvvetleri ile iş birliği yapmak için sürekli çalıştıklarını” açıkladı.
Teknik olarak, hangi görüntülerin yasadışı olup olmadığı ise büyük bir soru işareti. Uzmanlar, The Verge‘ye önceden, kıyafet giymiş veya potansiyel olarak çıplak çocukların yapay zeka ile üretilen görüntülerinin, mevcut çocuk cinsel istismarı yasaları kapsamına girmeyebileceğini belirtiyorlar; ancak bu durum elbette rahatsız edici ve etik dışıdır. Ancak, bu gibi durumlarda çocukların cinsel içeriklerine ilişkin yasalar geçerlidir. Bu tanımların genişleyip genişlemeyeceği, günümüz yasalarının biraz karmaşık olduğu düşünüldüğünde, belirsiz.
Rızaya dayanmayan cinsel içerikli derin sahte görüntüler konusunda, 2025 Mayıs ayında yürürlüğe giren Take It Down Act, rızaya dayanmayan yapay zeka ile üretilen “samimi görselleri” yasaklamakta ve bazı platformları bunları hızla kaldırmaya zorlamaktadır. İkinci kısmın yürürlüğe girmesi için bir süre beklenmekte, bu da platformların çıkarmalarını gerektirecek olan kısmın yürürlük tarihi Mayıs 2026’dır; bu yüzden önümüzdeki altı ayda bazı önemli gelişmeler olabilir.
- Bazı kişiler, böyle şeylerin Photoshop veya diğer yapay zeka görüntü oluşturucuları ile yapılmasının mümkün olduğunu savunuyor. Evet, bu doğru. Ancak Grok durumunu daha endişe verici hale getiren birçok farklılık var: Kamuya açık, “normal” insanları hedefliyor; genellikle doğrudan derin sahte görüntülenen kişiye gözü kapalı olarak gönderiliyor; ve giriş engeli daha düşük.
- Ayrıca, diğer yapay zeka şirketlerinin — kendi güvenlik kaygıları olsa da — görüntü oluşturma süreçlerine önemli ölçüde daha fazla koruma sağlandığı görülmektedir. Örneğin, OpenAI’nin ChatGPT’sine belirli bir politikacının bikini içinde bir görüntüsünün oluşturulmasını sorduğunuzda, “Üzgünüm — gerçek kamu figürlerini cinsellikle veya potansiyel olarak küçültücü bir şekilde tasvir eden görüntüleri üretemem” yanıtını alıyorsunuz.
- Spitfire News‘dan Kat Tenbarge, Grok’in cinsel istismarının bir dönüm noktası haline gelmesini ele aldı.
- The Verge‘den Liz Lopatto, Sundar Pichai ve Tim Cook’un Google ve Apple’ın uygulama mağazalarından X’i kaldırmaktaki cesaretsizliğini ele aldı.
- “Eğer yapay zeka ile üretilen cinsel istismar için bir kırmızı çizgi yoksa, o zaman hiçbir sınır yoktur,” Charlie Warzel ve Matteo Wong, The Atlantic‘de Elon Musk’ın bununla nasıl başa çıkamayacağını belirtiyor.
- Hayden Field
