Pop yıldızı Taylor Swift’in açık deepfake görüntülerinin sosyal medya platformlarında ortaya çıkmasının ardından, yapay zeka görüntü üretimi alanına yatırım yapan teknoloji şirketleri, daha fazla tartışmayı önlemek için hızla radikal değişiklikler uygulamaya koydu.
ChatGPT ve Copilot’un yetenekleri sansür sonrası oldukça sınırlı görünse de, X’in Grok’u “sınıfının şimdiye kadarki en temel ve sansürsüz modeli” olarak tanıtıldı. Elon Musk bile “Grok dünyadaki en eğlenceli yapay zeka” diyor.
Grok AI’nın erişilebilirliği, aylık 8 dolarlık ücretli bir aboneliğin arkasında gizlidir ve bu da onu X premium plus ve premium abonelerle sınırlar.
Milyarder ve X sahibi Elon Musk, X’in Grok AI’sı için vizyonunu tutkuyla paylaştı ve bunun “Aralık ayına kadar her ölçüte göre en güçlü AI” olacağını belirtti. Aracın, dünyanın en güçlü AI kümesi kullanılarak eğitildiği ve bunun daha büyük seviyelere ulaşmasına olanak tanıyabileceği, potansiyel olarak ChatGPT, Copilot ve daha fazlasıyla eşit şartlarda rekabet edebilmesine olanak tanıyabileceği bildirildi.
Grok, ABD seçimleri hakkında yanlış bilgi yayma konusunda düzenleyicilerle yakın zamanda karşı karşıya gelmesine rağmen, rakiplerine göre daha hoşgörülü görünüyor.
İLGİLİ: Wyoming Belediye Başkanlığı adayı, özel bir yapay zeka sohbet robotu kullanarak yerel yönetimi yönetmeyi planlıyor
X’te Grok tarafından oluşturulan içeriklere sık sık rastlıyorum ve dürüst olmak gerekirse, önceden belirlenmiş feragatnameler olmadan bunların sahte olduğunu söylemezdim.
Grok 2.0 kontrolden çıktı. İnsanlar ne kadar sansürsüz olduğuna inanamıyor. En çılgın 10 örnek: 1. The Hustle pic.twitter.com/UpH4uFkbrJ23 Ağustos 2024
Copilot’u sıklıkla kullanıyorum ancak görüntü oluşturma yetenekleri Grok’unkine kıyasla oldukça sınırlı.
Grok çok sert bir şekilde dava edilecek itibaren r/YeterinceMuskSpam
Örneğin, Copilot’u şu şekilde yönlendirmek: Donald J. Trump’ın bir bankayı soyduğuna dair bir görüntü oluşturmak kısıtlanmıştırCopilot’a göre:
“Üzgünüm, seçimler hakkında sohbet etmek için eğitilmediğim çok karmaşık bir konu. Yardımcı olabileceğim başka bir şey var mı?”
Garip bir şekilde, chatbot istenen resmi oluşturmayı kategorik olarak reddederken, istemime göre onu daha da ince ayar yapmak için öneriler sunuyor. İlginç bir şekilde, istemime ilham veren şey Grok tarafından oluşturulmuş bir resim ve video.
Kullanıcılar, Grok’un sansürsüz yapısı hakkında endişelerini paylaştı ve güldü. Hatta bazı kullanıcılar iddia“Yapay zekayı harekete geçiren insanlar kontrolden çıktı, bu yüzden insanların kendi kendini sansürlemesi gerekiyorsa, yapay zeka buna gerek duymamalı.”
Grok seçim propagandası yapıyor
Seçimler ve birkaç aksilik hakkındaki yanlış bilgilendirmenin yanı sıra, Grok sorulara doğru yanıtlar ve bilgiler üretiyor gibi görünüyor. Belki de bu, chatbot’un erişebildiği muazzam veri yığınlarına bağlanabilir.
Geçtiğimiz ay, kullanıcılar X için yeni bir güncellemeyle ilgili bir sorun bildirdi. Platformun, varsayılan olarak verilerini kullanarak AI modelini eğitmesine gizlice izin verdi. Değişiklik platforma sessizce sunuldu ve varsayılan olarak etkinleştirildi. Özelliği devre dışı bırakma yeteneği web uygulamasıyla sınırlıydı ve bu da mobil kullanıcıların bunu kapatmasını zorlaştırıyordu.
X’in büyük veri yığınlarını elemek veya gerçek bilgileri belirlemek için hangi formülü kullandığı belirsiz. Belki de en çok izlenime sahip tweet’leri ve topluluk notlarından gelen destekleyici bilgileri kullanıyor.
X’in, kullanıcıların içeriklerini rızaları olmadan sohbet robotunu eğitmek için neden kullandığı sorulduğunda omuz silktiği bildirildi. Bu amaçla, platform eylemleri için yasal bir temel oluşturamazsa küresel yıllık cirosunun %4’üne kadar para cezasına çarptırılma riskiyle karşı karşıyadır.
Artık neyin gerçek olduğunu anlayabiliyor musun?
Yapay zekadaki hızlı ilerlemelerle, yapay zeka tarafından üretilen içerikten gerçek olanı ayırt etmek giderek daha da zorlaşıyor. Öyle ki Microsoft Başkan Yardımcısı ve Başkanı Brad Smith, kullanıcıların yapay zeka tarafından üretilen içeriği belirlemedeki yeterliliklerini artırmalarına yardımcı olmak için yakın zamanda realornotquiz.com adlı yeni bir web sitesi paylaştı.
Eski Twitter CEO’su ve kurucu ortağı Jack Dorsey, önümüzdeki on yıl içinde neyin gerçek neyin sahte olduğunu ayırt etmenin imkansız olacağını söylüyor. Dorsey, “Güvenmeyin; doğrulayın. Bunu kendiniz deneyimlemelisiniz,” diye ekledi. “Ve kendiniz öğrenmelisiniz. Önümüzdeki beş veya 10 yıl içinde bu zamana girerken, görsellerin oluşturulma şekli, derin sahteler ve videolar nedeniyle bu çok kritik olacak; gerçek ve sahte olanın ne olduğunu tam anlamıyla bilemeyeceksiniz.”
Bu durum özellikle Microsoft’un Tasarımcı Tarafından Görüntü Oluşturucusu gibi gelişmiş yapay zeka modelleri için geçerlidir. DALL-E3ve ChatGPT. Bu araçlar, metin istemlerine dayalı karmaşık görüntüler ve yapısal tasarımlar oluşturmada olağanüstü derecede iyidir ve potansiyel olarak inşa edilmiş çevre alanındaki profesyonelleri işsiz bırakabilir. Ancak, ayrı bir rapor, bu araçların karmaşık tasarımlar oluşturmada harika olsa da, düz beyaz bir görüntü oluşturma gibi basit görevlerde başarısız olduklarını belirtti.
Microsoft ve OpenAI, AI görüntü oluşturma araçlarını nispeten sansürlediler ve görünüşe göre yeteneklerini genel kreasyonlara indirgediler. Anlaşılabilir bir şekilde, bu, sosyal medya platformlarını dolduran ve genellikle gerçek göründükleri için gerçek olarak algılanan deepfake’lerin artan sayısına bağlanabilir.
Deepfake’ler büyük tehlike arz ediyor ve ABD Başkanlık seçimlerine yaklaşırken yanlış bilgi yayma konusunda becerikli araçlar. Copilot’un seçimler hakkında yanlış bilgi ürettiği birkaç örneği inceleyen bir araştırmacı, sorunun sistemsel.
Ancak Microsoft CEO’su Satya Nadella, şirketin ABD başkanlık seçimlerini yapay zeka tarafından yapılan deepfake’lerden ve yanlış bilgilerden korumak için filigran ve içerik kimlikleri de dahil olmak üzere yeterli araçlara sahip olduğunu söylüyor.