Bu Haftanın Manşetleri
- Dünyanın her yerindeki tembel ofis çalışanları için kesinlikle hoş karşılanacak bir haber: Artık Google’a sahip olmak için ayda 30 ABD doları ödeyebilirsiniz. Düet AI email Yaz senin için.
- Google ayrıca AI görüntü oluşturma yan kuruluşlarından biri için bir filigran aracı olan SynthID’yi de piyasaya sürdü. Bunun neden iyi bir haber olabileceği (veya olmayabileceği) konusunda bir bilgisayar bilimi profesörüyle röportaj yaptık.
- Son fakat bir o kadar da önemli: Artık hükümete, yapay zeka araçlarıyla ilgili telif hakkı sorunları hakkında ne düşündüğünüzü söyleme şansınız var. ABD Telif Hakkı Bürosu resmi olarak açıldı kamu yorumu. Web sitesindeki portalı kullanarak yorum gönderebilirsiniz.
En Önemli Hikaye: Schumer’in Yapay Zeka Zirvesi
Chuck Schumer duyurdu gelecek düzenlemelere yön verebilecek girdileri toplamak amacıyla ofisinin bu ayın sonlarında yapay zeka alanındaki en iyi oyuncularla buluşacağını söyledi. Senato Çoğunluk lideri olarak Schumer, ortaya çıkması durumunda federal düzenlemelerin gelecekteki şeklini yönlendirme konusunda önemli bir güce sahip. Ancak bu toplantıya katılan kişiler sıradan insanı tam olarak temsil etmiyor. Yaklaşan zirveye bir zamanlar teknoloji milyarderi olan Elon Musk davet edildi. varsayımsal fikir tartışması ortağı Silikon Vadisi’nin üst kademelerinden diğer büyük isimlerin yanı sıra Meta CEO’su Mark Zuckerberg, OpenAI CEO’su Sam Altman, Google CEO’su Sundar Pichai, NVIDIA Başkanı Jensen Huang ve savunma yüklenicisi Cree Palantir’in CEO’su Alex Karpy.
Schumer’in ofisinin “Yapay Zeka İçgörü Forumu” olarak adlandırdığı yaklaşan toplantısı şunu gösteriyor gibi görünüyor: bazı Konuk listesine (bir grup kurumsal akbaba) bakıldığında, bir tür düzenleyici eylem üzerinde çalışılıyor olabilir, ancak bu eylemin mutlaka yeterli olacağı söylenemez.
Schumer ile toplantıya katılacak kişilerin listesi gönemli eleştiriler aldı çevrimiçi olarak bunu kurumsal oyuncuların kim olduğunu gerçek olarak görenlerden. Ancak Schumer’in ofisi Senatörün ayrıca buluşacak Toplantıya başkanı Liz Schuler’in de katılacağı, Amerika’nın en büyük sendikalar federasyonu olan AFL-CIO da dahil olmak üzere bazı sivil haklar ve işçi liderleriyle birlikte katılacağız. Yine de bu kapalı kapı buluşmasını, teknoloji endüstrisinin Amerika’nın en güçlü politikacılarından birine düzenleyici hoşgörü için yalvarması için bir fırsat olarak görmemek zor. Chuck’ın daha iyi meleklerini dinleyecek cesarete sahip olup olmadığını ya da omuzlarına tüneyip tatlı sözler fısıldayan paraya boğulmuş şeytanlara boyun eğip boyun eğmeyeceğini yalnızca zaman gösterecek.
Günün Sorusu: SynthID’nin Sonu Ne?
Gibi üretken yapay zeka ChatGPT ve DALL-E gibi araçların popülaritesi hızla artarken, eleştirmenler, kullanıcıların sahte metin ve görseller oluşturmasına olanak tanıyan sektörün büyük miktarda çevrimiçi dezenformasyon üreteceğinden endişe ediyor. Sunulan çözüme şöyle bir şey denir: filigran eklemeAI içeriğinin oluşturulduktan sonra otomatik ve görünmez bir şekilde dahili bir tanımlayıcıyla damgalandığı ve daha sonra sentetik olarak tanımlanmasına olanak tanıyan bir sistem. Bu hafta Google’ın DeepMind’ı, bu göreve yardımcı olacağını söylediği bir filigran aracının beta sürümünü başlattı. SynthID DeepMind müşterileri için çalışmak üzere tasarlanmıştır ve oluşturdukları varlıkları sentetik olarak işaretlemelerine olanak tanır. Ne yazık ki Google, uygulamayı isteğe bağlı hale getirdi; bu, kullanıcıların istemedikleri takdirde içeriklerini damgalamak zorunda kalmayacağı anlamına geliyor.
Röportaj: Yapay Zeka Filigranlamanın Vaatleri ve Tuzakları Üzerine Florian Kerschbaum
Bu hafta Waterloo Üniversitesi David R. Cheriton Bilgisayar Bilimleri Okulu’nda profesör olan Dr. Florian Kerschbaum ile konuşmanın mutluluğunu yaşadık. Kerschbaum, üretken yapay zekada filigranlama sistemlerini kapsamlı bir şekilde inceledi. Florian’a Google’ın yakın zamanda başlattığı SynthID’yi ve bunun doğru yönde atılmış bir adım olup olmadığını sormak istedik. Bu röportaj kısa ve net olması amacıyla düzenlendi.
AI filigranlamanın nasıl çalıştığını ve amacının ne olduğunu biraz açıklayabilir misiniz?
Filigranlama temel olarak, doğru anahtarı biliyorsanız daha sonra çıkarabileceğiniz belirli bir ortamın içine gizli bir mesaj yerleştirerek çalışır. Varlık bir şekilde değiştirilse bile bu mesaj korunmalıdır. Örneğin, resimler söz konusu olduğunda, onu yeniden ölçeklendirirsem, parlaklaştırırsam veya başka filtreler eklersem, mesajın yine de korunması gerekir.
Bazı güvenlik eksiklikleri olabilecek bir sistem gibi görünüyor. Kötü bir oyuncunun filigran sistemini kandırabileceği durumlar var mı?
Görüntü filigranları çok uzun zamandır var. 20-25 yıldır ortalıktalar. Temel olarak, eğer algoritmayı biliyorsanız mevcut sistemlerin tümü aşılabilir. Yapay zeka tespit sisteminin kendisine erişiminiz olsa bile bu yeterli olabilir. Bu erişim bile sistemi kırmak için yeterli olabilir, çünkü bir kişi basitçe bir dizi sorgulama yapabilir ve sistem sonuçta varlığı artık tanımayana kadar görüntüde sürekli olarak küçük değişiklikler yapabilir. Bu, genel olarak AI tespitini kandırmak için bir model sağlayabilir.
Yanlış bilgiye veya dezenformasyona maruz kalan ortalama bir kişi, haber akışına giren her içeriği filigranlı olup olmadığını kontrol etmek zorunda olmayacaktır. Bu, ciddi sınırlamaları olan bir sistem gibi görünmüyor mu?
Yapay zeka tarafından oluşturulan içeriği belirleme sorunu ile sahte haberlerin yayılmasını kontrol altına alma sorununu birbirinden ayırmamız gerekiyor. Bunlar, yapay zekanın sahte haber yaymayı çok daha kolay hale getirmesi açısından birbiriyle bağlantılıdır, ancak sahte haberleri manuel olarak da oluşturabilirsiniz ve bu tür içerikler böyle bir yazılım tarafından asla tespit edilmeyecektir. [watermarking] sistem. Bu yüzden sahte haberleri farklı ama bağlantılı bir sorun olarak görmeliyiz. Ayrıca her platform kullanıcısının kontrol etmesi kesinlikle gerekli değildir. [whether content is real or not]. Varsayımsal olarak Twitter gibi bir platform sizi otomatik olarak kontrol edebilir. Mesele şu ki, Twitter’ın aslında bunu yapmak için hiçbir teşviki yok çünkü Twitter sahte haberleri etkili bir şekilde ortadan kaldırıyor. Sonuçta yapay zeka tarafından oluşturulan içeriği tespit edebileceğimizi düşünsem de bunun sahte haber sorununu çözeceğine inanmıyorum.
Filigranın yanı sıra sentetik içeriğin belirlenmesine yardımcı olabilecek diğer potansiyel çözümler nelerdir?
Temel olarak üç tipimiz var. Bir modelin çıktı dağılımını, onu tanıyabilmemiz için etkili bir şekilde biraz değiştirdiğimiz filigranımız var. Diğeri ise, bir platform tarafından oluşturulan tüm yapay zeka içeriğini depoladığınız ve daha sonra bir çevrimiçi içerik parçasının bu malzeme listesinde görünüp görünmediğini sorgulayabileceğiniz bir sistemdir… Ve üçüncü çözüm, yapay yapıları tespit etmeye çalışmayı gerektirir. [i.e., tell tale signs] üretilen malzemeden. Örneğin, giderek daha fazla akademik makale ChatGPT tarafından yazılıyor. Akademik makaleler için bir arama motoruna gidip “Geniş bir dil modeli olarak…” yazarsanız… [a phrase a chatbot would automatically spit out in the course of generating an essay] bir sürü sonuç bulacaksınız. Bu yapay yapılar kesinlikle mevcuttur ve algoritmaları bu yapay yapıları tanıyacak şekilde eğitirsek, bu, bu tür içeriği tanımlamanın başka bir yoludur.
Yani bu son çözümde, temelde yapay zekayı tespit etmek için yapay zekayı kullanıyorsunuz, değil mi?
Evet.
Ve bundan önceki çözüm (yapay zeka tarafından oluşturulan dev bir veri tabanını içeren çözüm) bazı gizlilik sorunlarına sahip gibi görünüyor, değil mi?
Bu doğru. Söz konusu modeldeki gizlilik sorunu, şirketin oluşturulan her içerik parçasını saklamasıyla ilgili değil; çünkü tüm bu şirketler bunu zaten yapıyor. Daha büyük sorun, bir kullanıcının bir görselin yapay zeka olup olmadığını kontrol etmesi için bu görseli çapraz kontrol için şirketin deposuna göndermesi gerekmesidir. Ve şirketler muhtemelen bunun bir kopyasını da saklayacaklar. Bu beni endişelendiriyor.
Peki sizin bakış açınıza göre bu çözümlerden hangisi en iyisi?
Güvenlik söz konusu olduğunda, tüm yumurtalarınızı tek bir sepete koymamanız gerektiğine inanıyorum. Dolayısıyla tüm bu stratejileri kullanmamız ve bunların etrafında daha geniş bir sistem tasarlamamız gerektiğine inanıyorum. Eğer bunu yaparsak ve dikkatli bir şekilde yaparsak başarılı olma şansımız olacağına inanıyorum.
Hepsini yakalayın Gizmodo’nun yapay zeka haberleri buradaveya bakın en son haberler burada. Günlük güncellemeler için, ücretsiz Gizmodo bültenine abone olun.
