Google DeepMind, Çarşamba günü yapay zeka tarafından oluşturulan metni filigranlamak için yeni bir teknolojiyi açık kaynak olarak kullanıma sundu. SynthID olarak adlandırılan yapay zeka (AI) filigranlama aracı, metin, resim, video ve ses dahil olmak üzere farklı yöntemlerde kullanılabilir. Ancak şu anda metin filigranı aracını yalnızca işletmelere ve geliştiricilere sunuyor. Şirket, yapay zeka tarafından oluşturulan içeriğin kolayca tespit edilebilmesi için aracın daha geniş çapta benimsenmesini hedefliyor. Bireyler ve kuruluşlar bu araca Mountain View tabanlı teknoloji devinin güncellenmiş Sorumlu Üretken Yapay Zeka Araç Seti aracılığıyla erişebilir.
Google DeepMind Açık Kaynak Yapay Zeka Metin Filigranı Teknolojisi
bir postalamak X’te (eski adıyla Twitter), Google DeepMind’in resmi adresi, SynthID’nin metin filigranlama özelliğinin geliştiricilerin ve işletmelerin kullanımına ücretsiz olarak sunulacağını duyurdu. Sorumlu GenAI Araç Seti dışında Google’ın Hugging Face listesinden de indirilebilir.
Yapay zeka tarafından oluşturulan metinler şimdiden interneti doldurmaya başladı. Amazon Web Services AI laboratuvarı bir rapor yayınladı çalışmak Bu yılın başlarında, iki veya daha fazla dile çevrilen çevrimiçi cümlelerin yüzde 57,1’inin yapay zeka araçları kullanılarak oluşturulabileceği iddia edildi.
İnterneti yapay zeka tarafından oluşturulan anlamsız metinlerle dolduran yapay zeka sohbet robotları, zararsız bir spam vakası gibi görünse de, bunun daha karanlık bir tarafı da var. Yapay zeka araçları, kötü aktörlerin elinde toplu olarak yanlış bilgi veya yanıltıcı içerik üretmek için kullanılabilir. Sosyal söylemin önemli bir kısmının çevrimiçi ortamda gerçekleşmesi nedeniyle, bu tür eylemler seçimler gibi gerçek hayattaki olayları etkileyebilir ve tanınmış kişilere karşı propaganda oluşturmak için kullanılabilir.
Tüm yöntemler arasında yapay zeka tarafından oluşturulan metni ölçmenin şimdiye kadarki en zor görev olduğu kanıtlandı. Bunun nedeni büyük ölçüde kelimelere filigran eklemenin mümkün olmaması ve mümkün olsa bile, kötü aktörlerin ikinci bir çıktı döngüsü kullanarak içeriği her zaman yeniden ifade edebilmesidir.
Ancak Google DeepMind’ın SynthID’si, yapay zeka tarafından oluşturulan metni filigranlamak için yeni bir yol kullanıyor. Araç, bir cümledeki belirli bir kelimeden sonra görünebilecek kelimeleri tahmin etmek için makine öğrenimini kullanıyor. Örneğin, “John bütün gün çalıştıktan sonra kendini çok yorgun hissediyordu.” cümlesini düşünün. Burada “aşırı” sözcüğünden sonra ancak sınırlı sayıda sözcük gelebilmektedir.
Çeşitli yapay zeka modellerinin içerik oluşturma stillerinin analizine dayanarak SynthID, “son derece” kelimesinden sonra görünecek kelimeyi tahmin edebilir ve onu veritabanında bulunan başka bir eşanlamlı kelimeyle değiştirebilir. Filigranlama aracı bu tür kelimeleri içerik parçasının tamamına yerleştirecektir. Daha sonra araç, yapay zeka tarafından oluşturulan içeriği kontrol ettiğinde, içeriğin orijinalliğini belirlemek için bu tür kelimelerin sayısını arar.
Özellikle resimler ve videolar için SynthID, çerçevelerin piksellerine doğrudan bir filigran ekler, böylece bunlar görünmez kalır ancak yine de araçta tespit edilebilir. Ses için, ses dalgaları öncelikle bir spektrografa dönüştürülür ve filigran bu görsel verilere eklenir. Bu yetenekler şu anda Google dışındaki hiç kimsenin kullanımına açık değildir.