Google, Salı günü geç saatlerde I/O 2024 açılış oturumu sırasında çok sayıda yapay zeka (AI) tabanlı duyuru yaptı. Bunlar arasında yeni yapay zeka modelleri, mevcut temel modellerde yapılan yükseltmeler, yapay zeka özelliklerinin Google ürünlerine entegrasyonu ve daha fazlası yer alıyor. Teknoloji devi ayrıca yapay zeka güvenliğine odaklandı ve yapay zeka tarafından oluşturulan içerik için SynthID adı verilen yerel filigran teknolojisinin kullanımını genişletti. Bu yeni araç seti artık Gemini uygulaması ve web istemcisi tarafından oluşturulan metinler ve Veo tarafından oluşturulan videolar için filigranlar ekleyecek.
SynthID ilk oldu açıklanmış Google DeepMind tarafından Ağustos 2023’te yapay zeka tarafından oluşturulan içeriğin doğru şekilde etiketlenmesini amaçlayan bir beta proje olarak. Sentetik olarak oluşturulan bu medyaların gerçekmiş gibi paylaşıldığı örneklerin artması nedeniyle böyle bir çözüme ihtiyaç duyuldu. Bunlar yanlış bilgileri yaymak ve kimlik avı gibi siber suçları yaymak için kullanıldı. Teknoloji devi bu teknolojiyi ilk kez Kasım 2023’te Lyria modeli aracılığıyla oluşturulan yapay zeka tarafından oluşturulan sese filigran eklemek için kullandı. Araç seti, sesin algılanamaz ancak algılanabilir olmasını sağlamak için sese dalga biçimi olarak filigranlar ekledi.
Artık Google, SynthID’nin kullanımını metin ve video oluşturmayı da içerecek şekilde genişletiyor. Artık Gemini uygulaması ve web sitesi kullanılarak oluşturulan metne filigran eklenecek. Bunun için araç seti üretim sürecinin kendisini hedefleyecektir. Her metin tabanlı yapay zeka modeli, eğitim için sözcükler, heceler veya ifadeler olabilen belirteçler kullanır. Eğitim süreci aynı zamanda bu belirteçlerin kullanım akışının veya en tutarlı yanıtı oluşturmak için belirteçlerin izlemesi gereken sıranın anlaşılmasını da içerir.
SynthID, “belirteçlerin oluşturulma olasılığını modüle ederek, üretim noktasında belirteç dağıtımına ek bilgiler” sunar. Bu şekilde oluşturulan metin bloğundaki belirli kelimelere bir sayı atar. Metni oluşturmak için yapay zekanın kullanılıp kullanılmadığını tespit ederken, kaynağın bir yapay zeka modeli olup olmadığını belirlemek için puanı düzeltilmiş olasılık puanlarına göre kontrol ediyor. DeepMind bir şekilde vurgulandı postalamak Olasılık modellerinin bu metnin nasıl oluşturulduğunu kontrol etmesi daha kolay olduğundan, bir yapay zeka uzun yaratıcı metin oluşturduğunda bu tekniğin yararlı olduğu ortaya çıktı. Ancak daha kısa gerçek yanıtlar için tespit o kadar doğru olmayabilir.
Şirket ayrıca SynthID’yi yakın zamanda tanıtılan Veo’nun yapay zeka tarafından oluşturulan videolarını da kapsayacak şekilde genişletiyor. Google, teknolojinin filigranları doğrudan her video karesinin piksellerine yerleştireceğini, bunların insan gözünün algılayamayacağı ancak bir algılama sistemi kullanıldığında ortaya çıkacağını söyledi.
Önümüzdeki aylarda Google, Sorumlu Üretken Yapay Zeka araç seti aracılığıyla SynthID metin filigranını açık kaynaklı hale getirmeyi planlıyor. Ayrıca metin filigranı teknolojisini açıklayan ayrıntılı bir araştırma makalesi de yayınlayacak.