Google, derin sahtekarlıkların ve yapay zekanın oluşturduğu yanlış bilgilerin yarattığı artan sorunların üstesinden gelmek amacıyla, Hintli internet kullanıcılarının derin sahtekarlıkları tanımlamasına ve kendilerini korumalarına yardımcı olacak bazı araçlar hazırlıyor
Geçtiğimiz birkaç hafta boyunca Hindistan, deepfake’lerin derinden rahatsız edici olabileceği bazı yolları gördü ve Hindistan hükümetinin yapay zeka tarafından üretilen deepfake’lerden ve yanlış bilgilerden kaynaklanan sorunu engelleme konusunda ne kadar kararlı olduğunu gördü.
Küresel bir teknoloji devi olan Google, Hindistan’da derin sahtekarlıklara ve yapay zeka tarafından oluşturulan yanlış bilgilere karşı koyma çabalarına ilişkin bilgiler sağladı. Bu zorluklarla mücadele edecek bir “sihirli değnek”in bulunmadığını kabul eden Google, yapay zeka tarafından oluşturulan içeriği belirlemek ve işaretlemek için makine öğrenimi ve insan incelemecilerin bir kombinasyonunu içeren stratejisinin ana hatlarını çizdi.
Google, Hindistan hükümetiyle işbirliği içinde, yaklaşan Yapay Zeka Küresel Ortaklığı (GPAI) Zirvesi’nde derin sahtekarlıklar ve dezenformasyon kampanyaları da dahil olmak üzere ‘sentetik medya’ ile ilişkili emniyet ve güvenlik risklerini ele almayı planlıyor.
İlgili Makaleler
Rashmika Mandanna, Katrina Kaif, şimdi de Kajol: Deepfake videolarda neden ani bir artış görüyoruz?
Rashmika, Katrina’nın buzdağının görünen kısmı, Ratan Tata’nın dolandırıcılar tarafından kullanılan sahte videosu
Sahte görsel sorununu çözmek için Google, SynthID de dahil olmak üzere korkuluklar ve güvenlik önlemleri uyguladı.
Gömülü bir filigran ve meta veri etiketleme çözümü olan bu sistem, Google’ın metinden resme oluşturucusu Imagen kullanılarak oluşturulan fotoğrafları işaretler.
Ek olarak şirket, kuralları ihlal eden içerikleri hızlı bir şekilde tespit etmek ve kaldırmak için insan incelemecilerin yanı sıra makine öğreniminden de yararlanıyor ve içerik denetleme sistemlerinin doğruluğunu artırıyor.
Google, YouTube için değiştirilmiş veya yapay zeka tarafından oluşturulmuş içerik kullanan içerik oluşturuculara yönelik açıklama gereksinimleri getiriyor. İçerik oluşturucuların, açıklama paneline ve video oynatıcısına etiketler ekleyerek kullanıcıları bilgilendirmeleri zorunlu olacak.
Platform aynı zamanda kullanıcıların, bir kişinin yüzünü veya sesini taklit etmek için yapay zekayı kullanan içeriği kaldırmasına olanak tanıyan bir ‘gizlilik talep süreci’ de geliştiriyor.
Değişen ortama yanıt olarak Google, seçim reklamcılığı politikalarını güncelledi. Artık yayıncıların, reklamlarının kullanıcıları aldatmak, yanıltmak veya dolandırmak amacıyla dijital olarak değiştirilmiş veya oluşturulmuş içerik içerip içermediğini beyan etmesi gerekiyor.
Google Arama, derin sahtekarlıkları ve yapay zekayla değiştirilmiş içerikleri işaretlemek için Bilgi Panelleri ve Öne Çıkan Parçacıklar gibi korkuluklar içerir.
Hindistan’daki politika yapıcılar, araştırmacılar ve uzmanlarla iletişim kuran Google, sorumlu yapay zeka uygulamalarına olan bağlılığını vurguluyor.
Geçen yılın Aralık ayında şirket, Hindistan perspektifinden yapay zekadaki önyargıyı incelemeye odaklanan Sorumlu bir Yapay Zeka merkezi kurmak için Hindistan Teknoloji Enstitüsü Madras’a 1 milyon dolar hibe ayırdı.