Ne bilmek istiyorsun
- Yapay zeka daha da gelişmiş ve sofistike hale geldikçe, deepfake’ler internette dolaşmaya ve yanlış bilgi yaymaya devam ediyor.
- Microsoft, siber suçluların yapay zeka yeteneklerini kullanarak zarar vermesini önlemek için ABD Kongresi’nden kapsamlı bir deepfake dolandırıcılık yasası geçirmesini talep ediyor.
- Yeni yasal çerçeve, kolluk kuvvetlerine yapay zeka kaynaklı dolandırıcılık ve sahtekarlıkları kovuşturma temelinde hizmet sunacak.
Microsoft Copilot ve OpenAI’nin ChatGPT’si gibi üretken yapay zeka araçları daha gelişmiş ve sofistike hale geldikçe, internette yayılan deepfake yapay zeka tarafından üretilen içerik vakaları artmaya devam ediyor (bkz. Elon Musk bu haftaTeknolojinin ilerlemesiyle birlikte ortaya çıkan güvenlik ve gizlilik sorunlarının yanı sıra, deepfake’lerin yaygınlığı, çevrimiçi ortamda ortaya çıkan içeriklerin gerçekliğini zedelemeye devam ediyor ve kullanıcıların neyin gerçek olduğunu belirlemesini zorlaştırıyor.
Kötü aktörler, dolandırıcılık, kötüye kullanım ve manipülasyon için deepfake’ler üretmek amacıyla yapay zekayı kullanır. Ayrıntılı düzenlemelerin ve korumaların eksikliği deepfake’lerin yaygınlaşmasına katkıda bulunmuştur. Ancak Microsoft Başkan Yardımcısı ve Başkanı Brad Smith yakın zamanda halkı deepfake’lerden korumak için kullanmayı planladığı yeni önlemleri özetledi.
Smith, Microsoft ve sektördeki diğer önemli oyuncuların, yapay zeka tarafından üretilen deepfake içeriklerin yaklaşan ABD Başkanlık seçimleri hakkında yanlış bilgi yaymak için kullanılmamasını sağlamaya odaklandığını söylüyor.
Şirketin bu cephede sağlam bir kavrayışı olduğu görülse de, üst düzey yönetici, deepfake’lerin suçta yaygın kullanımını önlemek için daha fazla şey yapılabileceğini söylüyor. Smith, “ABD’nin yapabileceği en önemli şeylerden biri, siber suçluların bu teknolojiyi sıradan Amerikalılardan çalmak için kullanmasını önlemek için kapsamlı bir deepfake dolandırıcılık yasası çıkarmaktır” diye ekledi.
Kongre, yapay zeka sistemi sağlayıcılarının sentetik içeriği etiketlemek için en son teknolojiye sahip kaynak araçlarını kullanmasını zorunlu kılmalıdır. Bu, bilgi ekosistemine güven oluşturmak için önemlidir ve halkın içeriğin yapay zeka tarafından mı oluşturulduğunu yoksa manipüle mi edildiğini daha iyi anlamasına yardımcı olacaktır.
Microsoft Başkanı, Brad Smith
Smith, aynı zamanda, teknoloji daha yaygın ve gelişmiş hale geldikçe, politikacıların çocukları cinsel istismardan, tacizden ve rızaya dayanmayan mahrem görüntülerden korumayı amaçlayan federal ve eyalet yasalarının, yapay zeka tarafından üretilen içerikleri de içermesini sağlamasını istiyor.
Hepsi devam eden bir çalışma
Daha önce Microsoft CEO’su Satya Nadella, yaklaşan ABD başkanlık seçimlerini yapay zeka deepfake’lerinden ve yanlış bilgilerden korumak için yeterli teknoloji olduğunu belirtmişti. Bu, aracın yaklaşan seçimler hakkında yanlış bilgi ürettiğinin tespit edilmesinin ardından Copilot AI’nın eksikliklerini vurgulayan birkaç rapora rağmen böyle.
Pop yıldızı Taylor Swift’in açıkça yapay zeka tarafından oluşturulmuş görüntülerinin çevrimiçi olarak ortaya çıkmasının ardından, Senato sorunu ele alan bir yasa tasarısını kabul etti. Yapay zeka kullanılarak oluşturulan açık içerikte yer alan kullanıcıların tazminat davası açma hakkı vardır.
Öte yandan OpenAI, kullanıcıların AI tarafından oluşturulan içeriği tanımlamasına yardımcı olmak için tasarlanmış yeni bir strateji başlattı. ChatGPT ve DALL-E 3 görüntüleri artık filigranlı, ancak girişim bunun “menşe sorunlarını çözmek için tek başına bir çözüm olmadığını” kabul ediyor. OpenAI, AI tarafından oluşturulan görüntüleri tanımlamaya yardımcı olacak bir araç üzerinde çalıştığını duyurdu ve %99,9 doğruluk vaat ediyor.