Ne bilmek istiyorsun
- Microsoft CEO’su Satya Nadella, NBC Nightly News’e, Taylor Swift’in yapay zeka tarafından oluşturulan ve Swift’i cinsel bir şekilde sunan sahte görsellerinin ortaya çıkışı hakkında konuştu.
- Nadella durumu “endişe verici ve korkunç” olarak nitelendirdi ve Microsoft ve diğerlerinin harekete geçmesi gerektiğini söyledi.
- Bir rapor, Microsoft Designer’ın Taylor Swift’in görsellerini oluşturmak için kullanıldığını iddia ediyor, ancak bu bilgi doğrulanmadı.
Taylor Swift’in yapay zeka tarafından oluşturulan görüntüleri yakın zamanda internette ortaya çıktı. Sahte fotoğrafların cinsel doğası, yapay zekanın insanların rızası olmadan görüntülerini oluşturmak için kullanılması konusunda çatışma ve tartışmalara neden oldu. Oluşturulan içeriğin müstehcen olması tartışmayı daha da karmaşık hale getirdi.
Microsoft CEO’su Satya Nadella, bir röportajda durumu NBC Nightly News’e anlattı ve yapay zekayı yönlendirmek ve kötüye kullanıma karşı korunmak için neler yapılabileceğinden bahsetti.
Nadella, tamamı 30 Ocak 2024’te yayınlanacak röportajında şunları söyledi:”
“İki şey söyleyebilirim. Birincisi, sanırım, sorumluluğumuzun ne olduğuna geri dönüyorum; bu, üretilen daha güvenli içeriğin olması için teknolojinin etrafına yerleştirmemiz gereken korkuluklardır. Ve orada yapılacak ve yapılacak çok şey var. Ve biz de yapabiliriz, özellikle kanunlar, kolluk kuvvetleri ve bir araya gelebilecek teknoloji platformları olduğunda, sandığımızdan çok daha fazlasını yönetebileceğimizi düşünüyorum; kendimize kredi veririz. için.”
Sahte Taylor Swift görsellerinin ne yapılabileceği konusunda “alarm zillerini çaldırıp çalmadığı” sorulduğunda Nadella, “Her şeyden önce bu kesinlikle endişe verici ve korkunç. Bu nedenle evet, harekete geçmeliyiz” dedi.
Microsoft, yapay zeka alanındaki en büyük isimlerden biri ve teknoloji devinin araçlarının sahte Taylor Swift görselleriyle bağlantılı olabileceği ortaya çıktı. A 404 Medya raporu “Kadınların taciz edici görüntülerine adanmış Telegram grubu” üyelerinin, Swift’in sahte fotoğraflarını oluşturmak için Microsoft’un yapay zeka destekli görüntü oluşturma aracını kullandığını belirtiyor.
Microsoft yakın zamanda Bing Image Creator’ın adını Designer’dan Image Creator olarak değiştirdi. 404 Medya raporu, Telegram grubunun üyeleri tarafından hangi aracın kullanıldığını belirtmedi, ancak bunun Tasarımcıdan Bing Image Creator/Image Creator olması ihtimali yüksek.
Bu aracın pornografik görüntülerin oluşturulmasını önlemek için korkulukları var, ancak yapay zeka araçlarını yasaklanması gereken içerik oluşturmak için kandırmanın yolları da var.
Microsoft yapay zeka tarafından oluşturulan porno konusunda ne yapabilir?
Birçoğu hükümetin yapay zeka tarafından üretilen pornografiyi düzenlemesi gerekip gerekmediğine odaklanacak. Microsoft’un rolü ve sorumluluğu da muhtemelen sıcak bir tartışma konusu olacak. Ancak Microsoft’un neler yapabileceğine ve yapay zeka tarafından oluşturulan görüntüler konusunda halihazırda neler yapıldığına odaklanmak istiyorum.
Nadella’nın da belirttiği gibi Microsoft, Copilot ve diğer AI araçlarının oluşturabileceği içerik türlerini sınırlayan veya kısıtlayan korkuluklar koyabilir. Bunlar zaten mevcut, ancak elbette bunların üstesinden gelinebilir. İnsanlar zararsız eğlenceden intikam pornosu üretmeye kadar her şeyde yapay zeka sınırlarını aşmayı başarıyorlar. Microsoft daha fazla korkuluk ekleyebilir ve kısıtlamaları sıkılaştırabilir ancak Microsoft’un yapay zeka araçlarının her zaman teknoloji devinin onaylamayacağı içerik oluşturmak için kullanılabilmesi ihtimali yüksektir.
Neyin uygun olduğuna kimin karar vereceği konusunda daha büyük bir ahlaki tartışma var, ancak bunu uzmanların konuşmasına bırakacağım.
Microsoft, araçlarının pornografi veya diğer tartışmalı görüntüler oluşturmasını engellemenin bir yolunu bulsa bile, başka yapay zeka araçları da mevcut. Microsoft’un Copilot’u ve Google’ın Bard’ı gibi web tabanlı yapay zeka araçlarının kullanımı kolaydır, ancak bunlar etraftaki tek yapay zeka araçları olmaktan çok uzaktır.
Peki Microsoft, kullanıcıların gerçek görselleri sahte fotoğraflardan ayırt etmesine yardımcı olmak için ne yapabilir? Teknoloji devi, yapay zeka tarafından oluşturulan görüntüleri tanımlayan teknolojinin geliştirilmesine yardımcı olabilir. OpenAI, yapay zeka tarafından oluşturulan görüntüleri %99 güvenilirlikle tanımlayabildiğini iddia ettiği bir araç üzerinde çalışıyor.
Bazı sosyal medya siteleri, daha sonra işaretlenen hassas görselleri taramak için halihazırda benzer araçları kullanıyor. Elbette bu araçlar da mükemmel değil çünkü X (eski adıyla Twitter), Taylor Swift’in sahte görsellerinin yayılmasını engellemekte zorlandı.