Octopus Ventures tarafından desteklenen Londra merkezli üretken yapay zeka girişimi, kullanıcıların kısıtlama olmaksızın “potansiyel olarak zararlı” içerik oluşturmasına olanak tanıyor. UKTN Yapay zeka firmalarının tüketicileri korumak için kullandığı korkulukların etkinliğine ilişkin artan incelemelerin ortasında ortaya çıkabilir.
Tarafından yapılan testler UKTN Eski Google DeepMind personeli tarafından kurulan bir görüntü ve video oluşturma platformu olan Haiper AI’nın, benzerlerinin çoğuyla karşılaştırıldığında zararlı olabilecek içeriklerin oluşturulmasını önlemek için önemli ölçüde daha az sağlam korumalar içerdiğini gösteriyor.
UKTN Donald Trump’ın Taylor Swift ile buluşmasını ve İngiltere Başbakanı Keir Starmer’ı yanan İsrail bayrağını sallarken gösteren görüntüler oluşturmayı başaran platform, platformun kötü aktörler tarafından dezenformasyon veya nefret dolu mesajlar yaymak için kullanılabileceği korkusunu artırdı.
Haiper Mart ayında gizlilikten ortaya çıktı. 11 milyon sterlinlik yatırım turu Zoopla ve Depop gibi şirketleri destekleyen, İngiltere’nin en aktif VC’lerinden biri olan ve Octopus Energy ana şirketinin şirketler grubunun bir parçası olan Octopus Ventures tarafından yönetiliyor.
Platform, OpenAI’nin Dall E’si gibi diğer görüntü ve video oluşturma araçlarına benzer şekilde çalışır. Kullanıcılar bir açıklama girer ve platform, eğitim verilerine dayanarak bir çıktıyı bir araya getirir.
Yapay zeka güvenlik uzmanları, teknolojinin, özellikle de gerçek insanları taklit etme yeteneği açısından, yanlış bilgilendirme amacıyla kullanılmasının tehlikesi konusunda uyardı.
Rıza dışı cinsel içerikli deepfake’lerden sahte siyasi yorumlara ve tanınmış kişilerin onaylanmasına kadar, AI geliştiricilerinin hizmetlerini kamuya açarken dikkate alması gereken birçok zarar var. Birçoğu teknolojinin bu şekilde kullanılmasını önlemek için önlemler uyguladı.
En yaygın önlemler arasında, diğerlerinin yanı sıra ChatGPT ve Meta AI’nın bir özelliği olan, gerçek kişilerin rızaları olmadan görsellerinin oluşturulmasının yasaklanması yer almaktadır.
Ancak Haiper vakasında, UKTN gerçek hayattaki tanınmış kişilerin dezenformasyon potansiyeli sunacak şekilde hareket ettiğini gösteren bir dizi görüntü oluşturmayı başardı.
Buna, Swift gibi isimlerden sahte siyasi onaylar oluşturmak için kullanılan yapay zekanın önceki örneklerinin taklit edilmesi de dahildi.
Swift’i, İngiltere Başbakanı Keir Starmer’ı, ABD Başkan Yardımcısı Kamala Harris’i ve diğerlerini sahte bir şekilde tasvir eden görüntüler, modelin sınırlarını test etmek için oluşturuldu.
Her ne kadar görüntülerin bazıları fotogerçekçi görünecek kadar kaliteli olmasa da üretken yapay zeka firmaları, çıktılarının kalitesinde düzenli olarak ilerlemeler kaydediyor.
Karşılaştırmalı olarak, Meta AI’ya önerildiğinde aynı istemler şu yanıtı tetikler: “Gerçek insanların resimlerini oluşturmam kısıtlanıyor, özellikle de bunlar potansiyel olarak yanıltıcı veya zararlıysa. Bu, yanlış bilgi yaymadığımdan veya bireylerin haklarını ihlal etmediğimden emin olmak için.”
Bu arada ChatGPT şu mesajı veriyor: “Gizlilik, benzerlik hakları veya bu tür görsellerin olası kötüye kullanımıyla ilgili endişeleri önlemek için gerçek hayattaki tanınmış kişileri tam olarak kopyalayan görseller oluşturmam kısıtlanıyor.”
Londra merkezli diğer yapay zeka girişimi Stability, talebe “içerik denetleme sistemi tarafından işaretlendiğini” ve “belirli kişileri onların rızası olmadan içeren görseller oluşturamayacağını” söyleyerek yanıt verdi.
Haiper’in kendi kullanım şartları, kullanıcılara girdilerin kişilerin rızası olmadan kişisel bilgilerini içermemesi gerektiğini söyleyerek bu tür davranışları caydırıyor gibi görünüyor.
Kullanım şartları şunu belirtmektedir: “Uygulama, Kabul Edilebilir Kullanım Politikamızı ihlal edebilecek her türlü Giriş Verisini izleyen ve tespit eden yerleşik algoritmalar içerir.
“Bu tür Giriş Verilerinin bu algoritmalar tarafından tespit edildiği herhangi bir Giriş Verisini giremeyecek veya yükleyemeyeceksiniz.”
Bu uyarıya rağmen sistem herhangi bir ihlalin meydana geldiğini işaretlemedi.
Haiper yorum talebine yanıt vermedi.
Birleşik Krallık’ta birçok politikacı, yapay zekanın sosyal medyada yayılmasıyla oluşturulan sahte seslerle karşı karşıya kaldı.
Londra Belediye Başkanını taklit eden ses klipleri Sadık Han ve Sağlık Sekreteri Wes Caddesi Görünüşe göre halkın İşçi Partili politikacılara bakış açısını zedeleme niyetiyle internette dolaşıyor.
Geçtiğimiz günlerde Başkan seçilen Donald Trump Paylaşıldı Popstar Taylor Swift ve hayranlarının onun kampanyasını desteklediğini düşündüren yapay zeka tarafından oluşturulan görüntüler; gerçek Swift daha sonra kamuya açık olarak Kamala Harris’i başkanlık için onayladı.
Bu yaratımlar, yapay zekanın çevrimiçi olarak büyük kitlelere yanlış bilgi ve dezenformasyon yayma potansiyeline karşı öfkeye yol açtı.
Dolandırıcılık ilan etmek için üretken yapay zekanın kullanılmasına ilişkin endişeler de dile getirildi. Popüler tüketici finansmanı uzmanı Martin Lewis, okuyucuları çeşitli işletmeleri ve yatırım planlarını desteklediğine ikna etmeye çalışan yapay zeka yapımı dolandırıcılık belasına karşı konuştu.
Lewis, adını ve yüzünü kullanan platformdaki sahte reklamlar nedeniyle 2018 yılında Facebook’a dava açmıştı. Daha sonra ABD’li firmanın Citizens Advice’a yaptığı 3 milyon sterlinlik bağış teklifini kabul ettikten sonra davayı bıraktı.