- Itch.io, otomatik bir yayından kaldırma isteği nedeniyle yayından kaldırıldı
- Bunun nedeni Funko Pop’un yapay zeka destekli BrandShield’ı
- Bağımsız oyun sitesi neredeyse bir gün sonra geri yüklendi
9 Aralık 2024 Pazartesi günü, popüler PC bağımsız oyun sitesi Itch.io’nun hem resmi X (eski adıyla Twitter) hem de Bluesky sosyal medya hesapları, alan adının tamamının devre dışı bırakıldığını yayınladı. Nedeni? Otomatik bir yapay zeka ‘marka koruma’ hizmeti.
Itch.io’nun yaratıcısı Leafo’ya göre (ve tarafından rapor edilmiştir) Kitguru), Funko Pop’un BrandShield hizmeti, bir Funko Pop hayran sayfasını “dolandırıcılık ve kimlik avı” olarak işaretledi ve Itch.io’nun barındırma sağlayıcısı ve alan adı kayıt kuruluşuna otomatik olarak yayından kaldırma talepleri gönderdi.
Leafo’nun yayından kaldırma talebini yerine getirmesine rağmen, alan adı kayıt kuruluşunun otomatik sistemi, herhangi bir insan girişi olmadan Itch.io alanını devre dışı bırakarak yanıt verdi ve bu da tüm sitenin çevrimdışına alınmasına neden oldu.
Şaka yapmıyorum, @itchio, @OriginalFunko tarafından devre dışı bırakıldı çünkü @BrandShieldltd adında, yanıtımızı görmezden gelen ve kayıt şirketimiz @iwantmyname için sahte bir Kimlik Avı raporu oluşturan, çöp “Yapay Zeka Destekli” Marka Koruma Yazılımı kullanıyorlar. ihtisas9 Aralık 2024
Bu yazının yazıldığı an itibariyle Itch.io tekrar çevrimiçi oldu ve bu durum oyuncuların ve özellikle de ona güvenen bağımsız geliştiricilerin rahatlamasını sağladı. Ancak bu, yapay zeka destekli hizmetlerin ve sistemlerin insan katkısı veya müdahalesi olmadan kullanımının nasıl felakete yol açabileceğinin açıkça bir örneğidir.
Bu Günde Funko Pop’un Üstüne Yükseliyoruz Fark etmediyseniz site yeniden yayında9 Aralık 2024
Yapay zeka neden denetimsiz kalamıyor?
Yaygın olarak kullanılan ve uygulanabilir yapay zekanın özel kullanımının sakıncaları ve olumsuzlukları vardır. Herhangi bir araç gibi, bir yazım ve dilbilgisi denetleyicisi olarak, erişilebilirlik özelliklerine uygulanan, canlı dil çevirileri için kullanılan, tekrarlanan ve zahmetli işleri otomatikleştiren ve çok daha fazlası olan birçok kişi için harika bir yardımcı olabilir.
Ancak yapay zeka yardımının amacı tam da budur, yardım. Büyük ölçekli görevleri kolaylaştıracak bir araç olarak tasarlanmıştır ancak yer değiştirmek insanların kendileri. Ve bunun gibi hikayeler tam olarak nedenidir.
Yapay zeka, yapmaya programlandığı bir yanıtı tetikledi ancak ne olduğuna, bu raporları bu şekilde işaretlemeye gerek olup olmadığına ve hayran sayfasının başlangıçta bir işaretlemeyi garanti edip etmediğine ilişkin herhangi bir durumsal bağlam olmadan. Daha sonra yine hiçbir girdi veya bağlam olmadan çalışan başka bir yapay zeka programı otomatik olarak yanıt verdi ve programlandığı en sert eylemi gerçekleştirdi.
Bu hataları düzeltmenin tek yolu insan müdahalesiydi (neredeyse tam gün sürdü) ve eğer insanlar en başından beri sürece dahil olsaydı durum bu kadar büyümezdi.
Özellikle alanın kaldırılmasına yönelik yapay zeka yanıtı ilk etapta Marka Kalkanı Web sitesine göre bu, kimlik avı girişimlerinden ve sahte web sitelerinden koruyan ve aynı zamanda “marka koruması” sunan yapay zeka destekli bir hizmettir. Bu, değerli IP’lere sahip yüksek profilli işletmeler için yararlı ve hatta hayati bir hizmet gibi görünse de, bir insan tarafından izlenmeyen sonuçlar felaket olabilir.
Funko Pop’un ve hatta alan adı kayıt şirketi iwantmyname’in, insanların neden yapay zeka destekli araçları içeren herhangi bir sürecin ayrılmaz bir parçası olması gerektiği konusunda önemli bir ders almış olduğunu umuyorum. Ancak bu durumların ne sıklıkta meydana geldiğini bildiğimiz için büyük olasılıkla hayır.
