Ne bilmek istiyorsun
- The Guardian’ın genç bir kadının talihsiz ölümünü konu alan bir makalesi Microsoft Start’ta yer aldı ve bunun yanında okuyuculardan kadının nasıl öldüğüne dair oy vermelerini isteyen yapay zeka tarafından oluşturulan bir anket de yer aldı.
- Yoğun anketin suçu yayın organına ve yazara yüklemesi okuyucuları öfkelendirdi.
- Guardian, anketin itibarını olumsuz etkileyeceğinden korkuyor.
- CEO o zamandan beri Microsoft Başkanı’na ulaşarak açıklama talebinde bulundu ve yayıncılara içerikleri üzerinde kontrol sağlayan güçlü bir telif hakkı çerçevesinin önemini vurguladı.
- Microsoft, konuyu araştırdığını ve böyle bir olayı önlemek için ayrıntılı önlemler aldığını belirten bir bildiri yayınladı.
Üretken yapay zekanın artık her zamankinden daha yaygın olmasıyla birlikte, insan müdahalesinin önemi de daha belirgin hale geliyor. Microsoft’un Ottawa Food Bank’ı Kanada’daki en önemli turistik cazibe merkezi olarak öneren yapay zeka tarafından oluşturulan bir makale yayınlamasının üzerinden henüz üç ay geçmedi (her ne kadar o zamandan beri geri çekilmiş olsa da) ve yine tuhaf ve duyarsız bir olay daha meydana geldi.
Guardian, Microsoft’u itibarını zedelemekle suçluyor yanına “Yapay zekadan bilgiler” işaretli bir anket ekleyerek çıkıştan bir makale Bir noktaya göre, bir kadının talihsiz ölümünden bahsediyoruz Sınır. Anket, okuyucuların kadının hayatını nasıl kaybettiğini tahmin etmek için aralarından seçim yapması beklenen cinayet, kaza veya intihar gibi çeşitli seçenekleri duyarsız bir şekilde içeriyordu.
Duyarsız anket o zamandan beri geri çekildi, ancak The Guardian, yaslı ailenin yarattığı duygusal kargaşanın yanı sıra, hasarın zaten verildiğini belirtiyor. Habere yapılan yorumlara bakıldığında okuyucuların bu durumdan pek de memnun olmadığı açıkça görülüyor. Aslında bazı okuyucular duyarsız anketin yazarın kendi işi olduğuna ve yayın kuruluşunun izlerini örtbas etmek için yapay zekaya işaret ettiğine inanıyor.
Guardian Media Group’un genel müdürü Anna Bateson, Microsoft Başkanı Brad Smith’e, hikayelerinde yer alan yapay zeka tarafından oluşturulan anketle ilgili endişelerini dile getiren ve bunun yayın organı üzerinde olabileceği veya olabileceği potansiyel olumsuz etkisini daha da ifade eden bir mektup yazdı.
Bu açıkça genAI’nin uygunsuz bir kullanımıdır [generative AI] Microsoft tarafından, orijinal olarak Guardian gazetecileri tarafından yazılan ve yayınlanan, potansiyel olarak üzücü, kamuyu ilgilendiren bir hikaye hakkında.
Anna Bateson, Guardian’ın CEO’su
CEO, güçlü bir telif hakkı çerçevesine sahip olmanın önemini vurguladı çünkü bu, yayıncıların içeriklerinden nasıl yararlanılacağı üzerinde kontrol sahibi olmasını sağlıyor. Bateson ayrıca Microsoft’tan, özellikle de rızası olmadan, kanalın hikayelerinin üzerine veya yanında deneysel yapay zeka teknolojisini uygulamaktan kaçınmasını istedi. Ve böyle bir durumda, okuyucuların “ekstra özelliklerin” nereden kaynaklandığı konusunda bilgilendirilmesini sağlamak önemlidir.
Yapay zeka haydut mu oldu?
Böyle bir olaya ilk kez tanık olmuyoruz. Eylül ayında, MSN aracılığıyla yeniden yayınlanan bir makale, yakın zamanda ölen 42 yaşındaki eski bir NBA oyuncusunun ‘işe yaramaz’ olarak adlandırıldığı bir ölüm ilanının yazılması için yapay zekanın kullanılması nedeniyle viral hale geldi.
Verge, tuhaf olaya ve yapay zeka tarafından oluşturulan anketin moderasyon ekibinden nasıl izin aldığına ilişkin bir açıklama almak için Microsoft’a ulaştı. Microsoft’un genel müdürü Kit Thambiratnam şöyle yanıt verdi:
“Microsoft tarafından oluşturulan tüm haber makaleleri için anketleri devre dışı bıraktık ve uygunsuz içeriğin nedenini araştırıyoruz. Bu tür bir makalenin yanında bir anket görünmemeliydi ve bu tür hataların tekrarlanmasını önlemeye yardımcı olmak için adımlar atıyoruz. gelecekte.”
Yapay zekanın kazanımları var; eğer son raporlara bakılacak olursa, hâlâ yapılması gereken çok iş var. Ayrıca, özellikle böyle bir durumda insan müdahalesinin hala hayati önem taşıdığı ve böyle bir olayın gerçekleşmesi ihtimalinin oldukça düşük olduğu da açıktır.
Başkan Biden kısa süre önce diğer yapay zeka emniyeti, güvenliği ve güven konularının yanı sıra bu özel konuya da değinen bir Yönetici Kararnamesi yayınladı. Uzun vadede yaratacağı etkiyi görmek ilginç olacak.
Sizce yapay zekanın bu tür hatalar yapmadan içerik üretme yeteneği var mı? Düşüncelerinizi yorumlarda bizimle paylaşın.
