BBC News’e atfedilen ve New York’ta önde gelen bir sağlık sigortası CEO’sunu öldürmekle suçlanan Luigi Mangione’nin kendisini vurduğunu iddia eden yalan bir bildirimin ardından Apple ateş altında. Şok edici ve yanlış başlık, haber bildirimlerini özetlemek için yapay zekayı kullanan Apple Intelligence kullanılarak oluşturuldu.
Gerçekte olay gerçekleşmedi, ancak özetin yayınlanmasından kısa bir süre sonra sosyal medya zaten yalan haberleri hızla yaymaya başlamıştı. Yapay zeka tarafından oluşturulan özetin yanlışlıkla yüksek profilli cinayet davasının ayrıntılarını yayınladığı doğrulandığında, bu durum Apple’ın haber özeti özelliğinin doğruluğu konusunda endişelere yol açtı.
BBC, bu tür hataların tekrarlanmasını önlemek için düzeltici önlemler talep ederek Apple’a resmi olarak şikayette bulundu ve hesap verebilirliğin önemini daha da vurguladı. Medya kuruluşunun sitesi editoryal değerlerini belirtir“İzleyicilerimizin tüm içeriğimize duyduğu güven, yaptığımız her şeyin temelini oluşturur. Bağımsız, tarafsız ve dürüstüz. En yüksek doğruluk ve tarafsızlık standartlarına ulaşmaya kararlıyız ve izleyicilerimizi bilerek veya maddi olarak yanıltmaktan kaçınmaya çalışıyoruz.”
Medya kuruluşları güvenilirliklerini korumak için büyük yatırımlar yapıyor ve üçüncü taraf platformların yaptığı hatalar bu güveni zedeleme tehlikesi yaratıyor. Yanlış bilgiler çevrimiçi olarak hızla yayılabileceğinden, otomatik haber bildirimlerinin doğru olması son derece önemlidir.
Apple, BBC’nin şikayetine henüz kamuya açık bir yanıt vermedi. Ancak bu olay, Apple Intelligence’ın yapay zeka destekli özetleri aracılığıyla yanlış bilgi yaydığı için eleştiriyle karşılaştığı ilk olay değil. 21 Kasım’da New York Times’a atfedilen bir bildirim, hatalı bir şekilde İsrail Başbakanı Binyamin Netanyahu’nun tutuklandığını öne sürüyordu. Gerçek hikaye, Uluslararası Ceza Mahkemesi’nin Netanyahu için tutuklama emri çıkarmasıyla ilgiliydi, ancak AI özeti gerçekleri önemli ölçüde çarpıttı. New York Times olayla ilgili yorum yapmamayı tercih etti.
Yasaklama çağrısı
RSF: yasak çağrısı tamamen üretken yapay zeka özelliği üzerinde. Sınır Tanımayan Gazeteciler kendi sitesinde yapay zeka araçlarının yanlış haber uyarılarına ilişkin risklerinden endişe duyduklarını belirten bir açıklama yaptı. Kuruluş, bunların haberlerin aktarılmasında kullanılamayacak kadar yeni olduğuna inanıyor.
RSF’nin Teknoloji ve Gazetecilik Masası Başkanı sitede şunları söyledi: “Yapay zekalar olasılık makineleridir ve gerçeklere zar atılarak karar verilemez. RSF, Apple’ı bu özelliği kaldırarak sorumlu davranmaya çağırıyor. Bir medya kuruluşuna atfedilen yanlış bilgilerin otomatik olarak üretilmesi, kuruluşun güvenilirliğine bir darbedir ve halkın güncel olaylarla ilgili güvenilir bilgi alma hakkına yönelik bir tehlikedir. Avrupa Yapay Zeka Yasası, bu alanda dünyanın en gelişmiş mevzuatı olmasına rağmen, bilgi üreten yapay zekaları yüksek riskli sistemler olarak sınıflandırmadı ve kritik bir yasal boşluk bıraktı. Bu boşluğun bir an önce doldurulması gerekiyor.”
İleriye bakmak
Apple Intelligence ile ilgili sorunlar, hassas bilgilerin işlenmesinde yapay zekanın güvenilirliği konusunda daha geniş endişelere yol açtı. Yapay zeka destekli araçlar, kullanıcı deneyimlerini kolaylaştırmak ve geliştirmek için tasarlanmış olsa da çoğu zaman doğru raporlamanın temel unsurları olan bağlam ve ince ayrıntılarla mücadele eder. Güvenilir haber kaynakları bu hatalarla yanlış tanıtıldığında kamuoyunun yanlış anlama potansiyeli katlanarak artıyor.
Sorun aynı zamanda yapay zekayı haber dağıtımına entegre etmenin daha geniş sonuçlarını da vurguluyor. Apple gibi teknoloji şirketleri içerik iyileştirme için yapay zekayı benimsemeye devam ettikçe, bu sistemlerin yeterince test edilmesini ve izlenmesini sağlamak için artan bir baskı var. Haber kuruluşları ise itibarlarına zarar verebilecek hatalara karşı geri adım atmaya başlıyor.
Bu olay, içerik sunumu için yapay zekaya çok fazla güvenmenin riskleri hakkında bir uyarı görevi görüyor ve şu soruyu gündeme getiriyor: Yanlış bilgi riski, otomatik haber özetlerinin rahatlığından daha mı ağır basıyor? Yapay zeka, verimliliği ve erişilebilirliği artırma konusunda umut vaat ediyor olsa da, sınırlamaları gazetecilikte insan gözetimine olan kalıcı ihtiyacın altını çiziyor. Apple, Apple Intelligence’daki kusurları gidermeye yönelik artan baskıyla karşı karşıya kalırken, yapay zekanın haber medyasındaki rolüne ilişkin tartışmanın yoğunlaşması muhtemeldir.
