2023’ün yapay zeka yılı olabileceğini düşünmeye başlıyorsanız, yalnız değilsiniz. Daha Şubat ayında, teknolojinin heyecanı yapay zeka sohbet robotu ChatGPT’nin tarihteki en hızlı büyüyen tüketici uygulaması haline gelmesini sağladı.
Sadece iki ayda 100 milyon kullanıcıya ulaşan ChatGPT’nin başarısı olağanüstüydü ve sanat oluşturucular gibi diğer yapay zeka araçları da bu heyecandan yararlanıyordu.
Yine de robo dostlarımız için her şey yolunda gitmedi.
Ocak ayında, AI sanat üreticileri Stability AI, Midjourney ve DeviantArt’ın DreamUp’ına karşı, AI araçlarını eğitmek için sanatçıların orijinal eserlerinin yetkisiz kullanımı yoluyla telif hakkı ihlali iddiasıyla bir ABD federal davası açıldı.
Chatbot’ların, sağladığı yanıtlarda intihal ve yanlışlıklar iddialarıyla karşı karşıya kalan kendi sorunları vardı.
Ve şimdi, ChatGPT, özgeçmişine, sohbet robotu ve geliştiricileri OpenAI’ye karşı dönüm noktası niteliğindeki bir iddiayla ilgili haberlerle birlikte, özgeçmişine iftira iddiaları da ekleyebilir.
İddia, Melbourne şehrinin kuzeybatısındaki bir banliyö konseyinin şu anki belediye başkanı olan Avustralyalı Brian Hood adına, Hood’un rüşvet suçlamasıyla hapis yattığını iddia eden chatbot’tan gelen bir yanıtın ardından geldi.
Sorun? Bunun doğru olmamasının yanı sıra Hood, ChatGPT’nin şimdi işlediğini iddia ettiği suçları ifşa etmede muhbir rolünü oynamıştı.
2012 yılında Avustralya Merkez Bankası ve Avustralya finans kuruluşu Securency and Note Printing Australia’nın sahip olduğu iki şirkete toplam 21 milyon Avustralya Doları para cezası verildi. (yeni sekmede açılır)Endonezya, Vietnam ve Malezya’daki yabancı yetkililerle banknot sözleşmelerini güvence altına almak için yapılan anlaşmalar yoluyla rüşvet veya rüşvet için komplo kurduklarının tespit edilmesinin ardından.
Hood, yetkilileri ve medyayı yasa dışı davranış hakkında bilgilendirmek için öne çıkarak bu önemli yasal davanın katalizörü olmuştu. Hood, finans kurumlarına karşı bulgularda o kadar etkiliydi ki, Victoria Yüksek Mahkemesi Yargıcı Elizabeth Hollingworth, Hood’un “muazzam bir cesaret” gösterdiğine kararında dikkat çekti.
Yine de, “Güvenlik rüşvet destanında Brian Hood’un rolü nedir?” sorusu sorulduğunda, ChatGPT tamamen başka bir hikaye uydurdu.
Chatbot, “Hood, bir rüşvet skandalına karışmakla suçlanan kişilerden biriydi” dedi. “2011 yılında, Endonezya ve Malezya’daki yabancı yetkililere rüşvet vermek için üç kez komplo kurmakla ve bir kez de yanlış muhasebe yapmakla suçlandı. Hood, 2012 yılında suçlamaları kabul etti ve iki yıl üç ay hapis cezasına çarptırıldı.”
Chatbot tarafından yapılan asılsız iddiaları öğrenmesinin ardından, Hood adına hareket eden avukatlar, Mart ayı sonlarında ChatGPT geliştiricileri OpenAI’ye bir endişe bildiriminde bulundular ve Hood’un avukatları ayrıca bunun bir yanıt alamadığını iddia etti.
Beklentiler sınırlamaları karşılar
ChatGPT arayüzündeki bir sorumluluk reddi beyanı, kullanıcıları “ChatGPT’nin kişiler, yerler veya gerçekler hakkında yanlış bilgiler üretebileceği” konusunda uyarırken, OpenAI ayrıca daha önce aracın potansiyel sorunları tespit etmek ve düzeltmek için tamamlanmadan yayınlandığını öne sürmüştü.
Yine de bu, Brian Hood’unki gibi durumlarda çok az rahatlık sağlıyor ve bazıları da bu tür vakaların daha çok araçların bir bütün olarak doğasında bulunan kusurların bir sonucu olduğunu öne sürüyor.
Monash Üniversitesi’nde Veri Bilimi ve Yapay Zeka Bölümü’nden Profesör Geoff Webb, “ChatGPT gibi büyük dil modelleri, üzerinde eğitildikleri çok miktarda metnin biçimini ve stilini yansıtıyor” diyor. “Kendilerine verilen örneklerdeki yalanları tekrar edecekler, ürettikleri metne uygun yeni bilgiler de uyduracaklar.”
Bu davada bu senaryolardan hangisinin geçerli olduğu belli değil.”
Bu makaleyi yazarken, ChatGPT’ye bu son iftira iddiasına yol açan sonuçları denemek ve tekrarlamak için tasarlanmış bir dizi soru sormak, bunu yapmakta başarısız oldu.
Bunun nedeni, GPT-3.5 kullanarak sonuçları tekrarlama girişimlerimiz başarısız olduğundan, iftira tehdidine yanıt olarak OpenAI adına yapılan değişiklikler olabilir.
Durum ne olursa olsun, bunun Hood’un iddiasının geleceği için ne anlama geleceği belli değil, ancak ChatGPT’nin son sayısı, teknolojinin sınırlamalarının bir örneği olarak hizmet ediyor. Yapay zeka sohbet robotları kendilerine beslenen bilgilere güvenmekle kalmaz, aynı zamanda doğası gereği eleştirel düşünme ve gerektiğinde ‘satır aralarını okuma’ yeteneğinden yoksundur.
Görünüşe bakılırsa, ChatGPT, Brian Hood’un iki Avustralya finans kurumuna karşı dönüm noktası niteliğindeki ceza davasına karıştığını başarılı bir şekilde kavrayabildi, ancak bu katılımın iddia edilen suçlara iştirak olmadığını anlayamadı.
Mart ayı başlarında yayınlanan en yeni GPT güncellemesi GPT-4 ile, gelecekte buna benzer hatalardan kaçınmak için ufukta küçük bir umut var. OpenAI’ye göre, bu GPT güncellemesi, rakip sorularda gerçeğe dayalı doğrulukta %40’lık bir iyileştirme sağlıyor. yayın raporu (yeni sekmede açılır).
Ancak bunun ChatGPT’yi beladan uzak tutacak kadar iyi olup olmadığı henüz görülmedi.