ChatGPT’nin beceriksizce kullanımı, New York City’deki bir hukuk firmasına 5.000 $ para cezası verdi.
OpenAI’nin yapay zeka destekli etkileyici sohbet robotu hakkında çok şey duyan avukat Steven Schwartz, bu yılın başlarında bir hakime verilen yasal bir brifinge ChatGPT tarafından oluşturulan vaka alıntılarını ekleyerek araştırma için kullanmaya karar verdi. Ancak çok geçmeden vakaların tamamen chatbot tarafından uydurulduğu ortaya çıktı.
ABD Bölge Yargıcı P. Kevin Castel Perşembe günü, davayı iş arkadaşından devralan avukatlar Steven Schwartz ve Peter LoDuca ile hukuk firmaları Levidow, Levidow & Oberman’a 5.000 dolar para cezası ödemelerini emretti.
yargıç dedi avukatlar, “yargı kararlarının mevcudiyetlerinin sorgulanmasından sonra ortaya çıkan sahte görüşlerin” yanında durmadan önce yapay zeka tarafından yazılan tutanağı sunarak “mahkemeye karşı bilinçli kaçınma eylemleri ve yanlış ve yanıltıcı beyanlarda bulundular” ve “sorumluluklarından vazgeçtiklerini” eklediler. ”
Castel devam etti: “Sahte görüşlerin sunulmasından birçok zarar doğar. Karşı taraf, aldatmacayı ortaya çıkarmak için zaman ve para harcıyor. Mahkemenin zamanı diğer önemli çabalardan alınmıştır.”
Yargıç, avukatların eyleminin “hukuk mesleği ve Amerikan yargı sistemi hakkında kinizmi teşvik ettiğini” de sözlerine ekledi.
Manhattan hukuk firması, mahkemenin görüşüne “saygıyla” katılmadığını söyledi ve bunu “iyi niyetli bir hata” olarak nitelendirdi.
Bu ayın başlarında ilgili bir mahkeme duruşmasında, Schwartz dedi bir arama motoru kullandığını düşündüğünü ve AI aracının gerçek dışı şeyler üretebileceğine dair hiçbir fikrinin olmadığını açıklayarak, yaşananlar için “içtenlikle özür dilemek” istedi. Eylemlerinden “derinden pişmanlık duyduğunu” söyledi ve şunları ekledi: “Hem profesyonel hem de kişisel olarak acı çektim. [because of] bu konunun yarattığı yaygın tanıtım. Hem utanıyorum, hem aşağılanıyorum hem de çok pişmanım.”
Olay, New York’a uçarken yaralandığını iddia ettikten sonra Kolombiyalı havayolu şirketi Avianca’ya dava açan bir yolcunun hukuk firması tarafından ele alınan bir davayla bağlantılıydı.
Avianca yargıçtan davayı düşürmesini istedi, bu nedenle yolcunun hukuk ekibi, yargıcı müvekkillerinin davasının devam etmesine izin vermeye ikna etmek amacıyla altı benzer davaya atıfta bulunan bir özet hazırladı. Schwartz, ChatGPT’ye sorarak bu vakaları buldu, ancak sonuçların gerçekliğini kontrol edemedi. Avianca’nın hukuk ekibi, brifingde yer alan vakaları tespit edemediğini söyleyince alarma geçti.
Perşembe günü ayrı bir emirle yargıç, Avianca’nın aleyhindeki davayı reddetme talebini kabul ederek tüm üzücü olayı sona erdirdi.
ChatGPT ve buna benzer diğer sohbet robotları, insan benzeri bir şekilde sohbet edebilmeleri ve giderek artan sayıda metin tabanlı görevi ustaca yerine getirebilmeleri nedeniyle son aylarda büyük ilgi gördü. Ama aynı zamanda bir şeyler uydurup gerçekmiş gibi sunmalarıyla da bilinirler. O kadar yaygın ki, onun için bir terim bile var: “halüsinasyon”.
Üretken yapay zeka araçları üzerinde çalışanlar, halüsinasyonları azaltmanın yollarını araştırıyorlar, ancak o zamana kadar kullanıcılara, sohbet robotlarının tükürdüğü “gerçekleri” dikkatlice kontrol etmeleri tavsiye ediliyor.