Bu aşamada konuşmalı AI sohbet robotlarıyla ilgili sorunlardan biri, halüsinasyon görme eğiliminde olmalarıdır. Yani kullanıcının isteğine uygun bilgiler oluşturuyorlar. ChatGPT, kullanıcıya bir soruya yanıt vermek için tasarlanmış bir dil modelidir ve bunu yaparken, yapay zeka sohbet robotu, bulduğu doğru olmasa bile tüm boşlukları dolduracak bilgilerle gelir.
Schwartz’ın ChatGPT’yi kullanma kararı, ona 30 yıllık hukuk kariyerine mal olabilir
Bir avukat “yasal araştırma” yapmak için ChatGPT’yi kullandı ve bir dosyada var olmayan birkaç davayı gösterdi ve şu anda yargıçla başı büyük belada pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) 27 Mayıs 2023
Dosyalama durumunu iyileştirmek isteyen Schwartz, mahkemeye taşınan benzer davaları bulmasına yardımcı olması için ChatGPT’ye başvurdu. ChatGPT şu davaların bir listesini çıkardı: Varghese – China Southern Airlines, Shaboon – Egyptair, Petersen – Iran Air, Martinez – Delta Airlines, Estate of Durden – KLM Royal Dutch Airlines ve Miller – United Airlines.” Bu, yargıca atıfta bulunulacak davaların makul bir listesi gibi görünüyor. Sadece ufacık bir sorun vardı; bu davaların hiçbiri gerçek değildi! Hepsi ChatGPT tarafından yapılmıştı.
Avukat, AI sohbet robotunun kendisine sahte bilgiler verebileceğini asla düşünmedi.
Avianca’nın hukuk ekibi ve yargıç, Schwartz’ın dosyasında belirtilen davalardan hiçbirini bulamadıklarını hemen anladılar. Schwartz, mahkemeye verdiği beyanda, ChatGPT ile etkileşiminin bir ekran görüntüsünü ekledi ve konuşmalı yapay zeka sohbet robotu söz konusu olduğunda, “içeriğinin yanlış olabileceği ihtimalinin farkında olmadığını” söyledi. Yargıç, Schwartz için “potansiyel yaptırımları tartışmak” üzere gelecek ay için bir duruşma planladı.
Bu, işlerinin bir kısmını yapay zekaya yaptırmayı planlayan herkes için bir uyarı olsun. Zamandan tasarruf ettiğinizi düşünebilirsiniz, ancak kendi sıkı çalışmanızı bir yapay zeka sohbet robotunun sonuçlarıyla değiştirirseniz başınız daha fazla belaya girebilir. Makalelerimin yapay zeka tarafından yazılmasını asla istemem ve yalnızca yapay zekayı kullanarak kendinize zarar vermekle kalmıyorsunuz, ya yazmadığınız bir şeyin yazarlığını iddia ederek ya da muhtemelen izleyicilerinize yapay zeka sağladığınızdan izleyicilerinize yalan söylüyorsunuz. yukarı bilgi.
Yazmanız gereken bir makale konusunda size yardımcı olması için yapay zeka sohbet botu kullanmayı planlayan bir öğrenci veya davalardan alıntı yapmak isteyen bir avukat olmanız fark etmez. AI sohbet botları halüsinasyon görebilir ve size sahte bilgiler verebilir. Bu, yararlı olamayacakları ve sizi doğru yöne yönlendirebilecekleri anlamına gelmez. Ancak işaretleme yapıldıktan sonra, elde ettiğiniz bilgilerin meşru olduğundan emin olmak size kalmıştır.
