Yapay zekanın ilerlemesiyle birlikte iletişim ve bunun nasıl tasarlandığı ve sunulduğu tamamen yenilendi, ancak içerik için yapay zekaya olan bağımlılığın artması başka birçok sorunu da beraberinde getiriyor. Bir yanlış bilgilendirme uzmanı, yakın zamanda, yasal bir dosyalama için belgesinin taslağını hazırlamak amacıyla bu teknolojiyi kullandığı ve sonuçta sahte alıntılar içerdiği için ateş altındaydı. Bunu daha da ironik hale getiren şey, dava dosyasının yapay zeka tarafından oluşturulan içeriğin seçimlerden önce seçmenleri yanıltmak için kullanılmasıyla mücadele etme girişimi olmasıdır. Araştırmacı artık alıntıları kolaylaştırmak için ChatGPT’yi kullandığını itiraf etti ve hatanın beyanda sunulan noktalar üzerinde bir etkisi olmaması gerektiğine inanıyor.
Bir yanlış bilgi uzmanı artık ChatGPT’nin mahkeme dosyasında kullanıldığını ancak belgeye yanlış ayrıntılar ekleyen yapay zeka ‘halüsinasyonlarının’ farkında olmadığını itiraf ediyor
Jeff Hancock, bir dava için yeminli beyanda bulunan ve Deep Fake teknolojisinin seçimleri etkilemek için kullanılmasını yasaklayan Minnesota yasasını destekleyen bir Stanford profesörü ve yanlış bilgi uzmanıdır. Başlangıçta yapay zekanın kullanıcıları yanlış bir şekilde etkilemek için kullanılmasına karşı bir dava olması amaçlanan şey, artık ironik bir şekilde yasal belgede yapay zeka tarafından oluşturulan, yanlış bilgiler içeren ve bu belgeyi güvenilmez ve hatalı hale getiren ayrıntılara yer verildiği için büyük eleştirilerle karşı karşıya.
Şimdi, yanlış bilgi uzmanı, ek beyanalıntılarını düzenlemek için ChatGPT-4o’yu kullandığını ancak bunun sahte ayrıntılar veya uydurma referanslar eklediğinin farkında olmadığını itiraf etti. Aracın belgenin diğer bölümleri için kullanıldığını reddediyor ve hatanın kasıtsız olduğunu beyan ediyor. Daha sonraki sunumunda şunları yazdı:
Bildirgenin içeriğini ben yazdım ve inceledim ve burada yer alan tüm iddiaların arkasında sıkı bir şekilde duruyorum; bunların tümü alandaki en son bilimsel araştırmalarla destekleniyor ve bir uzman olarak yapay zeka teknolojisinin etkisine ilişkin görüşümü yansıtıyor. Yanlış bilgilendirme ve bunun toplumsal etkileri üzerine.
Hancock ayrıca alıntı listesini oluşturmak için Google Akademik’in yanı sıra GPT-4o’yu kullandığını ancak belgenin taslağını hazırlamak için kullanılmadığını açıkladı. Alıntı hataları yapmasıyla sonuçlanan yapay zeka halüsinasyonlarına ilişkin farkındalık eksikliğini vurguladı. Hancock daha sonra deklarasyonda vurgulanan noktalara ve kafa karışıklığından etkilenmemesi gereken bu noktaların yanında nasıl durduğuna odaklandı. Şöyle ifade etti:
Mahkemeyi veya avukatı yanıltmak gibi bir niyetim yoktu. Bunun yol açmış olabileceği herhangi bir kafa karışıklığından dolayı içten üzüntülerimi ifade ederim. Bununla birlikte, deklarasyondaki tüm önemli noktaların arkasında duruyorum.
Mahkeme, Hancock’un sunumundaki hatalara ilişkin açıklamasını kabul etse de etmese de, bu durum yapay zeka araçlarının hukuki bağlamlarda kullanılmasının risklerini vurguluyor.
