Kullanıcıların istenmeyen abonelikleri iptal etmelerine ve park cezalarıyla mücadele etmelerine yardımcı olmasıyla bilinen yapay zeka şirketi DoNotPay, “dünyanın ilk robot avukatı” olarak tanıtılan bir yapay zeka sohbet robotu konusunda FTC ile bir anlaşmaya vardı. FTC’ye göre yapay zeka avukatı iddialarını yerine getirmedi ve DoNotPay sohbet robotu aracını asla düzgün bir şekilde test etmedi. Aslında şirketin ürün üzerinde çalışması için gerçek bir insan avukat bile işe almadığı bildirildi.
DoNotPay 193.000 dolar ödemeyi kabul etti ve 2021’den 2023’e kadar AI avukatını kullanan önceki müşterilere abonelik hizmetinin sınırlamaları hakkında uyarıda bulunan bir bildirim göndermesi gerekecek. Anlaşma ayrıca Çarşamba günü yapılan bir açıklamaya göre “şirketin, bunu destekleyecek kanıt olmadan herhangi bir profesyonel hizmetin yerine geçebilme yeteneği hakkında iddialarda bulunmasını yasaklayacak” FTC’den.
Yapay zeka avukatı, kendisini küçük davalar mahkemesinde saldırı davası açmak ve durdurma ve vazgeçme mektubu hazırlamak gibi şeyler için kullanılabilecek bir araç olarak tanıttı. FTC’ye göre, yapay zeka aracı ayrıca gizlilik anlaşmaları, iş sözleşmeleri, evlilik öncesi anlaşmalar ve velayet anlaşmaları gibi yasal belgeler de oluşturdu. DoNotPay başlangıçta yapay zeka avukatını fiziksel bir mahkeme salonunda kullanmayı planlamıştı ancak Eyalet Barolarından tehditler aldıktan sonra 2023’ün başlarında bu planı sonlandırdı.
FTC’ye şikayette bulunmak için buraya tıklayın çevrimiçi okuLos Angeles Times’tan alınmış gibi görünen DoNotPay web sitesinde yer alan bir alıntı da dahil olmak üzere oldukça tuhaf ayrıntılarla dolu: “Bu robot avukatın yapabildiği şey, insan avukatların yaptıklarına şaşırtıcı derecede benziyor – hatta daha da fazla.” Gerçekte, alıntı Los Angeles Times’dan alınmıştır Lise İçeriden FTC’ye göre, lise öğrencilerine yönelik kullanıcı tarafından oluşturulan içerik platformu olan web sitesi.
FTC şikayetine göre araç, makul bir insanın bekleyeceği şekilde test edilmedi:
DoNotPay çalışanları, Hizmetin hukukla ilgili özelliklerinin çoğunun ürettiği yasal belgelerin ve tavsiyelerin kalitesini ve doğruluğunu test etmemiştir. DoNotPay, Hizmetin hukukla ilgili özelliklerinin kalitesini ve doğruluğunu test etmek için avukatlar istihdam etmemiş ve avukatları, hele ki ilgili hukuki uzmanlığa sahip avukatları tutmamıştır.
Yapay zeka şirketinin kurucusu Joshua Browder, daha önce DoNotPay’in “200 milyar dolarlık hukuk sektörünü yapay zeka ile değiştirmek” istediğini söylemişti. Browder, teknoloji yatırımcısı Peter Thiel tarafından başlatılan ve insanlara üniversiteyi bırakıp iş kurmaları için para veren Thiel Fellowship programı kapsamında 2018’de üniversiteden ayrılmıştı.
DoNotPay ise şirketin FTC ile vardığı anlaşmada herhangi bir sorumluluk kabul etmediğini hemen belirtti.
Şirket, ismi açıklanmayan bir “DoNotPay Sözcüsü”ne atfedilen bir açıklamada, “DoNotPay, bu davayı çözmek ve sorumluluk kabul etmeden bu sorunları tamamen çözmek için FTC ile yapıcı bir şekilde çalışmaktan mutluluk duymaktadır” dedi.
Gizmodo, AI avukatının işini kontrol etmek için bir avukat tutmadığı iddialarını sordu, ancak şirket bu sorulara açıklamasında değinmedi. Açıklamanın AI tarafından mı oluşturulduğu yoksa bir insan tarafından mı yazıldığı belli değil.
“Şikayet, birkaç yıl önce (milyonlarca kişiden) birkaç yüz müşterinin, uzun süredir durdurulmuş hizmetlerle kullanımıyla ilgilidir,” diye devam etti açıklamada. “DoNotPay, bu konuyu ele almada inanılmaz derecede yardımcı olan FTC’deki eski Ortak Direktör Maneesha Mithal’ı dış danışman olarak tuttu.”
DoNotPay’e karşı harekete geçilmesiyle ilgili haber, Çarşamba günü FTC tarafından yapay zekaya karşı sert önlemler alınmasına odaklanan daha geniş bir duyurunun parçasıydı. Ve ilerici Demokratlar tarafından sevilen ve son yaptırım eylemleri nedeniyle birçok büyük işletme tarafından hor görülen bir figür olan FTC başkanı Lina Khan, yapay zekanın kullanılmasının mevcut yasalara herhangi bir muafiyet sağlamadığını söylüyor.
Khan, Twitter’da yayınlanan bir bildiride, “İnsanları kandırmak, yanıltmak veya dolandırmak için yapay zeka araçları kullanmak yasadışıdır” dedi. ajansın web sitesi.
“FTC’nin yaptırım eylemleri, kitaplardaki yasalara göre yapay zekanın muaf olmadığını açıkça ortaya koyuyor,” diye devam etti Khan. “FTC, bu pazarlardaki haksız veya aldatıcı uygulamalara karşı sert önlemler alarak, dürüst işletmelerin ve yenilikçilerin adil bir şansa sahip olmasını ve tüketicilerin korunmasını sağlıyor.”
