Uber’in, hesapları araç çağırma devi tarafından otomatik hesap bayraklarının kullanılması da dahil olmak üzere feshedilen iki sürücü tarafından açılan yasal itirazda, Avrupa Birliği’nin algoritmik şeffaflık gerekliliklerine uymadığı tespit edildi.
Uber ayrıca mahkemeyi, devam eden uyumsuzluk nedeniyle verilecek günlük 4 bin Euro tutarındaki para cezalarının üst sınırı konusunda ikna edemedi; bu ceza şu anda yarım milyon Euro’yu (584.000 Euro) aştı.
Amsterdam Bölge Mahkemesi, ‘robo ateşleme’ olarak nitelendirdikleri olay nedeniyle veri erişimi konusunda dava açan iki sürücünün lehine karar verdi. Ancak temyiz mahkemesi, Uber’in üçüncü bir sürücüye, algoritmasının hesabı potansiyel dolandırıcılık nedeniyle işaretlemesinin nedenleri konusunda yeterli bilgi sağladığına karar verdi.
Sürücüler, haklarında alınan önemli otomatik kararlarla ilgili olarak yasal olarak gerekli olduklarını iddia ettikleri bilgileri elde etmek için Uber’e dava açıyor.
Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği (GDPR), hem bireylere yasal veya önemli etkiye sahip yalnızca otomatik kararlara tabi olmama hem de veriyle ilgili “anlamlı bilgiler” almak da dahil olmak üzere bu tür algoritmik karar alma süreçleri hakkında bilgi alma hakkını sağlar. mantık söz konusudur; önemi; ve bu tür işlemenin veri sahibi için öngörülen sonuçları.
Sorunun özü, (insan) Uber personeli tarafından işaretlenmiş sürücü hesapları üzerinde gerçekleştirilen iddia edilen dolandırıcılık ve/veya risk incelemeleriyle değil, bu incelemeleri tetikleyen otomatik hesap işaretlemeleriyle ilgilidir.
Nisan ayında Hollanda’daki bir temyiz mahkemesi de, robot ateşleme iddiasıyla ilgili veri erişim hakları nedeniyle Uber ve başka bir araç çağırma platformu Ola’ya karşı dava açan platform çalışanlarının büyük ölçüde lehine karar verdi ve platformların ticari sır muafiyetlerine güvenemeyeceğine karar verdi. sürücülerin bu tür yapay zeka destekli kararlarla ilgili verilere erişimini engelleyin.
Son karara göre Uber, yapay zekaların hesaplarını işaretleme nedenleri hakkında sürücülere daha fazla veri ifşa edilmesine karşı çıkmak için ticari sırlar argümanını yeniden gündeme getirmeye çalıştı. Ayrıca genel olarak, sürücülere nasıl çalıştıklarına ilişkin tüm ayrıntıların sağlanması durumunda dolandırıcılıkla mücadele sistemlerinin çalışmayacağını savunuyor.
Uber’in iddialarına karşı çıkan iki sürücü durumunda şirketin, hesap incelemelerini tetikleyen “münhasıran” otomatik işaretler hakkında hiçbir bilgi sağlamadığı ortaya çıktı. Dolayısıyla AB’nin algoritmik şeffaflık kurallarının sürekli olarak ihlal edildiğine dair bulgu ortaya çıktı.
Hakim ayrıca, Uber’in iş ve gelir modeli hakkında bilgi vermek istemediği için belirli bilgileri “kasıtlı olarak” saklamaya çalışıyor olabileceğini öne sürdü.
Mahkemenin Uber’in kendisi hakkında – tam tersi – karar verdiği diğer sürücünün durumunda ise Karara göre “açık ve şimdilik yeterli bilgi” sağlandı, şirket, bayrağı tetikleyen karar alma sürecinin başladığını açıkladı (i) bu sürücünün iptal ücreti aldığı iptal edilen yolculukların sayısı; (ii) gerçekleştirilen sürüş sayısı; ve (iii) sürücünün belirli bir dönemde iptal edilen ve gerçekleştirilen sürüş sayısının oranı.
“Ayrıca açıklandı çünkü [this driver] Kısa bir süre içinde orantısız sayıda yolculuk yaptı ve bunun karşılığında iptal ücreti aldı, otomatik kural potansiyel iptal ücreti dolandırıcılığının sinyalini verdi,” diye de yazdı mahkeme kararında. [which is translated into English using machine translation].
Sürücü, sağladığı verilerin hala belirsiz veya çok kısa olduğunu ve Uber’in bir sürücüyü dolandırıcı olarak etiketlemesi için sınırın nerede olduğunu bilmediği için anlamlı olmadığını öne sürerek Uber’den daha fazla bilgi istedi.
Ancak bu davada geçici yardım hakimi, araç çağırma devinin bu ek bilgiyi sağlamak zorunda olmadığı konusunda Uber ile aynı fikirdeydi çünkü bu, Uber’in ifadesiyle “bu oranın hemen altında cezasızlıkla dolandırıcılığı çocukça kolay hale getirecekti.”
Uber’in bu sürücüyü (veya diğer ikisini) dolandırıcı olarak sınıflandırmasında haklı olup olmadığına ilişkin daha geniş soru, davanın bu noktasında değerlendirilmedi.
Hollanda’da uzun süredir devam eden dava, işçiler üzerinde algoritmik yönetim uygulayan platformların AB veri koruma kuralları kapsamında talep üzerine onlara ne kadar bilgi sağlaması gerektiği ve çalışanların ne kadar ‘kara kutuya alınması’ konusunda çizginin nerede olabileceğini belirlemeye çalışıyor gibi görünüyor. dolandırıcılık karşıtı sistemlerin sürücü tersine mühendislik yoluyla oynanmaması için ayrıntıları bulanıklaştırmak için yapay zekalarının gerekli olduğunu iddia edebilirler.
Karara yanıt isteyen bir Uber sözcüsü TechCrunch’a şu beyanı gönderdi:
Karar, birkaç yıl önce çok özel koşullar nedeniyle hesaplarına erişimi kaybeden üç sürücüyle ilgiliydi. Bu sürücülerin hesapları işaretlendiğinde, sürücü güvenliğini potansiyel olarak etkileyebilecek davranış türlerini tespit etmek üzere özel olarak eğitilmiş olan Güven ve Güvenlik Ekiplerimiz tarafından incelendi. Mahkeme, inceleme sürecinin insan ekiplerimiz tarafından yürütüldüğünü doğruladı; bu, sistemlerimiz potansiyel dolandırıcılık davranışlarını tespit ettiğinde standart uygulamadır.
Yasal mücadelenin itici güçleri, veri erişim haklarını savunan kuruluş, İşçi Bilgi Değişimi (WIE) ve Uygulama Sürücüleri ve Kuryeler Birliği tarafından üstleniliyor.
Sürücüleri temsil eden Ekker Hukuk Bürosu’ndan Anton Ekker yaptığı açıklamada şunları söyledi: “Sürücüler birkaç yıldır otomatik devre dışı bırakma konusunda bilgi alma hakları için mücadele ediyor. Amsterdam Temyiz Mahkemesi, 4 Nisan 2023 tarihli ilkesel kararında bu hakkı doğruladı. Uber’in şu ana kadar Mahkemenin kararına uymayı reddetmesi son derece sakıncalıdır. Ancak eninde sonunda şeffaflık ilkesinin hakim olacağına inanıyorum.”
WIE direktörü James Farrar, karar hakkında yorum yapan bir açıklamada şunları ekledi: “İster işçi haklarıyla ilgili Birleşik Krallık Yüksek Mahkemesi, ister veri koruma haklarıyla ilgili Hollanda Temyiz Mahkemesi olsun, Uber alışkanlıkla yasaları hiçe sayıyor ve hatta emirlere karşı geliyor. en kıdemli mahkemeler. Uber sürücüleri ve kuryeler, hükümet ve yerel düzenleyiciler arkalarına yaslanıp kuralları uygulamak için hiçbir şey yapmazken, işyerlerinde yıllarca süren acımasız algoritmik sömürü ve bir nebze olsun adalet sağlamak için süren zorlu davalardan yoruldu. Bunun yerine, Birleşik Krallık hükümeti, şu anda Parlamento’da bulunan Veri Koruma ve Dijital Bilgi Yasa Tasarısı’nda çalışanların otomatik karar almaya karşı sahip olduğu az sayıdaki korumayı ortadan kaldırmakla meşgul. Benzer şekilde, önerilen AB Platform Çalışma Yönergesi, hükümetler kuralların uygulanması konusunda ciddileşmedikçe anlamsız bir kağıt kaplan olacaktır.”