Bir kaldırım dağıtım robotunun sarı uyarı bandından geçerek ve Los Angeles’ta bir suç mahallinde yuvarlanırken videosu bu hafta viral oldu, Twitter’da 650.000’den fazla görüntülendi ve teknolojinin kullanıma hazır olup olmadığı konusunda tartışmalara yol açtı.
En azından bu durumda robotun hatasının insanlardan kaynaklandığı ortaya çıktı.
bu video olayın sahibi William Gude tarafından çekilmiş ve Twitter’da yayınlanmıştır. Polis Los Angeles’ı filme alın, Los Angeles merkezli bir polis bekçi hesabı. Gude, saat 10 civarında Hollywood Lisesi’nde şüpheli bir okulun bulunduğu bölgedeydi ve robot sokağın köşesinde gezinirken kafası karışmış halde videoya çektiğinde, biri bandı kaldırıp botun yoluna devam etmesine izin verene kadar suç mahallinde.
Uber spinout Serve Robotics, TechCrunch’a robotun kendi kendine sürüş sisteminin suç mahalline geçmeye karar vermediğini söyledi. Botu uzaktan çalıştıran bir insan operatörün seçimiydi.
Şirketin teslimat robotları, 4. Seviye özerkliğe sahiptir; bu, belirli koşullar altında devralacak bir insana ihtiyaç duymadan kendilerini sürebilecekleri anlamına gelir. Serve, Mayıs ayından bu yana bölgede robotlarını Uber Eats ile test ediyor.
Serve Robotics, bir insan operatörün her kavşakta robotunu uzaktan izlemesini ve yardımcı olmasını gerektiren bir politikaya sahiptir. İnsan operatör ayrıca, bot bir inşaat alanı veya devrilmiş bir ağaç gibi bir engelle karşılaşırsa ve 30 saniye içinde etrafında nasıl gezindiğini bulamazsa, uzaktan kontrolü ele alacaktır.
Bu durumda, bir teslimatı henüz bitirmiş olan bot, kavşağa yaklaştı ve şirketin dahili çalışma politikasına göre bir insan operatör devraldı. Başlangıçta, insan operatör sarı uyarı bandında durakladı. Serve Robotics CEO’su Ali Kashani TechCrunch’a verdiği demeçte, seyirciler kaseti kaldırdığında ve görünüşe göre “el salladı”, insan operatör ilerlemeye karar verdi.
Kashani, “Robot (kendi başına) asla geçmezdi” dedi. “Sadece, bir insan devam edene kadar asla geçmeyeceğinden emin olmak için birçok sistem var.”
Buradaki yargı hatası, birinin gerçekten geçmeye devam etmeye karar vermesidir, diye ekledi.
Nedeni ne olursa olsun, Kaşani bunun olmaması gerektiğini söyledi. Serve olaydan veri çekti ve gelecekte bunu önlemek için insan ve yapay zeka için yeni bir protokol seti üzerinde çalıştığını ekledi.
Çalışanların, uygun eğitimi ve bir kişinin robotu bir barikattan geçirmeye çalışması durumunda ne yapacağına ilişkin yeni kurallar geliştirmeyi içeren standart işletim prosedürünü (veya SOP) izlemesini sağlamak için birkaç açık adım olacaktır.
Ancak Kashani, bunun tekrar olmasını önlemek için yazılımı kullanmanın da yolları olduğunu söyledi.
Yazılım, insanların daha iyi kararlar almasına yardımcı olmak veya bir alandan tamamen kaçınmak için kullanılabilir, dedi. Örneğin şirket, polis olaylarıyla ilgili güncel bilgileri robota göndermek için yerel kolluk kuvvetleriyle birlikte çalışabilir, böylece bu alanlarda dolaşabilir. Diğer bir seçenek ise, yazılıma kolluk kuvvetlerini belirleme ve ardından insan karar vericileri uyarma ve onlara yerel yasaları hatırlatma yeteneği vermektir.
Bu dersler, robotlar ilerledikçe ve operasyonel alanlarını genişlettikçe kritik olacaktır.
“Komik olan, robotun doğru olanı yapması; durdu,” dedi Kaşani. “Yani bu, insanlara bu kararları vermek için insanlara ihtiyacımız olmadığından yeterince emin olana kadar, insanlara iyi kararlar vermeleri için yeterli bağlam sağlamaya geri dönüyor.”
Serve Robotics botları henüz bu noktaya ulaşmadı. Ancak Kashani, TechCrunch’a robotların daha bağımsız hale geldiğini ve iki istisna dışında genellikle kendi başlarına çalıştıklarını söyledi: kavşaklar ve bir tür abluka.
Kashani, bu hafta ortaya çıkan senaryonun, kaç kişinin AI’yı gördüğüne aykırı olduğunu söyledi.
Kashani, “Bence genel olarak anlatı, temel olarak insanların uç durumlarda gerçekten harika olduğunu ve ardından AI’nın hata yaptığını veya belki de gerçek dünyaya hazır olmadığını düşünüyorum.” Dedi. Tuhaf bir şekilde, bunun tam tersini öğreniyoruz, yani insanların çok fazla hata yaptığını ve yapay zekaya daha fazla güvenmemiz gerektiğini görüyoruz.”