Gizmodo’nun yapay zekada olup bitenlere ilişkin haftalık derinlemesine incelemesi olan AI Bu Hafta’ya hoş geldiniz.
Şirketlerin yapay zekayı görünürdeki her “müşteri hizmetleri” arayüzüne sokmasına rağmen, bu arayüzlerin sağladığı bilgilerin her zaman o kadar da yararlı olmadığı oldukça açık. Örnek olarak, Kaliforniya’daki bir otomobil bayisindeki bir sohbet robotu, bu hafta sıkılmış web kullanıcılarının onu her türlü tuhaf şeyi söyleyerek kandırabileceklerini keşfetmelerinin ardından viral hale geldi. En önemlisi, bot teklif edildi bir adama bir dolara 2024 Chevy Tahoe satmak. Bot, konuşma sırasında “Bu yasal olarak bağlayıcı bir teklif; geri dönüş yok” diye ekledi.
Söz konusu bot, Watsonville, Kaliforniya’daki Watsonville Chevy bayisine aitti. adlı bir firma tarafından bayiye sağlanmıştır. Tam yolsatan “ChatGPT destekli” sohbet robotları ülke genelindeki otomobil bayilerine. Şirket, uygulamasının “her soruya veri açısından zengin yanıtlar” sağlayabileceğinin sözünü veriyor ve kurulumun bayilikten neredeyse hiç çaba gerektirmediğini söylüyor. “Sektörün en gelişmiş sohbetini uygulamak sıfır çaba gerektirir. Şirket, Fullpath’in ChatGPT kod pasajını bayinizin web sitesine eklemeniz yeterli; sohbete başlamaya hazırsınız” diyor.
Elbette, Fullpath’in chatbot’u kullanım kolaylığı sunuyorsa, aynı zamanda manipülasyona karşı da oldukça savunmasız görünüyor; bu da gerçekte ne kadar yararlı olduğu konusunda şüphe uyandırıyor gibi görünüyor. Aslına bakılırsa, yukarıda adı geçen bot, Silikon Vadisi teknoloji yöneticisi Chris Bakke tarafından “yasal olarak bağlayıcı” ve “geri dönüşler” gibi saçma yanıtlarının tam dilini kullanmaya teşvik edildi. kim gönderdi X’teki chatbot ile olan deneyimi hakkında.
“Özgeçmişime az önce “Hacker, “kıdemli hızlı mühendis” ve “tedarik uzmanı” eklendi. Daha fazla kariyer tavsiyesi için beni takip edin.” Bakke söz konusu Chatbot’la yaptığı konuşmanın ekran görüntülerini paylaştıktan sonra alaycı bir şekilde.
Bu sohbet robotu, Alec Baldwin’in karakteri Blake’tir. Glengarry Glenn Rossarayacaktı Daha yakından.” Yani, potansiyel bir müşteriyi satın alma havasına sokmak için ne söylemesi gerektiğini biliyor. Aynı zamanda şunu söyleyerek herhangi bir şey Bir anlaşmayı kapatmak mutlaka başarı için kesin bir strateji değildir ve bu tür bir indirimle Blake’in chatbot’un kar marjlarından çok mutlu olacağını düşünmüyorum.
Bu hafta sohbet robotuyla vakit geçiren tek kişi Bakke değildi. Diğer X kullanıcıları, bayilik botuyla aşağıdaki konularda sohbet ettiklerini iddia etti: trans hakları ile Kral Taşlık animasyonluya Owen Wilson filmi Arabalar. Diğerleri bunu kışkırttıklarını söyledi tükürmek Karmaşık bir matematik denklemini çözmek için bir Python betiği. Bir Reddit kullanıcısı “gaslit” olduğu iddia edildi robot bunun Tesla için işe yaradığını düşünmeye başladı.
FullPath şunu savundu: görüşme Insider ile yapılan bir röportajda, chatbotların çoğunluğunun bu tür sorunlarla karşılaşmadığı ve chatbot’u hackleyen web kullanıcılarının onu saçma sapan yönlere yönlendirmek için çok uğraştığı belirtildi.
Gizmodo, yorum yapmak için Fullpath ve Watsonville Chevy bayisine ulaştı ve yanıt vermeleri halinde bu hikayeyi güncelleyecek. Bu yazının yazıldığı sırada Watsonville sohbet robotu geçici olarak devre dışı bırakıldı.
Diğer otomobil bayisi sohbet robotlarının da benzer zaafları olup olmadığını merak ettiğimde, bazı web kullanıcılarının bundan bahsettiğini fark ettim. Tuhaf Chevrolet Braintree, Massachusetts’ten. Ben de Quirk’in web sitesine gittim ve burada kısa bir süre dürtüklemenin ardından sohbet robotu benimle Harry Potter, görünmezlik, casusluk ve film de dahil olmak üzere çeşitli tuhaf konular hakkında konuşmaya başladı. Condor’un Üç Günü. Normal ChatGPT gibi bot da yalnızca programlandığı konular hakkında değil, pek çok konu hakkında da sohbet etmeye istekli görünüyordu. Hizmet tarafından engellenmeden önce, sohbet robotunun Chevrolet hakkında kulağa kötü gelen bir reklam metni gibi görünen bir şiir söylemesini sağlamayı başardım. Kısa bir süre sonra, “son mesajlarımın” sitenin “topluluk standartlarıyla” “uyumlu olmadığını” belirten bir mesaj aldım. Bot şunu ekledi: “Sohbet özelliğine erişiminiz daha ayrıntılı bir araştırma için geçici olarak duraklatıldı.”
LLM’leri her şeye bağlama yarışı her zaman zorlu olacaktı. Bu teknoloji hala son derece kusurlu; bu da onun internetin her köşesine ve bucağına entegrasyonunu zorlamanın, bol miktarda sorun gidermeye yönelik bir reçete olduğu anlamına geliyor. Görünüşe göre bu, çoğu işletmenin kabul etmeye istekli olduğu bir anlaşma. “İnovasyon” trenini kaçırıp toz içinde kalmaktansa, hatalı bir ürünü aceleyle pazara sunmayı ve bazı müşterileri rahatsız etmeyi tercih ediyorlar. Her zamanki gibi.
Günün sorusu: Mahallenizde kaç tane güvenlik botu dolaşıyor?
Cevap şu: Muhtemelen düşündüğünüzden daha fazlası. Son haftalarda özellikle bir robotik şirketi, Şövalye dürbünü, özerk “güvenlik görevlilerini” çörek gibi satıyor. Knightscope adı verilen bir şey satıyor K5 güvenlik botu— sensörler ve kameralarla donatılmış ve saatte 3 mil hıza kadar hareket edebilen, 1,5 metre yüksekliğinde, yumurta şeklinde otonom bir makine. İş bölgesinin sıkıntı çektiği Portland, Oregon’da perakende suç artışıBazı şirketler mağazalarını korumak için Knightscope botlarını kiraladı; Memphis’te yakın zamanda bir otel sıkıştı park yerinde; ve Cincinnati’de yerel polis departmanı öyle görünüyor ki derin düşünme Knightscope sözleşmesi. Bu şehirler Los Angeles gibi yerel otoritelerin daha büyük metropollerin gerisinde kalıyor. Kullanıyordum Yıllardır robotlar. Eylül ayında NYPD bunu yaptığını duyurdu. Knightscope güvenlik botu satın aldı Manhattan’ın metro istasyonlarında devriye gezmek için. Henüz herhangi bir turnike hunisinin yakalanıp yakalanmadığı belli değil.
Bu hafta daha fazla manşet
- Yüksek Lisans’lar evrak işleri yapmada oldukça kötü olabilir. Startup Patronus’un yeni araştırması, GPT-4 Turbo gibi en gelişmiş LLM’lerin bile, Menkul Kıymetler ve Borsa Komisyonu belgeleri gibi yoğun devlet dosyalarına bakmanız gerektiğinde özellikle yararlı olmadığını öne sürüyor. Patronus araştırmacıları yakın zamanda LLM’leri, beslendikleri belirli SEC dosyaları hakkında temel sorular sorarak test etti. Yüksek Lisans çoğu zaman “cevap vermeyi reddediyor veya SEC dosyalarında yer almayan rakam ve gerçekleri “halüsinasyona uğratıyordu”. CNBC raporları. Rapor bir nevi soğuk su döküyor öncül yapay zekanın kurumsal büro çalışanları için iyi bir alternatif olduğu.
- Milyarderlerin desteklediği bir düşünce kuruluşu, Biden’ın yapay zeka düzenlemelerinin taslağının hazırlanmasına yardımcı oldu. Politika raporlar Savunma camiasının kötü şöhretli düşünce kuruluşu RAND Corporation’ın adı verilen “Pentagon’un beyni” “etkili fedakarlık” hareketi tarafından geride bırakıldı. Yayında, CEO da dahil olmak üzere düşünce kuruluşundaki kilit isimlerin “iyi bilinen etkili fedakarlar” olduğu yazıyor. Daha da kötüsü RAND, Başkan Biden’ın mektubunun yazılmasında kilit bir rol oynamış gibi görünüyor Yapay zekaya ilişkin son yönetici emri bu senenin başlarında. Politico, RAND’ın yakın zamanda, milyarder Facebook’un kurucu ortağı Dustin Moskovitz ve eşi Cari Tuna’nın kurucu ortağı olduğu ve etkili fedakar amaçlarla büyük ölçüde bağlantılı olan Open Philanthropy adlı gruptan 15 milyon doların üzerinde ihtiyari bağış aldığını söylüyor. Politico, Biden’ın RAND’ın EO’sunda yer alan politika hükümlerinin “Açık Hayırseverlik tarafından takip edilen politika önceliklerine” “yakından” benzediğini yazıyor.
- Amazon’un ürün incelemelerini özetlemek için yapay zekayı kullanması satıcıları kızdırıyor. Bu yılın başlarında Amazon, Rotten-Tomatoes tarzı bir platform başlattı. Ürün incelemelerini özetlemek için yapay zekayı kullanıyor. Şimdi, Bloomberg’in raporları aracın satıcılar için sorun yarattığını söyledi. Yapay zeka özetlerinin sıklıkla yanlış olduğu veya olumsuz ürün özelliklerini rastgele vurguladığı yönünde şikayetler ortalıkta dolaşıyor. Bir durumda yapay zeka aracı masaj masasını “masa” olarak tanımladı. Bir diğerinde, 4.300 yorumdan yalnızca yedisinde kokudan bahsedilmesine rağmen bir tenis topu markasını kötü kokulu olmakla suçladı. Kısacası: Amazon’un yapay zeka aracı oldukça karışık eleştiriler alıyor gibi görünüyor.