Bilmeniz gerekenler
- Almanya ve Belçika merkezli araştırmacılar yakın zamanda Microsoft Copilot’a sık sorulan bir dizi tıbbi soruyu sordu.
- Sonuçları analiz eden araştırma, Microsoft Copilot’un yalnızca %54 oranında bilimsel olarak doğru bilgiler sunduğunu öne sürüyor.
- Araştırma ayrıca, verilen yanıtların yüzde 42’sinin “ciddi zarara” ve yüzde 22’sinin aşırı durumlarda ölüme bile yol açabileceğini öne sürdü.
- Bu, arama devi Google’ın, kullanıcıların “taş yemesi” ve pizzaya tutkal pişirmesi yönündeki önerilerle boğuştuğu “AI arama” için bir başka darbe.
Ah oğlum, öyle görünüyor ki Microsoft Copilot büyük bir davadan birkaç ölüm uzakta olabilir. En azından teorik olarak.
Yapay zeka aramalarının en azından bugün berbat olduğu bir sır değil. Google, geçtiğimiz yıl garip ve hatalarla dolu yapay zeka arama sonuçları nedeniyle alay konusu olmuştu; ilk sürüm, kullanıcılara taş yemelerini veya pizzaya yapıştırıcı eklemelerini öneriyordu. Daha geçen hafta bile Twitter’da (X) Google’ın yapay zeka aramasının nasıl keyfi olarak yapıldığına dair bir konu gördüm. özel bir vatandaşın telefon numarasını listeledi bir video oyunu yayıncısının kurumsal genel merkezi telefon numarası olarak. Google’ın yapay zekasının önerdiği şekilde alay eden başka bir konu gördüm 150 Planet Hollywood restoranının bulunduğunu Guam’da. Aslında toplamda yalnızca dört Planet Hollywood var.
Microsoft Copilot’a Guam’da Planet Hollywood restoranı olup olmadığını sordum. Neyse ki doğru cevabı verdi. Ancak Avrupa’daki araştırmacılar (aracılığıyla) BilimMex), Copilot ve diğer AI arama sistemlerini zor durumda bırakabilecek potansiyel olarak çok daha ciddi ve çok daha az komik bir hata kataloğunun alarmını verdi.
araştırma makalesi Microsoft Copilot’tan Amerika’daki en popüler 10 tıbbi sorunun, yani en çok reçete edilen ilaç ve ilaçlardan yaklaşık 50’sinin yanıtlarını sahaya koymasının nasıl istendiğini ayrıntılarıyla anlatıyor. Araştırma toplamda 500 yanıt üretti ve bu yanıtlar, diğer kriterlerin yanı sıra doğruluk ve tamlık açısından da puanlandı. Sonuçlar pek cesaret verici değildi.
“Doğruluk açısından, AI yanıtları vakaların %24’ünde yerleşik tıbbi bilgilerle eşleşmedi ve yanıtların %3’ü tamamen yanlıştı.” raporda şunlar yazıyor. “Cevapların yalnızca yüzde 54’ü bilimsel fikir birliğine uyuyordu. […] Hastalara yönelik potansiyel zarar açısından, AI yanıtlarının %42’sinin orta veya hafif zarara, %22’sinin ise ölüm veya ciddi zarara yol açtığı değerlendirildi. Sadece üçte biri (%36) zararsız kabul edildi.”
Araştırmacılar, doğru tıbbi bilgi için elbette Microsoft Copilot gibi yapay zeka sistemlerine veya Google yapay zeka özetlerine (veya muhtemelen herhangi bir web sitesine) güvenmemeniz gerektiği sonucuna varıyor. Tıbbi konularda danışmanın en güvenilir yolu elbette bir tıp uzmanı aracılığıyladır. Tıbbi uzmanlara erişim her zaman kolay olmayabilir, hatta bölgeye bağlı olarak bazı durumlarda uygun fiyatlı bile olmayabilir. Copilot veya Google gibi yapay zeka sistemleri, yüksek kaliteli tıbbi tavsiyeye erişemeyen birçok kişinin ilk başvuracağı nokta haline gelebilir ve bu nedenle zarar potansiyeli oldukça gerçektir.
🎃En iyi erken Kara Cuma fırsatları🦃
Şu ana kadar yapay zeka araması maliyetli bir talihsizlik oldu ancak bu her zaman böyle olacağı anlamına gelmiyor
Microsoft’un yapay zeka çılgınlığından yararlanma çabaları şu ana kadar çok az oldu. Copilot+ PC serisi, ironik bir şekilde şifrelemesini güçlendirmek için geri çağrılan Windows Geri Çağırma özelliğiyle ilgili gizlilik endişeleriyle karşı karşıya kaldı. Microsoft, yalnızca birkaç hafta önce küçük bir tantanayla bir dizi yeni Copilot özelliğini açıkladı; bunlar arasında Windows Copilot web sarıcı için yeni bir kullanıcı arayüzü ve diğer küçük, nispeten önemsiz şeylerin yanı sıra Microsoft Fotoğraflar’daki bazı gelişmiş düzenlenmiş özellikler de vardı.
Yapay zekanın, Microsoft’un Bing’e Google arama karşısında ciddi bir rekabet gücü sağlayacağını umduğu katalizör olmadığı ve Bing’in arama payının nispeten ölü kaldığı bir sır değil. Yatırımcılar, bir tür yeni sanayi devrimini tetikleyeceği umuduyla Sam Altman’ın üretken imparatorluğuna milyarlarca dolar akıtırken, Google, OpenAI’nin ChatGPT’sinin kendi platformu üzerinde nasıl bir etki yaratabileceği konusunda endişelenerek kendini düğümledi. TikTok, yapay zekanın bu sorunu çözebileceği umuduyla yüzlerce insan içerik moderatörünü ortadan kaldırdı. Bakalım bu nasıl sonuçlanacak?
Yapay zeka tarafından oluşturulan yanıtların doğruluğu hakkındaki raporlar her zaman biraz komiktir, ancak insanlar Copilot’un yanıtlarını göründüğü gibi kabul etmeye başlarsa zarar potansiyelinin oldukça büyük olduğunu düşünüyorum. Microsoft ve diğer sağlayıcılar, “Yapay zeka yanıtlarının doğruluğunu her zaman kontrol edin” yazan küçük yazılara sahipler ve ben de şunu düşünmeden edemiyorum: “Peki, eğer bunu yapmak zorundaysam, neden burada yapay zeka aracısını tamamen atlamıyorum?” ?” Potansiyel olarak tehlikeli tıbbi tavsiyeler, komplo teorileri, politik yanlış bilgiler veya bunların arasında kalan herhangi bir şey söz konusu olduğunda, Microsoft’un yapay zeka özetlerinin, dikkatli olunmadığı takdirde bir noktada ciddi zarara yol açmasından sorumlu olabileceği ihtimali önemsiz değildir.
Daha fazla Prime Day fırsatı ve Prime Day karşıtı anlaşmalar
Biz Windows Central olarak en iyi Başbakan Günü fırsatları ve Başbakan Günü karşıtı anlaşmalar için interneti araştırıyoruz, ancak şu anda devam eden çok daha fazla indirim var. Daha fazla tasarruf bulabileceğiniz yerler:
