Bugünlerde ara sıra yapay zekanın sağlık sorunlarını teşhis etmede insan doktorlardan daha iyi olduğunu iddia eden bir çalışma ortaya çıkıyor. Bu çalışmalar ilgi çekici çünkü Amerika’daki sağlık sistemi ne yazık ki çökmüş durumda ve herkes çözüm arıyor. Yapay zeka, doktorlara çok sayıda idari yoğun iş yaparak ve bunu yaparak onlara daha fazla hasta görmeleri için zaman tanıyarak ve dolayısıyla nihai bakım maliyetini düşürerek doktorları daha verimli hale getirmek için potansiyel bir fırsat sunuyor. Ayrıca gerçek zamanlı çevirinin, İngilizce konuşamayan kişilerin daha iyi erişim elde etmelerine yardımcı olma ihtimali de vardır. Teknoloji şirketleri için sağlık sektörüne hizmet etme fırsatı oldukça kazançlı olabilir.
Ancak pratikte doktorların yerine yapay zekayı koymaya, hatta onları gerçekten güçlendirmeye yakın olmadığımız görülüyor. Washington Post konuştu Yapay zekanın erken testlerinin nasıl gittiğini görmek için doktorlar da dahil olmak üzere çok sayıda uzmanla görüştük ve sonuçlar güven verici değildi.
Stanford Medical’den klinik profesörü Christopher Sharp’ın, ofisiyle iletişime geçen bir hastaya öneri taslağı hazırlamak için GPT-4o’yu kullandığından bir alıntı:
Sharp rastgele bir hasta sorgusu seçiyor. Şöyle yazıyor: “Domates yedim ve dudaklarım kaşınıyor. Herhangi bir tavsiye var mı?”
OpenAI’nin GPT-4o sürümünü kullanan yapay zeka bir yanıt taslağı hazırlıyor: “Dudaklarınızın kaşındığını duyduğuma üzüldüm. Görünüşe göre domatese karşı hafif bir alerjik reaksiyon yaşıyor olabilirsin. AI, domatesten uzak durulmasını, oral antihistaminik kullanılmasını ve steroid topikal krem kullanılmasını öneriyor.
Sharp bir süre ekranına bakıyor. “Klinik olarak bu cevabın tüm yönlerine katılmıyorum” diyor.
“Domateslerden kaçınmaya tamamen katılıyorum. Öte yandan dudaklara uygulanan hafif hidrokortizon gibi topikal kremler de tavsiye edebileceğim bir şey değildir” diyor Sharp. “Dudaklar çok ince bir dokudur, bu nedenle steroid kremleri kullanırken çok dikkatli davranıyoruz.
“Sadece o kısmı alırdım.”
İşte Stanford tıp ve veri bilimi profesörü Roxana Daneshjou’dan bir başkası:
Dizüstü bilgisayarını ChatGPT’ye açıyor ve bir test hastası sorusunu yazıyor. “Sayın doktorum, emziriyorum ve sanırım mastit oldum. Göğsüm kırmızı ve ağrılıydı.” ChatGPT yanıt veriyor: Sıcak paketler kullanın, masaj yapın ve ekstra bakım yapın.
Ancak aynı zamanda dermatolog olan Daneshjou, bunun yanlış olduğunu söylüyor. 2022 yılında Emzirme Tıbbı Akademisi tavsiye edilen tam tersi: soğuk kompresler, masajlardan uzak durma ve aşırı uyarılmadan kaçınma.
Teknoloji iyimserlerinin yapay zekayı sağlık gibi alanlara itmesiyle ilgili sorun, bunun tüketici yazılımı yapmakla aynı şey olmamasıdır. Microsoft’un Copilot 365 asistanının hataları olduğunu zaten biliyoruz, ancak PowerPoint sunumunuzdaki küçük bir hata çok da önemli değil. Sağlık hizmetlerinde hata yapmak insanları öldürebilir. Daneshjou şunları söyledi: Postalamak ChatGPT’yi, aralarında ChatGPT’ye tıbbi sorular soran bilgisayar bilimcileri ve doktorların da bulunduğu 80 kişiyle bir araya getirdi ve yüzde yirmi oranında tehlikeli yanıtlar verdiğini gördü. “Bana göre yüzde yirmi sorunlu yanıt, sağlık sistemindeki gerçek günlük kullanım için yeterince iyi değil” dedi.
Tabii ki, savunucular yapay zekanın bir doktorun işini artırabileceğini, onların yerine geçemeyeceğini ve çıktıları her zaman kontrol etmeleri gerektiğini söyleyecektir. Ve bu doğrudur, Postalamak Story, Stanford’da bir doktorla röportaj yaptı ve oradaki doktorların üçte ikisinin bir platforma erişimi olduğunu ve hasta toplantılarını AI ile kaydedip yazıya döktüklerini, böylece ziyaret sırasında gözlerinin içine bakıp not almadıklarını söyledi. Ancak orada bile OpenAI’nin Whisper teknolojisi bazı kayıtlara tamamen uydurma bilgiler ekliyor gibi görünüyor. Sharp, Whisper’ın yanlışlıkla bir hastanın öksürüğünü çocuklarına maruz kalma nedeniyle ilişkilendirdiğini ancak bunu asla söylemediklerini bir transkripte eklediğini söyledi. Daneshjou’nun testlerde bulduğu eğitim verilerinden elde edilen inanılmaz önyargı örneği, bir yapay zeka transkripsiyon aracının, Çinli bir hastanın bir bilgisayar programcısı olduğunu varsayması ve hastanın bu tür bir bilgi sunmamasıydı.
Yapay zeka potansiyel olarak sağlık alanına yardımcı olabilir, ancak çıktılarının kapsamlı bir şekilde kontrol edilmesi gerekiyor ve o zaman doktorlar gerçekte ne kadar zaman tasarruf ediyor? Dahası, hastaların doktorlarının yapay zekanın gerçekten ne ürettiğini kontrol ettiğine güvenmesi gerekiyor; hastane sistemleri bunun gerçekleştiğinden emin olmak için kontroller yapmak zorunda kalacak, aksi takdirde kayıtsızlık ortaya çıkabilir.
Temel olarak, üretken yapay zeka, geri getirdiği temel kavramları gerçekten anlamadan büyük miktarda veriyi araştıran, yalnızca bir kelime tahmin makinesidir. Gerçek bir insanla aynı anlamda “zeki” değildir ve özellikle her bireye özgü koşulları anlayamamaktadır; daha önce genelleştirdiği ve gördüğü bilgileri geri döndürmesidir.
Beth Israel Deaconess Tıp Merkezi’nde dahiliye doktoru ve yapay zeka araştırmacısı Adam Rodman, “Bunun umut verici teknolojilerden biri olduğunu düşünüyorum, ancak henüz mevcut değil” dedi. “Halüsinasyonlu ‘AI eğilimini’ yüksek riskli hasta bakımına sokarak yaptıklarımızı daha da kötüleştireceğimizden endişeleniyorum.”
Doktorunuzu bir sonraki ziyaretinizde iş akışlarında yapay zeka kullanıp kullanmadıklarını sormanız faydalı olabilir.
