Dr. Sina Bari, aktif bir cerrah ve veri şirketi iMerit‘te yapay zeka sağlık lideri olarak, ChatGPT’nin yanlış tıbbi tavsiyelerle hastaları nasıl yanlış yönlendirebileceğini yakından deneyimledi.
Dr. Bari, “Yakın zamanda bir hastam geldi ve ben bir ilaç önerdiğimde, ChatGPT’den alınmış bir diyalog çıktısını getirdi. Bu diyalogda bu ilacın pulmoner emboli riski için %45 olasılık olduğu yazıyordu,” dedi TechCrunch’a.
Dr. Bari daha fazla araştırdığında, bu istatistiğin o ilacın tüberküloz tedavisi gören belirli bir alt grup üzerindeki etkisi hakkında eski bir çalışmadan alındığını, dolayısıyla hastasına uygulanabilir olmadığı sonucuna vardı.
OpenAI’nin geçen hafta tanıttığı ChatGPT Health chatbot’u hakkında, Dr. Bari endişeden çok heyecan duydu.
Önümüzdeki haftalarda kullanıma sunulacak olan ChatGPT Health, kullanıcıların sağlıkları hakkında daha özel bir ortamda sohbet etmelerine olanak tanıyor; burada mesajlar, temel yapay zeka modeli için eğitim verisi olarak kullanılmayacak.
Dr. Bari, “Bu harika,” dedi. “Zaten meydana gelen bir şey, bu durumu benimseyip hasta bilgilerinin korunmasını sağlamak ve etrafında bazı önlemler almak […] hastalar için daha güçlü bir kullanım sağlayacak.”
Kullanıcılar, tıbbi kayıtlarını yükleyip Apple Health ve MyFitnessPal gibi uygulamalarla senkronize ederek ChatGPT Health’ten daha kişiselleştirilmiş rehberlik alabilir. Ancak bu durum güvenlik kaygılarını artırıyor.
MIND veri kaybı önleme şirketinin kurucu ortağı Itai Schwartz, “Birdenbire HIPAA’ya uygun organizasyonlardan HIPAA’ya uygun olmayan satıcılara tıbbi verilerin geçiş yaptığını görüyoruz,” diyerek, düzenleyicilerin bu duruma nasıl yaklaşacağı konusunda merakını dile getirdi.
Bazı sektör profesyonellerine göre ise, durumun artık geri dönüşü yok. Artık insanlar soğuk algınlığı belirtilerini araştırmak yerine AI chatbot’larla konuşuyor ve bu, her hafta 230 milyondan fazla insanın ChatGPT ile sağlıkları hakkında konuşmasıyla kendini gösteriyor.
Gradient’a sağlık teknolojilerine yatırım yapan ortak Andrew Brackin, “Bu, ChatGPT’nin en büyük kullanım alanlarından biriydi. Bu nedenle, bu sağlık soruları için daha özel, güvenli ve optimize edilmiş bir versiyonunu oluşturmak oldukça mantıklı,” dedi.
AI chatbot’ların sağlık alanında sık karşılaştığı bir sorun ise “halüsinasyon”lardır ve bu durum sağlık sektöründe özellikle hassas bir mesele. Vectara’nın Gerçeklik Tutarlılığı Değerlendirme Modeli‘ne göre, OpenAI’nin GPT-5’i birçok Google ve Anthropic modeline göre daha fazla halüsinasyona yatkındır. Ancak AI şirketleri, sağlık alanındaki verimsizlikleri düzeltme potansiyelini görmektedir (Anthropic da bu hafta bir sağlık ürünü tanıttı).
Stanford Üniversitesi’nde tıp profesörü ve Stanford Health Care’ın baş veri bilimcisi Dr. Nigam Shah’a göre, Amerikalı hastaların bakım erişimi eksikliği, ChatGPT’nin yanlış tavsiyeler vermesi tehdidinden daha acil bir durum.
Dr. Shah, “Şu anda herhangi bir sağlık sistemine gittiğinizde bir birinci basamak doktoruyla görüşmek istiyorsanız, bekleme süresi üç ila altı ay olacaktır,” dedi. “Eğer gerçek bir doktor için altı ay beklemekle, sizinle sorunları hakkında konuşamayan ama bazı temel hizmetler sunabilen bir şeyle sohbet etmeye karar vermeniz gerekiyorsa, hangisini seçersiniz?”
Dr. Shah, AI’nin sağlık sistemlerine dahil edilmesi konusunda daha net bir yolun, hasta tarafında değil de sağlık hizmeti sağlayıcı tarafında olduğunu düşünüyor.
Medikal dergiler, sıkça bildirmektedir ki, idari işler genel olarak bir birinci basamak doktorunun zamanının yarısını alabilmektedir. Eğer bu tür görevler otomatikleştirilebilirse, doktorlar daha fazla hastayla ilgilenebilecek ve belki de ChatGPT Health gibi ürünlere daha fazla ihtiyaç kalmayacaktır.
Dr. Shah, Stanford’da hastaların tıbbi kayıtlarıyla daha verimli bir şekilde etkileşim kurmalarını sağlayan ChatEHR adında bir yazılım geliştiren bir ekibi yönetiyor.
ChatEHR’yi test eden ilk kullanıcılarından Dr. Sneha Jain, “Elektronik tıbbi kayıtları daha kullanıcı dostu hale getirmek, doktorların ihtiyaç duydukları bilgileri her köşeden aramak için daha az zaman harcamalarını sağlar,” dedi. “ChatEHR, onların bu bilgiyi öne çıkarmalarına yardımcı olabilir, böylece hastalarla konuşma ve sorunları anlama konularına daha fazla zaman ayırabilirler.”
Anthropic, sadece halkla yüz yüze olan Claude chatbot’u için değil, klinik ve sigorta taraflarında da kullanılabilecek AI ürünleri üzerinde çalışıyor. Bu hafta, Anthropic, sıkıcı idari görevlerde, örneğin sigorta sağlayıcılarına izin talepleri göndermede harcanan süreyi azaltma yöntemlerine dair Claude for Healthcare’i tanıttı.
Anthropic CPO’su Mike Krieger, “Kimi haftalarda yüzlerce, binlerce izin talebi üzerindesiniz,” diyerek J.P. Morgan’ın Sağlık Konferansı‘nda yaptığı sunumda, “Her birinden yirmi, otuz dakikayı kesmeyi düşünün – bu, dramatik bir zaman tasarrufu sağlar,” dedi.
AI ve tıp arasındaki ilişki derinleştikçe, iki dünya arasında kaçınılmaz bir gerginlik oluşuyor; bir doktorun temel motivasyonu hastalarına yardım ederken, teknoloji şirketlerinin nihayetinde paydaşlarına hesap vermesi gerekiyor, bu durum her ne kadar iyi niyetle yapılsa da.
Dr. Bari, “Bu gerginliğin önemli olduğunu düşünüyorum,” dedi. “Hastalar, onları korumak için kıskanç ve ihtiyatlı olmamız gerektiğine güveniyorlar.”
