Sağlık Hizmetlerinde Yapay Zeka: Tedavi Kararlarını Kim Veriyor?

Sağlık sektöründe yapay zeka araçlarının hastanelerde, kliniklerde ve muayenehanelerde giderek daha fazla kullanıldığına şahit oluyoruz. Peki tedavi kararlarını kim veriyor ve yapay zeka yanılırsa sorumluluk kime ait olacak? Bu soruları incelediğimiz bu derlemede, Science and Technology editörü Eric Smalley'nin moderatörlüğünde gerçekleştirilen; Michigan Üniversitesinden Sağlık Yönetimi ve Politikası Doçenti Dr. Jodyn Platt ve Colorado Kişiselleştirilmiş Tıp Merkezinden Medikal Direktör Dr. David Kao'nun katıldığı bir web seminerine yakından bakıyoruz.

Dr. Platt'in çalışmaları, halkın güvenini kazanarak ve sürdürerek sağlığı iyileştirmek için veri ve teknolojinin sorumlu bir şekilde nasıl kullanılabileceğini araştırıyor. Dr. Kao'nun araştırmaları ise büyük veri analizini kullanarak kalp hastalığı, özellikle de kalp yetmezliği yönetimini kişiselleştirmeye odaklanıyor.

Sağlık Hizmetlerinde Kullanılan Yapay Zeka Türleri

Eric Smalley: Sağlık hizmetlerinde kullanıldığını gördüğünüz başlıca yapay zeka türleri nelerdir?

David Kao: Sağlık hizmetlerinde yapay zekayı ikili bir sistem gibi düşünme eğilimi var; yani işleri ya eski kasaba doktorları gibi ya da herkesin yaşaması veya ölmesi hakkında otomatik kararlar veren Terminatör'deki Skynet gibi yapıyorsunuz. Ancak işin aslı, bunun bir süreklilik olmasıdır.

Colorado'da biz, yapay zekayı klinik karar verme sürecini desteklemek için kullanmaya odaklanıyoruz. Elektronik sağlık kayıtlarını sürekli olarak izleyen ve bir hastanın durumu kötüleşmeye başladığında ekibi uyaran makine öğrenimi tabanlı algoritmalar bulunuyor. Bunlar kendi başlarına birer karar değildir; sadece karar vermek için gereken daha iyi birer bilgi kaynağıdır.

Jodyn Platt: Büyük dil modellerine ve üretken yapay zekaya sahip olmadan önce, hastalık prognozu hakkında tahminler yapmak için yapay zekayı kullanıyorduk. Bu, hasta verilerine dayanarak karar vermemize yardımcı olup doktorlara klinik karar desteği sağlıyor.

Eğer klinik notlarını yazmasına yardımcı olan bir asistan kullanan bir doktora gittiyseniz, bu, büyük dil modeli kullanan yapay zekanın çok yeni bir örneğidir. Sağlık hizmetleriyle ilgili bir sohbet botuyla (İng: "chatbot") her etkileşime girdiğinizde, bu aracın temelinde de yine bir büyük dil modeli yatar.

Son zamanlarda bahsetmeye başladığım üçüncü bir yapay zeka türü ise abartıdan ibaret olan; harika ve şaşırtıcı şeyler vaat eden ya da dünyayı yok edebileceğini söyleyen yapay zeka türüdür. Bu durum bir şeyleri kaçırma korkusu (İng: "fear of missing out" veya kısaca FOMO) yaratıyor ve büyük ölçüde gerçeklerden ziyade duygulara dayanıyor.

Hasta Onayı ve Veri Gizliliği

Eric Smalley: Doktorlar yapay zeka araçlarını kullandığında hastaların onay vermesi gerekiyor mu?

Jodyn Platt: Üçüncü taraf kayıtları ve onay gibi konularda her eyaletin kuralı farklıdır; bu nedenle onay süreci bulunduğunuz yere göre değişebilir. Yani bazen kimse size bir şey söylemez veya onay metni giderek artan bir şekilde, genel tedavi onay formunuzun içine dahil edilir.

Bir klinisyen kendi isteğiyle de bu araçları açıp kapatabilir; eğer kapatmak isterlerse bunu yapabilirler. Dolayısıyla, kesin olarak bilmek istiyorsanız her muayenede yapay zeka kullanılıp kullanılmadığını sormanız mantıklı bir yaklaşımdır.

David Kao: Bu oldukça zor bir konudur. Manyetik rezonans görüntüleme (MRG) gibi taramaları düşünürseniz, bunlar tesis dışında üçüncü taraf bir şirket tarafından işlenebilir. Ancak görüntülerin harici olarak işlenmek üzere gönderilmesi için hastalardan onay istemiyoruz. Buradaki sorun çizginin nerede çekileceğidir. Yani, hangi noktadan itibaren onay almaya ihtiyaç duyarsınız?

Durumun böyle kalması gerektiğini söylemiyorum ama belirsizlikler de tam olarak burada başlıyor; çünkü işin aslı, birçok insanın verisi onlarca yıldır çok sayıda iş ortağına gidiyor. Ve inanın ki bu bilgiler, şu anda bir yapay zeka modeline vereceğiniz herhangi bir şeyden çok daha mahrem bilgilerdir.

Eric Smalley: Hastalar belirli bir dereceye kadar veri gizliliğinden nasıl emin olabilirler?

Jodyn Platt: Sağlık sistemleri, ABD'deki Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) ve beklediğiniz tüm veri gizliliği kurallarına uyumlu olan üçüncü taraf şirketlerle ilişkiler kuracaktır. Buradaki asıl soru, sağlık çalışanlarının işbirliği yaptığı şirketlerle ilgili olarak sizin kendinizi rahat hissedip hissetmediğinizdir.

Bence veri gizliliği sizin için önemliyse en büyük sorunlardan biri, bilgilerinizi sağlık sisteminin dışında paylaşmanızdır. Bir doktorla görüşmek uzun zaman alabilir ya da yakınınızda bir doktor bulunmayabilir. Eğer tıbbi bilgilerinizi anlamanıza yardımcı olması için ChatGPT'ye veya bazı harici büyük dil modeli sistemlerine yüklerseniz, verileriniz hiçbir şekilde korunmaz.

Tıbbi Yapay Zekanın Denetimi ve Kendi Kendini Tedavi Riski

Eric Smalley: ABD Gıda ve İlaç Dairesi (FDA) ilaçların yanı sıra tıbbi cihazları da denetliyor; peki hasta bakımında kullanılan bir yapay zekayı kim denetliyor?

David Kao: Eyaletler hasta bakımında yapay zeka için kendi yönetmeliklerini oluşturdular ve bu da durumu son derece kafa karıştırıcı hale getiriyor; çünkü başka hiçbir tıbbi denetim kapasiteleri bulunmuyor. Sektörel açıdan nihai umudumuz, tıpkı ilaçlarda yaptığımız gibi etkinliği ve güvenliği kanıtlayacak ulusal bir standardın veya sürecin oluşturulmasıdır. Muhtemelen bu süreç, FDA'nın cihaz denetim kolu olan Cihazlar ve Radyolojik Sağlık Merkezi tarafından düzenlenecektir.

Buradaki zorluk, yapay zekayı değerlendirmenin çok daha farklı olmasıdır. Bir ilaç her aldığınızda farklı bir etki gösterseydi, onun güvenli olup olmadığını nasıl söylerdiniz? Bu konudaki yerleşik düşünce biçimlerimiz burada pek işe yaramıyor.

Jodyn Platt: Bence klinisyenlerin duyduğu şey, bir karar verildiğinde ve işin içine yapay zeka girdiğinde tüm sorumluluğun kendilerinde olduğudur. Yani klinik notları yine bir insan tarafından imzalanıyor. Yapay zeka destekli herhangi bir e-posta da gerçek bir kişi tarafından imzalanır ve o kişi, mesajların içeriğinden sorumludur.

Şu anda yapay zekayı gerçekten kullanabilmemizin tek yolunun bu olduğunu söyleyebilirim. Henüz bir denetim süreci mevcut değil, bu yüzden döngüde mutlaka bir insan bileşeninin olması gerekiyor.

Eric Smalley: İnsanların kendi kendilerini yapay zeka ile tedavi etmeye karar vermeleri hakkındaki düşünceleriniz veya endişeleriniz nelerdir?

David Kao: Bunun kesinlikle akıllıca olmadığını düşünüyorum ama insanların bunu yine de yapacağını biliyorum.

Sağlık ve yapay zeka konusunda döngüde bir insana ihtiyaç duyduğumuzdan bahsediyoruz, değil mi? Bu durumda, döngüdeki insan hastanın ta kendisi oluyor ve bu kişi muhtemelen önerilerin uygun olup olmadığına karar verebilecek en iyi merci değil. Bu durum biraz kendi kendini tedavi etmeye benzer ve böyle bir girişim neredeyse hiçbir zaman iyi sonuçlanmaz.

Eric Smalley: Bu teknolojinin hem bireyin hem de toplumun çıkarlarına en uygun şekilde geliştirilip kullanılmasını nasıl sağlayabiliriz?

Jodyn Platt: Yakın zamanda Pittsburgh Üniversitesinden araştırmacı Miranda Yaver tarafından geliştirilen ve konuyu bir eşitlik meselesi olarak ele alan bir çerçeve hakkında bilgi edindim.

Büyük aktörler sistemin bir bölümünü yaratıyorlar. Ancak Yaver, halkın da bu sistemin bir parçası olduğunu bilmesi gerektiğini savunuyor. Sistemde nasıl gezineceğimizi bilmeli ve bunu yapabilmek için gereken kaynaklara sahip olmalıyız. Ancak bu alana giriş engeli genellikle bunu öğrenmemize izin vermeyecek kadar yüksektir.

Bu yüzden sistemi geliştirirken; hastaların ve halkın seçim yapabilmelerini, veri ve bilgilerinin kendi istedikleri şekilde korunmasını sağlayacak kesintisiz erişime sahip olmalarının yollarını bulmanın son derece kritik olduğunu düşünüyorum.