Silikon Vadisi'nin efsanevi yatırımcılarından Vinod Khosla, 2035 yılına kadar doktorların yerini robotların alacağını savunuyor. Haklı olabileceğine dair bazı kanıtlar var.
Massachusetts General Hospital ve MIT tarafından 2017 yılında yapılan bir çalışma, bir yapay zeka (YZ) sisteminin, ameliyat gerektiren yüksek riskli kanser lezyonları için mamogramları okumada radyologlara eşit veya daha iyi olduğunu gösterdi. Bir yıl önce Journal of the American Medical Association tarafından rapor edilen bir çalışmada Google, bilgisayarların şeker hastalarının retina görüntülerini incelemede göz doktorlarına benzer olduğunu göstermiştir. Kısa bir süre önce de bilgisayar kontrollü robotlar bir domuz üzerinde başarılı bir bağırsak ameliyatı gerçekleştirdi. Robotun ameliyatı bir insandan daha uzun sürse de, dikişleri çok daha iyiydi - daha hassas ve tekdüze, kırılma, sızıntı ve enfeksiyon olasılığı daha az. Teknoloji destekçileri yapay zekanın daha fazla kanıta dayalı bakıma, daha kişiselleştirilmiş bakıma ve daha az hataya yol açacağına inanıyor.
Elbette, teşhis ve tedavi sonuçlarının iyileştirilmesi övgüye değer hedeflerdir. Ancak YZ, yalnızca onu programlayan insanlar ve içinde çalıştığı sistem kadar iyidir. Dikkatli olmazsak, YZ sağlık hizmetlerini daha iyi hale getirmeyebilir, bunun yerine mevcut sağlık sistemimizin en kötü yönlerinin çoğunu istemeden daha da kötüleştirebilir.
Derin ve makine öğrenimini kullanan YZ sistemleri, tahminlerde bulunmak ve müdahaleler önermek için muazzam miktarda veriyi analiz eder. Bilgi işlem gücündeki gelişmeler, YZ modellerini güçlendirmek için ödeme talepleri, elektronik sağlık kaydı verileri, tıbbi görüntüler, genetik veriler, laboratuvar verileri, reçete verileri, klinik e-postalar ve hasta demografik bilgilerinden oluşan büyük veri kümelerinin oluşturulmasını ve uygun maliyetli analizini mümkün kılmıştır.
YZ yüzde 100 bu verilere bağlıdır ve bilişimdeki her şeyde olduğu gibi, "çöp girerse çöp çıkar" derler. Tüm sağlık hizmetleri veri setlerimizle ilgili en büyük endişe, Amerika Birleşik Devletleri genelinde erişim, tedaviler ve sonuçlar açısından haksız ve adaletsiz eşitsizliklerin geçmişini mükemmel bir şekilde kaydetmeleridir.
Ulusal Tıp Akademisi'nin sağlık alanındaki eşitsizliklere ilişkin 2017 raporuna göre, beyaz olmayanlar bebek ölümleri, obezite, kalp hastalıkları, kanser, felç, HIV/AIDS ve genel ölüm oranlarında daha kötü sonuçlarla karşılaşmaya devam etmektedir. Şaşırtıcı bir şekilde, Alaska yerlileri beyazlara kıyasla yüzde 60 daha fazla bebek ölümüne maruz kalmaktadır. Daha da kötüsü, Afrikalı Amerikalılar için AIDS ölüm oranı artmaktadır. Beyazlar arasında bile sonuçlarda ve ölüm oranlarında önemli coğrafi farklılıklar vardır. Sosyoekonomik duruma dayalı önyargılar, pahalı sensörler, telefonlar ve sosyal medyadan hasta tarafından üretilen verilerin dahil edilmesiyle daha da kötüleşebilir.
YZ modellerimizi eğitmek için kullandığımız veriler, bu inatçı eşitsizlikleri gidermek yerine devam ettiren ve hatta daha da kötüleştiren sonuçlara yol açabilir. Makineler, kendilerine verilen temel verilerin doğruluğunu doğrulamaz ve doğrulayamaz. Bunun yerine, verilerin tamamen doğru olduğunu, yüksek kaliteyi yansıttığını ve optimal bakım ve sonuçları temsil ettiğini varsayarlar. Dolayısıyla, üretilen modeller bugün ürettiğimiz sonuçlara yaklaşacak şekilde optimize edilecektir. YZ tarafından üretilen eşitsizlikleri ele almak daha da zordur çünkü modeller büyük ölçüde makineler tarafından tasarlanan ve açıklanamayan "kara kutulardır" ve denetlenmesi mevcut insan sağlık hizmeti sunum süreçlerimizden çok daha zordur.
Bir diğer önemli zorluk ise, birçok klinisyenin yapılandırılmış veri olarak düzgün bir şekilde belgelenmeyen varsayımlar ve bakım seçimleri yapmasıdır. Deneyimli klinisyenler, bilgisayar programlarına girilen rakamlara göre daha az hasta olan başka bir hastayla aynı görünse bile hasta bir hastayı tanımlamalarını sağlayan sezgiler geliştirir. Bu da bazı hastaların elektronik sağlık kaydı verilerinden çıkarılması zor nedenlerle diğerlerinden farklı muamele görmesiyle sonuçlanır. Bu klinik yargı, veriler tarafından iyi temsil edilmemektedir.
Sağlık sistemleri yapay zekayı kullanmaya çalıştığında bu zorluklar büyük ölçüde ortaya çıkmaktadır. Örneğin, Pittsburgh Üniversitesi Tıp Merkezi (UPMC) acil servislerine gelen hastaların pnömoniden ölüm riskini değerlendirdiğinde, YZ modeli, hastalar 100 yaşın üzerinde olduğunda veya astım teşhisi konduğunda ölüm oranının düştüğünü öngördü. YZ modeli altta yatan verileri doğru bir şekilde analiz etmiş olsa da, UMC gerçekten de bu iki grup için çok düşük mortaliteye sahipti. Bu grupların daha düşük riskli olduğu sonucuna varmak yanlıştı. Aksine, riskleri o kadar yüksekti ki, acil servis personeli bu hastalara elektronik tıbbi kayıtlara bile kaydedilmeden önce antibiyotik verdi, bu nedenle hayat kurtarıcı antibiyotikler için zaman damgaları yanlıştı. Klinisyen varsayımlarını ve bunların veriler üzerindeki etkisini (bu durumda antibiyotik uygulamasının doğru zamanlaması) anlamadan yapılan bu tür bir analiz, yüksek riskli hastalara zarar veren yapay zekadan ilham alan protokollere yol açabilir. Ve bu münferit bir örnek değil; klinisyenler her gün, çok sayıda koşulda bunun gibi yüzlerce varsayımda bulunuyor.
Bakımımızı YZ sistemlerine ve "doktor robotlara" emanet etmeden önce, öncelikle veri kümelerindeki önyargıları tespit etmeyi ve mümkün olduğunca düzeltmeyi taahhüt etmeliyiz. Ayrıca, YZ sistemlerinin sadece tavsiyelerinin doğruluğu açısından değil, aynı zamanda bakım ve sonuçlardaki eşitsizlikleri sürdürüp sürdürmedikleri veya azaltıp azaltmadıkları açısından da değerlendirilmesi gerekmektedir. Bir yaklaşım, modellerin etik olmayan bakımdan ve saçma klinik önerilerden kaçınmak için ne kadar ustaca ayarlandığını anlamak için bilinen önyargıları olan ve olmayan ulusal test veri kümeleri oluşturmak olabilir. Bir adım daha ileri gidebilir ve bulguları değerlendirmek ve YZ sistemlerini iyileştirmek için önerilerde bulunmak üzere akran değerlendirmesinden yararlanabiliriz. Bu, Ulusal Sağlık Enstitüleri tarafından hibe başvurularının değerlendirilmesinde ve dergiler tarafından araştırma bulgularının değerlendirilmesinde kullanılan son derece etkili yaklaşıma benzer. Bu müdahaleler, halkın YZ'ye olan güvenini artırma yolunda uzun bir yol kat edebilir ve belki de bir gün, bir hastanın insan doktorların başından beri sağlaması gereken türden tarafsız bir bakım almasını sağlayabilir.
Kaynak: https://tinyurl.com/sxdr84ah
Hiç yorum yok:
Yorum Gönder