Yapay Zeka Sağlık Hizmetlerinde Nasıl Bir Rol Oynamalı?

Sağlık hizmetlerinde makine öğreniminin kullanımı ve United Healthcare Yapay Zeka skandalı üzerine

Bazılarınız benim eğitimli bir sosyolog olduğumu biliyor olabilir - tam olarak söylemek gerekirse, yüksek lisans okulunda tıbbi sosyoloji okudum. Bu, insanların ve grupların hastalıkla, tıpla, sağlık kurumlarıyla ve sağlıkla ilgili kavram ve fikirlerle nasıl etkileşime girdiğine odaklandığım anlamına geliyor.

Yardımcı profesörlük yaptığım dönemde sağlık alanlarına girecek lisans öğrencilerine bu konular hakkında ders verdim ve sağlık hizmeti sağlayıcılarımız olacak kişilerin sosyal, ekonomik ve ırksal statülerimizin sağlığımızla nasıl etkileşime girdiği konusunda fikir sahibi olmalarının gerçekten önemli olduğunu düşünüyorum. Her hasta aynı değildir ve insanlara yüksek kalitede bakım sağlamadan önce bunu takdir etmek gerekir.

Tüm bunları, bugünkü konumuz olan sağlık hizmetlerinde makine öğrenimi uygulamalarına bakış açıma bir bağlam kazandırmak için açıklıyorum. Bu konu hakkında konuşmak için biraz bekledim çünkü bu çok büyük bir konu, ancak son zamanlarda çıkan birkaç haber bana başlamam için ilham verdi. Muhtemelen ileride bu konu hakkında daha fazla konuşacağım.

Yaşam ve Ölüm Üzerine

Medikal alanda makine öğrenimi kullanımı hakkında konuşmayı bu kadar zor bulmamın nedenlerinden biri, başarısızlık risklerinin çok feci olması. İnternetten sipariş ettiğiniz çorap paketinin geliş tarihini yanlış tahmin edersem, en kötü senaryo bir ya da iki gün boyunca ayaklarınızın üşümesi olur. Bir makine öğrenimi modeli sağlık hizmetleri ortamında bir hata yaparsa, riskler çok gerçek bir şekilde yaşam kaybına veya yaşam kalitesi kaybına kadar gider.

Bir makine öğrenimi modeli sağlık hizmetleri ortamında bir hata yaparsa, riskler çok gerçek bir şekilde yaşam kaybına veya yaşam kalitesinin kaybına kadar gider.

Elbette, sağlık hizmeti sağlayıcılarımız günlük işlerinde bu riskin zaten farkındalar ve bununla başa çıkmayı öğreniyorlar. Ancak genel olarak veri bilimciler ve makine öğrenimi modeli geliştiricileri, bu tür riskler içeren modellerin sonuçları hakkında düşünmeye aşina değildir. Modelleme yaparken, bir sınıflandırma modeli örneğinde, görevin önemli bir kısmı Yanlış Pozitifler ve Yanlış Negatifler dediğimiz şeyin maliyetini tahmin etmektir - esasen, gerçekte gerçekleşmeyen bir olayı tahmin ettiğimizde (FP) veya hiçbir olayın gerçekleşmeyeceğini tahmin ettiğimizde ancak gerçekte gerçekleştiğinde (FN) ne kadar kötü bir şey olacağını tahmin etmektir. Diğer model türlerinde, bir modelin istenen değerden veya gerçekten meydana gelenden çılgınca farklı bir tahminde bulunmasının maliyetini düşünmek için de zaman harcarız. Ortak nokta, modellerin HER ZAMAN bir miktar kaçınılmaz hataya sahip olmasıdır, hatta üretken yapay zeka bile. Geçmişte birçok kez bahsettiğim gibi, model çıktıları bir şekilde olasılıklara dayanır ve bunlar hatanın (istenmeyen davranış) ortaya çıkması için açık bir alan bırakır.

United Healthcare

United Healthcare'in(UHC) uygulamalarında makine öğrenimini nasıl kullandığına dair yakın zamanda rapor edilen örnek, sağlık hizmetlerinde karar verme sürecinde "paraya yaşam"dan daha fazla öncelik verildiğinde işlerin ne kadar kötüye gittiğini gözler önüne seriyor. Bunun modelle pek bir ilgisi yok, çünkü isterseniz bir modele daha iyi sağlık hizmeti sonuçlarına öncelik vermeyi öğretebilirsiniz.

Ne yazık ki, sağlık sistemimiz birbiriyle yarışan iki önceliği dengeliyor: bakım kalitesi ve kâr. Bunların barış içinde bir arada var olabileceği fikrini kesinlikle reddediyorum, çünkü her zaman gerilim içindeler, ancak Amerikan sistemi yine de bu kabataslak temele dayanıyor. UHC'nin ne yaptığı (yapmakta olduğu?) ve neden yaptığı hakkında konuşurken aklımızda tutmamız gereken önemli şey budur.

UHC'nin (neredeyse evrensel olarak bakım için gerçekten ödeme yapma açısından ABD'deki en kötü büyük sağlık sigortacısı olarak kabul edilir) yaptığı şey şudur: 

• Kişi primlerini ödemiş ve teminat sağlanması için yapması gereken her şeyi yapmıştır;
• Kişi yaşlanır ve/veya hastalanır ve bir hastalık veya yaralanmadan sonra iyileşmek için yatılı bakıma ihtiyaç duyar;
• UHC'nin modeline vakanın ve hastanın genel özellikleri verilir ve iyileşme bakımının ne kadar sürebileceği tahmin edilir. Bu tahmin, bu iyileşme için doktorun önerdiğinden önemli ölçüde daha kısa bir bakım süresidir;
• UHC doktor yerine modele güvenir ve daha uzun bakım süresi için ödeme yapmayı reddederek hastayı iyileşmeden bakım tesisinden kovar.

Sağlık sistemi üzerine çalışan pek çok doktor ve akademisyen, sağlık sigortası şirketlerinin, hastaların ihtiyaç duyduğu bakım konusunda doktorların eğitimli tıbbi görüşlerini ikinci plana attıklarında nasıl "ruhsatsız hekimlik" yaptıklarından bahsetmektedir ve bu da tam olarak bu tür bir davranışa girmektedir. UHC personeli (bir modelin desteğiyle) bir hastanın bakım sürecini değiştiriyorsa buna başka ne diyebiliriz?

Ancak bu yeni bir şey değil ve gerçekten de sigortacıların doktorları ikinci kez tahmin etmek için seçimlerini destekleyen bir modele sahip olmalarına gerek yok. Bu olağan bir durumdur ve sağlık sigortası sistemimizde her gün, ön izinler gibi şeyler şeklinde gerçekleşmektedir. Sigortacılar, son seçimi yapanların kadrolarında başka doktorlar olduğunu, bu nedenle "lisanssız doktorluk yapma" durumunun geçerli olmadığını iddia edeceklerdir, ancak bu doktorlar için bariz teşvikler hastanın değil sigortacının tarafındadır. Bu doktorların hiçbir zaman hastalara asıl doktorlarından daha pahalı bir bakım önermediğinden emin olabilirsiniz.

Makine Öğreniminin Uygulanması

Peki, UHC'nin davranışı neden şimdi haber oldu? Ve bunun makine öğrenimi ile gerçekten ne ilgisi var? UHC'nin bu yaşlı hastalar için akut sonrası bakımın ne kadar sürmesi gerektiğini belirleyen modeli, tam olarak bu vakalarda uzmanlaşmış naviHealth adlı bir şirketten geldi. Web sitelerini okuyarak söyleyebileceğim en iyi şey, naviHealth'in yaşlı hastaların bakım tesislerinde geçirdikleri süreyi azaltmanın yollarını bulduğu. Ayrıca vaka yönetimiyle ilgili bazı unsurlar da sunabiliyorlar, hastalar eve gönderilmeden önce onlara danışmanlık yapıyorlar. Web sitelerinde kesinlikle iddia ettikleri bir şey de sigortacılar için "önemli maliyet tasarrufları" sağlayabilecekleri.

Ancak asıl mesele şu ki, bu model, "nH Predict", görünüşte en iyi bakım sonuçları için hastanın evinin dışındaki bir bakım ortamında kalmasına izin verilecek en uygun süreyi söyleyebileceğini iddia ederken, gerçekte modelin eşikleri, bu tahminlerin bakım sonuçlarıyla değil, yalnızca maliyet tasarruflarıyla uyumlu olacak şekilde ayarlanmıştır.

Başka bir şekilde ifade etmek gerekirse: Eğer bir hastanın hastanede veya rehabilitasyon merkezinde kalmasına izin veriyorsanız, ancak hasta eve erken dönmeye hazırsa ve bunu yapıyorsa, bu harika bir şeydir. Kimse hastanede gereğinden uzun süre kalmak istemez (yemekleri denediniz mi?). Bu, hasta ihtiyaç duyduğu bakımı alırken yüksek kaliteli bakım, tanımladıkları vaka yönetimi ve diğer yardımcı hizmetlere sahip olarak elde edebileceğiniz bir maliyet tasarrufu. Ancak UHC'nin bunun yerine yaptığı şey, bu hizmetleri sağlayarak ve hastaları hastaneden erken ayrılmaya hazır hale getirerek değil, hastaların hastanede kalmaları için ödeme yapmayı reddederek maliyet tasarrufu elde etmekti, bu nedenle hastalar hazır olsunlar ya da olmasınlar dışarı atıldılar ve eve gönderildiler.

UHC'nin bunun yerine yaptığı şey, bu hizmetleri sağlayarak ve hastaları hastaneden erken ayrılmaya hazır hale getirerek değil, hastaların hastanede kalmaları için ödeme yapmayı reddederek maliyet tasarrufu sağlamaktı, bu nedenle hastalar hazır olsalar da olmasalar da hastaneden atılıyor ve evlerine gönderiliyordu.

Modeller Sağlık Konusunu Nasıl Öğreniyor?

Açıklığa kavuşturmak istediğim şey, bunun "yapay zekanın kontrolden çıkması" olmadığıdır - bu, insanların etik olmayan kararlar alması ve makine öğrenimini kullanarak sorumluluktan kaçmasıdır. Eğer yaşlıları, yaşamları ya da sağlıkları üzerindeki sonuçlarına bakmaksızın hastaneden atmak istiyorsanız, bugün Amerika Birleşik Devletleri'nde bir sigortacı iseniz bunu yapabilirsiniz. Size izin verecek bir modele ihtiyacınız yok. Ancak UHC, sanırım, bu tavsiyeleri veren bir modele sahip olurlarsa, insan hakemlerin sadece lastikle damgalayabileceğini fark etti, o zaman korumaları vardı, çünkü insanlar modellerden bir miktar bağımsız doğruluk varsayıyorlar. Ne de olsa model bu bakımın fiyat etiketine bakmıyor!

Ancak modelin, kalıpları yeniden üretilebilecek matematiksel bir dile dönüştürme girişimi olduğunu ve ona hangi bilgiyi verdiğinizi ya da hangi soruyu yanıtlamasını öğrettiğinizi kontrol etmediğini unutmayın. Yatarak tedavi gün sayısını tahmin etmek için bir model oluşturma durumunda, bunu şu şekilde yapabilirsiniz:

• Bir kişinin yaralandığı veya hastalandığı, hastaneye gittiği, rehabilite edici yatılı bakım aldığı ve bir sonuca ulaştığı (iyileştiği, hastaneye geri dönmek zorunda kaldığı veya vefat ettiği akla gelenler) geçmiş hasta dosyalarından oluşan geniş bir veri kümesi toplanılır.
• Bu dosyaları sayısal verilere dönüştürün. Her hastayı bir elektronik tablodaki bir satır olarak düşünün ve hastanın yaşı, ilk yaralanmanın ciddiyeti, hastanın geçmiş tıbbi geçmişi hakkında veriler, başka hastalıkları olup olmadığı (diyabet, kalp hastalığı, bunama vb.) gibi şeyleri toplamaya başlayın. Bunlar eğitim verileri haline gelir. En önemlisi, A. kaç gün rehabilitasyon yatılı bakımı aldıklarını ve B. sonucun ne olduğunu eklemeniz gerekir.
• Şimdi soruyu çerçevelemeniz gerekiyor. Bu durumda model eğitimini şekillendirmenin bir yolu şöyle olabilir: "İyi sonuçlara sahip hastalar arasında, vakalarının tüm özellikleri hesaba katıldığında, kaç gün rehabilitasyon gördüler?" Ve sonra bunu "Kötü sonuçları olan hastalar arasında, vakalarının tüm özellikleri hesaba katılarak, kaç gün rehabilitasyon gördüler?" ile karşılaştırabilirsiniz. Bu sadece varsayımsal bir çerçeveleme şeklidir, soruyu ve dolayısıyla eğitim verilerini bir araya getirmenin başka birçok yolu olabilir.

Sonunda her hasta için elde edeceğiniz şey, iyi bir sonuç için kaç günlük rehabilitasyonun uygun olacağına dair bir tahmindir. Bir aralık elde edebilirsiniz veya gün sayısına bağlı olarak iyi bir sonuç olasılığı elde edebilirsiniz ve günleri belirli bir noktaya kadar artırırsanız olasılığı artırırsınız ve belirli bir noktayı geçerseniz tekrar riskli olmaya başlar.

Rehabilitasyon günlerinin devam eden diğer her şeyden bağımsız olmadığını unutmayın - enfeksiyonunuz, komplikasyonlarınız veya başka hastalıklarınız olabilir, bu da mutlu nedenlerle (iyileşme) değil, talihsiz nedenlerle (ek hastalıklar) uzun süre hastanede kalmanız gerektiği anlamına gelir. Dolayısıyla, hastanede ÇOK uzun süre kalmak da potansiyel olarak kötü bir şeydir, ancak hastanede kalınan günlerle ilgisi olmayan bir nedenden dolayı. Nedenselliğin nerede olabileceğini anlamaya yardımcı olması için zamansal sırayı düşünün.

Model Sonuçlarının Kullanılması

Yani bir modelimiz var ve ona bir hasta hakkında sahip olduğumuz bilgileri söylersek, o zaman bize bu kişinin iyi bir sonuç elde etmesi için rehabilitasyon yatış süresinin ne kadar olması gerektiğine dair bir tahmin verecektir. Burada asıl önemli olan soru, bu bilgiyle ne yapacağımızdır!

Eğer UHC isek, amacımız paradan tasarruf etmektir. Bu tahminin çok düşük bir ucunu, belki de modelin iyi bir sonuç için tavsiye aralığından bile daha düşük bir ucunu alırız ve bu noktada bakım için ödeme yapma isteğimizi keseriz. Raporlara göre bu hikaye de böyle ilerlemiş görünüyor.

Ancak hedefimiz hasta sonuçlarıysa, bir an için geri adım atıp düşünelim. Hastaların tıbbi olmayan nedenlerle uzun süre hastanede veya yatılı rehabilitasyon merkezinde kaldığını düşünüyor muyuz? Doktorların hastalarını uygun olmayan nedenlerle rehabilitasyona gönderdiklerini düşünüyor muyuz? Bunlar ne olabilir? Dürüst olmak gerekirse, bunun bir doktor açısından çok mantıklı olacağı pek çok vaka düşünmekte zorlanıyorum. Daha önce de belirttiğim gibi, durumu düzeldikten sonra kim hastanede kalmak ister ki? Eğer böyle bir durum söz konusuysa, o zaman doktorların davranışlarını değiştirmenin yollarını aramalıyız, ancak bu insanların bakım kalitesi pahasına olmamalı. Belki de yatan hasta bakımı için yüksek ücretler talep eden hastane yöneticileri hastaların daha uzun süre kalmasını istiyordur, ancak doktorların maaşları hastanın kalış süresine bağlı değildir. Doktorların teşvikleri hastaların iyileşmesi yönündedir.

Burada anlatmak istediğim, eğer hedeflerimiz sadece hastaların iyileşmesi ise, bu modelin dahil edilmesinin mantıklı olduğundan emin değilim. Şu anda hastalarımızın sağlığı için en büyük tehlike kesinlikle rehabilitasyon merkezlerinde uzun süre kalmak değil.

Bu makale, okuyucularımın çoğunun buraya gelme nedeni olan makine öğrenimi ile ilgili, ancak aynı zamanda sağlık hizmetlerinin ekonomisi ile ilgili konularla da ilgili. Bu konular tüm Amerikalılar için önemli çünkü sağlık sistemleri er ya da geç hepimizi etkileyecek. Ayrıca veri bilimcilerin, bir modeli üretim ortamına koymanın gerçekten ne anlama geldiğini, geri çağırma ve kesinlik perspektifinden değil, gerçek insan hayatlarının nasıl etkilendiği perspektifinden düşünmeleri için iyi bir egzersiz olduğunu düşünüyorum. Modelinizin ne için optimize edildiğinden siz sorumlusunuz. Modeli oluştururken, bu modelin insanlar ve toplum üzerindeki etkisini olumlu veya olumsuz hale getirecek kararlar alırsınız ve ellerinizi kaldırıp "model bunu yaptı" diyemezsiniz.

Modeliniz insanların sağlık hizmetleriyle ilgili seçimler yapmayacak olsa bile, yine de insanlar üzerinde bir etkisi vardır. (Etkilemeyecekse, neden inşa ediyorsunuz?) Bu alandaki tüm uygulayıcıları, işimize devam ederken tüm bunları akıllarında tutmaya teşvik ediyorum.

*Tıbbi sosyolojinin ilgilendiği soru türlerine örnekler şunlar olabilir:

• Kronik hastalığı olan insanlar kendilerini ve toplumdaki yerlerini nasıl algılarlar?
• İnsanların yaşamları ve kimlikleri sağlık hizmeti sağlayıcısı olduklarında nasıl farklılaşıyor?
• Azınlık veya dezavantajlı gruplar için uzun vadeli sağlık sonuçları nelerdir ve çoğunluk gruplarından nasıl ve neden farklıdırlar?
• Çevresel sorunlar insanların sağlığını nasıl etkiler ve bunlar sosyal yapılar/ayrıcalık ile nasıl etkileşime girer?

Bunlar sadece birkaçı - sosyolojinin bu alanı, insanların yaşamları ve refahı için çok önemli olan bir ton zemini kapsar.

https://tinyurl.com/mrxbbkw7