Makine Öğreniminden Riskleri En Aza İndirme ve Ödülleri En Üst Düzeye Çıkarma


Günümüzde yapay zekadan (AI) bahsederken, insanlar genellikle geçmiş verilerden “öğrenen” ve bilgi veren veya yönlendiren tahminler, öneriler veya sınıflandırmalar (çıktılar) yapan, genellikle makine öğrenimi (ML) teknikleri tarafından yönlendirilen tahmine dayalı modellere atıfta bulunuyorlar. karar verme. ML’nin gücü, muazzam esnekliğindedir. Hemen hemen her şeyi tahmin etmek veya önermek için bir model oluşturabilirsiniz ve bunun birçok sektörü dönüştürdüğünü gördük.

Sağlık hizmetlerinde ML ve ilgili teknolojilerin potansiyeli heyecan vericidir. Örneğin, Ulusal Tıp Akademisi (NAM), makine öğrenimi ve diğer yapay zeka biçimlerinin sağlık BT’sini kullanmanın “geri ödemesini” temsil etme potansiyeline sahip olduğunu, “her klinisyen, hasta ve ailenin isteyeceği, ancak elektronik yardım olmadan imkansız olduğu görevleri kolaylaştırarak” tanımladı.

ONC, bu “geri ödemeyi” mümkün kılmakta aktif bir rol oynamaktadır. Makine öğrenimi ve yapay zeka uygulamalarını besleyen sağlık verilerinin çoğu, sertifikalı sağlık BT’si tarafından oluşturulur ve ONC Health BT Sertifikasyon Programı (“Sertifikasyon Programı”) tarafından gerekli teknik standartlar ve spesifikasyonlarla desteklenir. Bu araçların sağlık hizmetlerini iyileştirmek için sahip olabileceği muazzam potansiyel konusunda heyecanlıyız, ancak potansiyel risklerin, zorlukların ve karşılanmamış ihtiyaçların da farkındayız.

Yakın tarihli bir Sağlık Bilgi Teknolojisi Danışma Komitesinde, “tasarım yoluyla sağlıkta eşitlik” üzerine görüşen paydaşlar, sağlık hizmetlerinde ML kullanımı hakkında bir dizi konu hakkında yorumda bulundular. Klinisyenlerin bilgi ve şeffaflık için karşılanmamış ihtiyaçları olduğunu ve bu ihtiyaçlar karşılanana kadar makine öğrenimi odaklı araçları kullanma veya hastalarına yanlış uygulama riskini alma olasılıklarının düşük olduğunu duyduk. Örneğin panelistler, klinisyenlerin bir AI ürününün kendi bakım ortamlarında değerlendirildiğini, teknolojinin uygulama popülasyonunu yansıtan veriler üzerinde eğitildiğini ve ürünün sürekli izleneceğini bilmeleri gerektiğini belirtti. Paydaşlar ayrıca, klinisyenlerin, tahmine dayalı bir öneri bir hasta için iyi sonuç vermediğinde bu tür AI ürünlerinin geliştiricileriyle iletişim kurmak istediklerini de belirtti. Ayrıca, makine öğrenimi odaklı teknolojinin kaliteli sağlık sigortası ve kaliteli bakıma erişim eksikliğinden kaynaklanan sistemik eşitsizlikleri yaratmadığı veya yeniden yaratmadığı konusunda genel bir endişe duyduk.

ONC, endüstri, akademi ve diğer paydaşların yanı sıra bu gelişen ortamı değerlendirirken, ortak sorunumuz açık: Yapay zeka, makine öğrenimi ve ilgili teknolojilerin potansiyelinden nasıl etkili bir şekilde yararlanabiliriz, teknolojinin sonuçları tahmin etme yeteneğinden yararlanırken ve ilgili risklerden kaçınırız. geçersiz, uygunsuz, haksız veya güvenli olmayan tahminlerin kullanımına karşı mı?

Bu zorluğun en iyi nasıl üstesinden gelineceğini düşünürken, geçmişimizdeki paralellikler hakkında düşünmek faydalı olacaktır. ONC, NAM raporunun belirttiği gibi, yakın vadede yapay zekanın “…insanları tam otomasyonla değiştirmek yerine onları destekleyen araçları teşvik etmeye, geliştirmeye ve değerlendirmeye odaklanması gerektiğini” anlıyor. Bu şekilde ifade edildiğinde ML, başka bir yapay zeka markasına çok benziyor: Onlarca yıldır var olan kural tabanlı karar destek müdahaleleri zaten yaygın olarak kullanılıyor ve onları “insanları değiştirmek yerine destekliyor”. ONC’de biz bu tür teknolojiyi öngörücü karar desteği olarak adlandırmaya başladık.

ONC’nin Karar Desteği için Teknoloji Geliştirme ve Kullanımını Geliştirmedeki Rolü

ONC, Sertifikasyon Programının başlangıcından bu yana klinik karar desteği (CDS) için bir sertifikasyon kriterini desteklemiştir. Temsil ettiği teknoloji gibi, bu kriter de zaman içinde gelişmiştir.

ONC, ilk olarak 2010 yılında, CDS’nin bir “kural” veya “uyarı”dan daha fazlası olduğunu, ancak klinik performansı ve sonuçları iyileştirmeye yardımcı olan çeşitli işlevlerden oluştuğunu anladı. 2012’de (2014 Sürümü kural oluşturma sürecinin bir parçası olarak), bir CDS müdahalesinin daha geniş yorumlanması gerektiğini belirttik ve “kanıta dayalı karar destek müdahaleleri” dahil olmak üzere farklı “yeni tür” müdahaleleri desteklemek için sertifikalı sağlık BT gereksinimleri oluşturduk. ve “bağlantılı referans CDS”.

Ayrıca, şeffaflığı teşvik etmek için bu yeni CDS müdahale türlerinin bibliyografya bilgileri gibi “kaynak öznitelik” bilgileri sağlamasına yönelik gereksinimleri de belirledik. Bu kaynak öznitelik veri noktaları, kullanıcıların müdahaleleri değerlendirmesine ve böylece hasta bakımı için faydalarını iyileştirmesine izin verir. Bu gereklilik, eski bir ONC Danışma Komitesi tarafından yapılan tavsiyelerle tutarlıydı ve kullanıcı incelemesi için kaynak öznitelik bilgisinin mevcudiyeti daha sonra NAM tarafından bir CDS tasarımında en iyi uygulama.

ONC’nin politika hedefi, bu tür karar desteğinin amaçlanan amacı konusunda agnostik olurken, sertifikalı sağlık BT’sinin geniş karar destek müdahale türleri kategorilerini destekleyebilmesini sağlamaya odaklanmıştır ve olmaya devam etmektedir. Bu yaklaşım dinamik ve gelişen bir karar destek teknolojileri ortamına yol açtıhasta güvenliği ve klinik yönetimden idari ve dokümantasyon işlevlerine kadar çeşitli amaç ve kapsamlara sahiptir.

Sağlık Hizmetlerinde Makine Öğrenimi için Şeffaflık

Birçok paydaşlar Sahip olmak aranan Sağlık hizmetlerinde kullanımları da dahil olmak üzere makine öğrenimi ve ilgili öngörücü modellerle ilgili şeffaflık girişimleri için. Daha fazla şeffaflık, sağlık hizmetlerinde makine öğrenimi ve ilgili teknolojilerin geniş potansiyeli için bir devrilme noktası işlevi görürken aynı zamanda bunların adil, uygun, geçerli, etkili ve güvenli kullanımını da sağlayabilir.

Gelecekteki bir gönderide, tahmine dayalı modellerin kullanımındaki gelişmeleri keşfederken, desteklerken ve teşvik ederken, paydaşların dikkate alması gereken belirli potansiyel zorlukları (“kara kutu” modelleri ile uğraşırken bilgi asimetrisi gibi) tartışmayı planladığımız için bizi izlemeye devam edin ve sağlık hizmetlerinde yürüttükleri karar destek müdahaleleri.


Kaynak : https://www.healthit.gov/buzz-blog/health-data/minimizing-risks-and-maximizing-rewards-from-machine-learning

SMM Panel PDF Kitap indir