Trump ve Kennedy, AI Destekli Sağlık Araçlarına Yönelik Koruma Tedbirlerini Gevşetmeyi Hedefliyor

Oakland, Kaliforniya’daki Kaiser Permanente psikoterapisti Paul Boyer, AI devriminin sağlık sektöründeki etkilerini yakından yaşıyor. Ancak bu devrimden tam olarak memnun değil.

Sağlık devi Kaiser Permanente, Abridge adlı AI sağlık şirketi tarafından geliştirilen ve hasta görüşmelerini süpersonik hızda özetleyen yeni bir not alma yazılımını hizmete sundu. Birçok klinisyen için bu teknoloji, idari iş yükünü hafifleten bir kurtarıcı gibi görünse de, Boyer ve meslektaşları için yeni bir baş ağrısına dönüştü: Yazılımın ürettiği notlar ‘pek kullanışlı değil’.

Boyer, yazılımın klinik nüansları ve duygusal tonlamaları yakalamada yetersiz kaldığını belirtiyor. Örneğin, manik hastaların ifadelerinden çok, nasıl konuştukları önem taşıyor. AI destekli not alma sistemleri, şu anda hastanelerde yaygın olarak kullanılmaya başlandı. Bir araştırmaya göre, bu sistemleri en yoğun kullanan doktorlar, günde yarım saatten fazla zaman kazanıyor.

Ancak Boyer’in deneyimi, sistemlerin kalitesi konusunda ciddi endişeleri de beraberinde getiriyor. Doktorlar hatalı notları düzeltmekle uğraşırken, güvenlik araştırmacıları klinisyenlerin bu hataları yakalamada yeterince dikkatli olmayabileceğinden endişe ediyor. Bu durum, gelecekte doktorların yanlış bilgilere dayanmasına yol açabilir.

Abridge şirketi, yazılımlarını sürekli olarak değerlendirdiklerini ve klinisyenlerden gelen geri bildirimleri dikkate aldıklarını açıkladı. Şirketin Uygulamalı Bilimler Direktörü Davis Liang,

‘Modelin devreye alınmasının ardından klinisyenlerin yaptığı düzeltmeleri, puanlamaları ve serbest metin geri bildirimlerini izliyoruz.’

AI destekli not alma yazılımları, sağlık sektöründe hızla yaygınlaşan birçok AI aracından sadece biri. Klinisyenler ve hasta güvenliği savunucuları, bu yeni teknolojilerin hasta durumlarını yanlış veya eksik aktarma riskine karşı yeterli federal düzeyde koruma olmadığını vurguluyor.

Raj Ratwani, MedStar Health’te insan faktörleri uzmanı olarak görev yapıyor. Ratwani, ABD Sağlık Bakanlığı’nın dijital sağlık kayıtlarını düzenleyen birimi olan ONC’nin (Office of the National Coordinator for Health IT) önerdiği yeni kuralların, tıbbi kayıtların anlaşılırlığını ve şeffaflığını zayıflatabileceğini söylüyor. Bu durum, klinisyenlerin hatalı kararlar almasına yol açabilir.

Obama döneminde başlayan bir girişimle, Sağlık ve Sosyal Hizmetler Bakanlığı, kullanıcı dostu tasarımı teşvik etmişti. Ancak yeni öneriler, bu yaklaşımı zayıflatma riski taşıyor. Hasta güvenliği savunucuları, AI destekli sağlık araçlarının denetlenmesi için daha sıkı kuralların getirilmesini talep ediyor.