ABD’nin Utah eyaleti, doktor gözetimi olmaksızın psikiyatrik ilaç reçetesi yenileyebilen bir yapay zeka sistemine onay verdi. San Francisco merkezli girişim Legion Health tarafından geliştirilen sistem, aylık 19 dolarlık bir ücret karşılığında kullanıcılara ruh sağlığı ilaçları için reçete yenileme hizmeti sunuyor.
Yeni sisteme göre sohbet botu, hasta değerlendirmesini bağımsız olarak gerçekleştirerek ilacın yenilenip yenilenmeyeceğine karar veriyor ve reçeteyi doğrudan eczaneye iletiyor. Hekimler bu sürecin hiçbir aşamasına dahil edilmiyor. Uygulamanın eyaletteki ruh sağlığı hizmetlerinin yetersizliği ve hızla tırmanan maliyetlere karşı pratik bir çözüm olarak konumlandırıldığı belirtiliyor.
Ancak sistem, hekimler arasında ciddi kaygılara yol açıyor. Legion Health’in yapay zekasının kararlarını hangi kriterlere göre verdiğini, hangi eğitim verilerini kullandığını ya da hastanın durumunun kötüleşebileceği kritik durumlarda nasıl bir yol izlediğini kamuoyuyla paylaşmadığı dikkat çekiyor. Bu şeffaflık eksikliği, doktorların sistemin kararlarını denetlemesini ya da bir hata durumunda müdahale etmesini neredeyse olanaksız kılıyor. Hekimler özellikle en fazla yardıma ihtiyaç duyan hasta gruplarının otomatik sistemlere yönlendirilmesinin ciddi riskler doğurabileceği konusunda uyarıyor.
