Son yıllarda, aşırı çalışan birçok doktor,sözde yapay zeka tıp yazarlarıHasta konuşmalarını, teşhislerini ve bakım kararlarını, sağlık kayıtlarının günlüğe kaydedilmesi için yapılandırılmış notlarda otomatik olarak özetlemeye yardımcı olur. But a recent audit by the auditor general of Ontario found that AI scribes recommended by the provincial government regularly generated incorrect, incomplete and hallucinated information that could "potentially result in inadequate or harmful treatment plans that may potentially impact patient health outcomes."
birOntario Hükümetinde Yapay Zeka Kullanımına ilişkin son raporGenel denetçi, sağlık hizmeti sağlayıcıları tarafından satın alınmak üzere eyalet hükümeti tarafından onaylanan ve ön yeterliliğe sahip olan 20 yapay zeka yazıcı satıcısı arasında gerçekleştirilen iki simüle edilmiş hasta-doktor görüşmesinin transkripsiyon testlerini inceledi. Bu satıcıların 20'sinin tamamı, bu basit testlerden en az birinde doğruluk veya tamlık konusunda bazı sorunlar gösterdi; bunlardan dokuzu hasta bilgilerini halüsinasyonla gördü, 12'si bilgileri yanlış kaydetti ve 17'si tartışılan zihinsel sağlık sorunlarıyla ilgili önemli ayrıntıları kaçırdı.
Raporda genel denetçi, bu özetlerdeki, hastanın sonraki bakımı üzerinde doğrudan ve olumsuz etki yaratabilecek çok sayıda ilgili hata örneğine dikkat çekiyor. Bu, bir yapay zeka yazıcısının kan testleri veya terapi için var olmayan yönlendirmeleri halüsinasyona uğrattığı, reçeteli ilaçların adlarını yanlış yazdığı ve/veya simüle edilmiş konuşmalarda tartışılan zihinsel sağlık sorunlarının "anahtar ayrıntılarını" kaçırdığı durumları içerir.
