أجهزة الذكاء الاصطناعي الطبية: audit أونتاريو يكشف عن أخطاء خطيرة في الملاحظات الطبية

في ظل الازدحام الشديد الذي تشهده عيادات الأطباء، لجأ العديد من الأطباء إلى استخدام ما يُعرف بـ"الكُتّاب الطبيين من الذكاء الاصطناعي"، nhằm أتمتة تسجيل محادثات المرضى والتشخيصات وخطط العلاج في ملاحظات منظمة تُضاف إلى السجلات الطبية. إلا أن تدقيقاً حديثاً أجرته هيئة مراجعة الحسابات في أونتاريو كشف عن مخاطر كبيرة مرتبطة بهذه التقنية.

وأشارت نتائج التدقيق إلى أن الكُتّاب الطبيين من الذكاء الاصطناعي، الذين أوصت بها الحكومة الإقليمية، تنتج بانتظام معلومات خاطئة أو ناقصة أو حتى معلومات وهمية، مما قد يؤدي إلى "خطط علاج غير كافية أو ضارة قد تؤثر سلباً على نتائج صحة المرضى".

نتائج التدقيق: أخطاء واسعة النطاق

في تقرير حديث حول استخدام الذكاء الاصطناعي في حكومة أونتاريو، قامت هيئة مراجعة الحسابات بمراجعة اختبارات تسجيل محادثتين محاكيتين بين المرضى والأطباء، شملت 20 مورداً مختلفاً للكُتّاب الطبيين من الذكاء الاصطناعي، تم اعتمادهم مسبقاً من قبل الحكومة الإقليمية لتوفيرهم للمؤسسات الصحية. وأظهرت النتائج أن جميع الـ20 مورداً يعانون من مشكلات تتعلق بالدقة أو اكتمال المعلومات، بما في ذلك:

• تسعة موردون أنتجوا معلومات وهمية تتعلق بالمرضى.
• اثنا عشر مورداً سجلوا معلومات بشكل خاطئ.
• سبعة عشر مورداً أغفلوا تفاصيل حيوية تتعلق بالمناقشات حول القضايا الصحية النفسية.

وأكد التقرير أن هذه الأخطاء قد يكون لها تأثير مباشر وسالب على الرعاية الصحية اللاحقة للمرضى، حيث شملت حالات تحريف في الأدوية أو الاختبارات الطبية، فضلاً عن تسجيل أسماء الأدوية بشكل خاطئ أو إنتاج مراجعات وهمية لفحوصات الدم أو العلاجات النفسية.

تحذيرات من تأثيرات خطيرة

أشار التقرير إلى أمثلة مقلقة حول كيفية تأثير هذه الأخطاء على المرضى، مثل:

• إنتاج مراجعات وهمية لفحوصات الدم أو العلاجات النفسية التي لم تحدث قط.
• تسجيل أسماء الأدوية بشكل خاطئ، مما قد يؤدي إلى وصفات طبية خاطئة.
• إغفال تفاصيل حيوية تتعلق بالصحة النفسية، مما قد يؤثر على جودة الرعاية المقدمة.

وفي تعليق على هذه النتائج، حذر التقرير من أن هذه الأخطاء قد تؤدي إلى تشخيصات خاطئة أو خطط علاج غير مناسبة، مما يهدد سلامة المرضى.