AI医療 AI規制 医療ミス オンタリオ州 医療記録

オンタリオ州の医師たちは、過重労働の負担軽減のため、AIを活用した医療記録作成ツール（AI医療書記）を導入するケースが増えている。このツールは、医師と患者の会話を自動で要約し、診断や治療計画を構造化された記録として残すことを目的としている。

しかし、同州の監査官が発表した最新の監査報告書によると、州政府が推奨するAI医療書記ツールの多くが、虚偽情報の生成、不完全な記録、重大な誤りを含む出力を行い、その結果、患者の治療計画に悪影響を及ぼす可能性があることが明らかになった。

20社のAIツールすべてに問題が確認される

監査官は、州政府が医療機関向けに事前承認した20社のAI医療書記ツールを対象に、模擬患者と医師の会話を基にした精度テストを実施した。その結果、全20社に何らかの精度不足や不完全な記録が見られた。具体的には、以下のような重大な問題が判明した。

  • 9社：存在しない患者情報や検査・治療の紹介状を「幻覚」し、虚偽の記録を作成
  • 12社：処方薬の名称や用量を誤記
  • 17社：精神疾患に関する重要な詳細を見落とし、記録に反映されず

虚偽情報がもたらす深刻なリスク

監査報告書では、これらのAIツールが生成した記録に含まれる具体的なエラーの例が示されている。例えば、

  • 存在しない血液検査やセラピーの紹介状を作成し、患者に不必要な検査や治療を勧める可能性
  • 処方薬の名称を間違えて記録し、誤った薬が処方されるリスク
  • 精神疾患に関する重要な会話内容を無視し、適切な治療計画が立てられない可能性

これらのエラーは、患者の治療経過に直接的な悪影響を及ぼすだけでなく、医療ミスや健康被害につながる可能性があると監査官は警告している。

州政府の対応と今後の課題

監査報告を受け、オンタリオ州政府はAI医療書記ツールの使用に関する見直しを迫られている。州政府はこれまで、医療機関がAIツールを導入しやすくするために、事前承認プロセスを設けてきたが、今回の監査結果を踏まえ、承認基準の厳格化や、導入後のモニタリング体制の強化が求められている。

また、医療機関側にも、AIツールの出力内容を必ず医師が確認し、必要に応じて修正する体制の整備が急務となっている。AI技術の進化により医療現場の負担軽減が期待される一方で、患者の安全を最優先に、慎重な導入と運用が必要不可欠だと言える。

「AI医療書記ツールは、医師の負担軽減に貢献する可能性を秘めているが、その一方で、虚偽情報や不完全な記録が患者の治療に深刻な影響を及ぼすリスクがある。導入にあたっては、ツールの精度と信頼性を徹底的に検証し、医師による最終確認を怠らない体制が不可欠である。」
— オンタリオ州監査官

今後、オンタリオ州ではAI医療ツールの規制強化が進むとみられ、他の州や国でも同様の監査や規制見直しが行われる可能性がある。医療分野におけるAI活用の拡大に伴い、安全性と信頼性の確保がますます重要な課題となっている。

出典: Ars Technica
CDC、研究用サル160匹超を動物保護団体へ移送へ 代替法推進の一環
← 前へ

CDC、研究用サル160匹超を動物保護団体へ移送へ 代替法推進の一環

 トランプ政権に失望する反 abortion 運動：なぜ成果が上がらないのか
次へ →

トランプ政権に失望する反 abortion 運動：なぜ成果が上がらないのか