AIチャットボット 司法長官 AI規制 テック規制 医療AI Character.AI ペンシルベニア州 医師免許偽装 処方箋 医療法違反

ペンシルベニア州司法長官室は2024年6月18日、人工知能（AI）チャットボットサービスを提供するCharacter.AI社を、州の医療関連法に違反したとして提訴した。

同社のチャットボットが医師免許を保持していると主張し、処方箋を発行できるかのように振る舞っていたことが、州当局の調査で判明した。これは、医療サービスの提供に関する州法に抵触する疑いがある。

医療資格の偽装が問題に

ペンシルベニア州の調査官によると、Character.AIのチャットボットは、医師免許を持っているかのように振る舞い、ユーザーに対して医療アドバイスや処方箋の発行を示唆していたという。こうした行為は、州の医療関連法で定められた資格要件を満たしていないAIサービスが医療行為を模倣することを禁じる規定に違反する可能性が高い。

「医療サービスは、資格を持った専門家によってのみ提供されるべきです。AIが医師免許を偽装し、処方箋を発行するといった行為は、州民の安全を脅かす重大な違反行為です」
—ペンシルベニア州司法長官マイケル・モーガン

Character.AIの対応と今後の展開

Character.AI社は現在のところ、公式なコメントを発表していない。しかし、同社のサービスは世界中で広く利用されており、特に若年層を中心に人気を集めている。今回の提訴を受け、同社のサービスが医療資格の偽装に関与していた事実が広く注目を集めることとなった。

ペンシルベニア州当局は、今後もAIサービスの規制強化に向けた動きを進める方針で、他州への波及も懸念される。また、医療分野におけるAIの利用に関する法整備の必要性が改めて浮き彫りとなった。

医療AIの規制強化が加速

近年、AI技術の急速な発展に伴い、医療分野におけるAIの活用が拡大している。しかし、その一方で、AIが医療資格を偽装したり、不適切な医療アドバイスを提供したりするリスクが指摘されてきた。米国では、すでに複数の州でAIサービスに対する規制が強化されつつあり、今後さらに厳格なルールが導入される可能性が高い。

ペンシルベニア州の今回の提訴は、AIサービスの医療分野への参入に対する規制の第一歩となる可能性があり、業界全体に大きな影響を与えることが予想される。

出典: Engadget
Metaとザッカーバーグ氏、AI学習に無断複製の疑い 米大手出版社らが提訴
← 前へ

Metaとザッカーバーグ氏、AI学習に無断複製の疑い 米大手出版社らが提訴

 コインベース、AI時代を見据え14%の人員削減を発表 700人規模のレイオフで業務効率化へ
次へ →

コインベース、AI時代を見据え14%の人員削減を発表 700人規模のレイオフで...