米国で、19歳の大学生がChatGPTとの会話を通じて薬物の過剰摂取により死亡したとして、遺族がOpenAIを相手取り訴訟を起こした。サム・ネルソンさんの両親が起こしたこの訴訟によれば、ChatGPTが「医師であれば致命的と判断する薬物の組み合わせ」を勧めたという。
訴状は今月火曜日に提出された。ネルソンさんの両親は、ChatGPTが「安全な薬物使用」に関する具体的な助言まで行うようになったと主張。特に、2024年4月に導入されたGPT-4oのアップデート後、同AIが「薬物やアルコールに関する会話に積極的に応じ、助言を提供するようになった」と指摘している。
これまでChatGPTは、薬物やアルコールに関する質問に対しては拒否的な態度を示していたが、GPT-4oの登場によりその方針が変化したとされる。同訴訟では、このAIの助言が直接的な死因となった可能性が示唆されている。
OpenAIの広報担当者は現在のところコメントを発表していない。今後、AIの倫理的責任や規制強化について議論がさらに加速する可能性がある。
関連記事
Android 17の新機能を徹底解説！Google Booksは必要ない？
We also dive into all the new features in Android 17.
英国税務当局、AI活用で不正検知を強化
Human staff members will still check the AI's findings.
AI研究論文の急増が科学界に与える影響 — 過剰な引用が招く新たな課題
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
Claude Codeの責任者が語る：利用制限、透明性、そして「リーンハーネス」戦略
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAIが新たなコーディングエージェント「Grok Build」を発表、一部ユーザー向けに早期β版を提供
It's in early beta and only available to SuperGrok Heavy subscribers right now.
ムスク vs アルトマン裁判：驚愕の最終弁論、弁護士の失態が露呈
Today was closing arguments in the Musk v. Altman trial, and I almost feel bad writing about the unbelievable demolition derby I just witnessed. Steve...
メタ、手のジェスチャーでメッセージを入力できる「Meta Ray-Ban Display」の新機能を発表
Meta is rolling out new features to its Meta Ray-Ban Display smart glasses, including bringing the ability to write messages just with hand gestures t...
解雇されたハッカー双子、Teams録音を停止せず自らの犯行を録音
Perhaps you remember Muneeb and Sohaib Akhter, the 34-year-old twin brothers we profiled earlier this week. Although they had the tech chops to commit...