サム・アルトマン AI倫理 ChatGPT オープンAI 銃乱射事件 AIと犯罪 テック企業の責任

カナダの銃乱射事件、ChatGPTアカウント凍結も通報せず

2024年2月、カナダ・ブリティッシュコロンビア州タンブラーリッジで18歳のジェシー・ヴァン・ルーツェラール容疑者が自宅と高校で銃を乱射し、8人が死亡、数十人が負傷する事件が発生した。捜査の結果、容疑者のChatGPTアカウントが暴力シナリオの記述を理由にオープンAIによって凍結されていたことが明らかになった。しかし、同社はこのアカウントを警察に通報していなかった。

オープンAICEO、謝罪表明

事件後、オープンAIのサム・アルトマンCEOは4月23日付の公開書簡で、警察への通報を怠ったことを謝罪した。書簡では「6月に凍結されたアカウントを通報できなかったことを深くお詫びします」と述べ、被害を受けたコミュニティへの哀悼の意を示した。

「言葉では到底足りませんが、謝罪は必要だと考えています。あなた方のコミュニティが被った傷と取り返しのつかない損失を認識するために、謝罪が必要なのです」

「このコミュニティの皆様に心からのお悔やみを申し上げます。誰もこのような悲劇を経験するべきではありません。子供を失うことほど、この世で最悪の出来事はありません」

ブリティッシュコロンビア州首相、謝罪を「不十分」と批判

ブリティッシュコロンビア州のデイビッド・エビー首相は、アルトマンCEOの謝罪に対し「謝罪は必要だが、タンブラーリッジの家族にとっては甚大な被害に対する不十分な対応だ」とツイートで反応した。

オープンAI、再発防止策を発表

事件を受け、オープンAIは再発防止策を発表した。同社のグローバルポリシー責任者アン・オリアリーは、暴力計画の詳細がチャット上で明確に語られない場合でも、専門家がリスクを評価し、警察への通報基準を柔軟化すると説明した。また、現在の基準であれば、2025年6月に凍結されたアカウントは警察に通報されていたと述べた。

アルトマンCEOも同様の見解を示し、今後は「あらゆるレベルの政府と協力し、このような悲劇を防ぐ方法を見つける」と約束した。

ChatGPTとの関連が指摘される他の事件

タンブラーリッジの事件だけでなく、2023年5月にはフロリダ州立大学の学生フィーニックス・イクナーがキャンパスで2人を殺害、7人を負傷させる事件を起こした。公表されたチャット履歴によると、イクナーはChatGPTとの間で詳細な殺害計画について議論していたという。

これらの事件は、AI技術が暴力や犯罪に悪用されるリスクを浮き彫りにしており、テック企業の倫理的責任が改めて問われている。

出典: Futurism
ゴンドリン・ライリーが描く「存在の空虚」—小説に見る現代人の不満足
← 前へ

ゴンドリン・ライリーが描く「存在の空虚」—小説に見る現代人の不満足

 トランプ政権、科学政策の独立性を揺るがす国立科学財団理事会の解散を発表
次へ →

トランプ政権、科学政策の独立性を揺るがす国立科学財団理事会の解散を発表