AI テック企業 倫理 ChatGPT オープンAI 安全対策 法的責任 カナダ 学校銃乱射事件 集団提訴

カナダ・ブリティッシュコロンビア州の鉱山町トゥンブラーリッジで発生した凄惨な学校銃乱射事件の被害者7家族が、米オープンAIを相手取り集団提訴に踏み切った。同社が加害者の危険な発言を事前に把握していたにもかかわらず、カナダ当局に通報せず、結果的に事件を防ぐ機会を逸したと主張している。

2024年2月初旬、当時18歳のジェシー・ヴァン・ルーツェラールは実母と異父弟を殺害した後、トゥンブラーリッジ中学校に向かい、改造ライフルを使用して児童と教師を銃撃。12～13歳の児童5人と教師1人が死亡し、27人が負傷した。被害者の多くは遺体の損傷が激しく、遺族は服装で身元を確認せざるを得なかった。加害者は自殺した。

同事件の加害者も、数百万人と同様にChatGPTの利用者だった。その後の報道で、オープンAIの自動モデレーションシステムが2025年6月に加害者のアカウントを大量虐殺に関する過激な発言の疑いで検知していたことが判明。社内の担当者らは内容に衝撃を受け、加害者の発言が「他者の生命に対する差し迫った脅威」と判断し、経営陣にカナダ当局への通報を強く求めた。しかし、関係者10人以上が参加した議論の末、オープンAIは通報を見送り、代わりに加害者のアカウントを停止するにとどめた。

「利益優先の判断」と被害者遺族

今回の集団提訴はカリフォルニア州で提起された。訴状ではChatGPTを「共謀者」と位置付け、オープンAIが加害者の発言を当局に通報していれば、事件は未然に防げた可能性があると主張。通報を見送ったのは、将来的な法的責任やIPOに向けた成長への悪影響を懸念した「利益優先の判断」だったと指摘している。

提訴した遺族には、事件で死亡した児童5人と教師1人の家族が含まれる。具体的には、13歳のエゼキエル・スコフィールド、12歳のゾーイ・ブノワ、12歳のティカリア・ラムパート、12歳のアベル・ムワンサ・ジュニア、12歳のカイリー・スミス、そして39歳の教育補助員シャンダ・アビュガナ・デュランの家族だ。また、頭部と首に3発の銃弾を受け、脳に「壊滅的」な損傷を負いながらも奇跡的に生還した12歳のマイア・ゲバラの家族も名を連ねる。ゲバラは現在も重体が続いている。

訴状ではオープンAIの責任を以下のように厳しく糾弾している。

  • 危険な製品の設計：ChatGPTが暴力的な発言を助長する仕様だった
  • 社内警告の無視：安全チームの警告を無視し続けた
  • 当局への通報拒否：大量虐殺計画を把握していたにもかかわらず通報しなかった
  • 再登録の許可：アカウント停止後も再びプラットフォームへのアクセスを許可した
  • 利益優先の選択：子どもたちの命よりも利益を優先した

ゲバラの家族は3月にカナダでオープンAIを提訴していたが、今回の集団訴訟がこれを上回る形となった。

オープンAIの対応と今後の展開

オープンAIは2月に加害者のアカウントがモデレーションシステムで検知されていたことを認めたが、具体的な対応の詳細については明らかにしていない。同社は「安全性の向上に取り組んでおり、今後も透明性を維持していく」とコメントしているものの、今回の提訴を受け、さらなる法的責任や規制強化の動きが加速する可能性がある。

専門家らは、AI企業の責任範囲や通報義務の在り方について議論が活発化すると指摘。AI技術の発展とともに、倫理的・法的な枠組みの整備が急務となっている。

出典: Futurism
AIエージェントが生む「見えない店舗経済」：小売業者の95%がAIトラフィックを確認も、対応できるのはわずか20%
← 前へ

AIエージェントが生む「見えない店舗経済」：小売業者の95%がAIトラフィッ...

 クローバーオリジンズ攻略に必須！TrelloボードとDiscordサーバーを完全解説
次へ →

クローバーオリジンズ攻略に必須！TrelloボードとDiscordサーバーを完全解...