AIが引き起こす冤罪と誤逮捕：警察活動におけるテクノロジーの限界

米国メリーランド州ボルチモア。2025年10月20日の放課後、17歳の学生タキ・アレンはアメリカンフットボールの練習を終え、高校の外で座っていた。そこに設置されたAI強化型監視カメラが、彼のポケットに入っていたドリトスの袋を「銃」と誤認識した。瞬く間にパトカーが到着し、警察官は武器を抜いてアレンを跪かせ、手錠をかけた上で身体検査を行った。結果、袋の中身はただのポテトチップスだった。AIのミスと、それに続く人間の判断が、平凡な放課後をトラウマ的な対峙へと変えてしまった。

同じ年の12月24日、テネシー州在住の祖母アンジェラ・リップスは、顔認識ソフトウェアの誤認により、北ダコタ州で行われた詐欺事件の容疑者と誤って結びつけられ、5か月間の拘留を経てようやく釈放された。彼女は孫4人を預かっていた際に、銃を突きつけられて逮捕されたという。これらは、技術的な欠陥と、AIの「客観性」への過信が引き起こす人権侵害の典型例だ。

これらの事例は異なるツールに起因するが、根本的な問題は同じだ。AIシステムは確率に基づく予測を生成するが、人間はそれを「確実な事実」として扱ってしまうのだ。私たちはテクノロジー、法律、公共行政の交差点を研究する研究者であり、警察機関がAIをどのように活用し、デジタル技術が民主主義社会でどのように機能するかについて調査を重ねてきた。その中で、AIによる確率的な予測が「確実な事実」へと変わるプロセスがいかに迅速かつ自然に行われるかを目の当たりにしてきた。

AI警察ツールの実態とリスク

米国の数十の都市でAI警察ツールが導入されているが、その全容を追跡する公的な登録システムは存在しない。これらのツールは過去の犯罪データを分析し、リスクが高いと予測される地域をスコア化して、警察官を派遣する「ホットスポット」を特定する。仕組みは単純だが、その結果は複雑だ。

システムが「潜在的な脅威」を示した瞬間、問題は「その予測の確実性はどれほどか」ではなく、「どう対応すべきか」へとすり替わる。統計的な出力が運用上の決定に変わり、その不確実性は意思決定の過程で失われてしまうのだ。

確率と事実の混同が招く危険性

生成AIモデル（例：ChatGPTやClaude）が人間の質問に答える際、彼らはデータベースから事実を検索して回答しているわけではない。彼らは訓練データ内のパターンに基づき、最も起こり得る回答を「予測」しているに過ぎない。例えば「電球を発明したのは誰か？」と尋ねられた際、モデルは「トーマス・エジソン」と答えるだろう。しかし、これは完全な事実ではなく、同時期に同じ発明を行ったジョセフ・スワンの存在など、文脈を含む真実の一部分に過ぎない。

問題は、人々がこの「最も起こり得る回答」を「事実確認済みの回答」と信じてしまう点にある。この区別は極めて重要だ。最も確率の高い回答は、文脈や裏付けを含む事実とは同義ではないのだ。冒頭のタキ・アレンのケースは、まさにこの落とし穴にはまった典型例と言える。

法執行におけるAI活用の課題

例えば、地理的データを基に犯罪活動の発生場所を予測するAIシステムを警察が使用する場合、その出力は「犯罪が起こりやすい地域」という確率的な予測に過ぎない。しかし、この予測が「犯罪が起こる確実な地域」として扱われ、警察のリソース配分や住民への対応に直結すると、市民の権利が侵害されるリスクが生じる。特に、歴史的に犯罪発生率の高い地域や、特定の人種・民族が多く住む地域に対して偏った予測が行われれば、差別的な運用につながりかねない。

さらに、顔認識技術の精度の問題も深刻だ。米国国立標準技術研究所（NIST）の調査によると、顔認識システムは人種や性別によって誤認識率に大きな差があり、特に有色人種の女性に対する誤認識率が高いことが明らかになっている。アンジェラ・リップスのケースは、この技術的な限界がもたらす人権侵害の象徴的な事例と言えるだろう。

民主主義社会におけるテクノロジーのガバナンス

AI技術の導入が進む中、そのリスクを最小限に抑えるためには、透明性の確保と人間による監督が不可欠だ。具体的には、以下のような対策が求められる。

• 公的な登録システムの整備：警察が使用するAIツールの種類、導入地域、目的、精度検証結果などを公開し、市民が監視できる仕組みを構築する。
• 人間による最終判断の義務化：AIの予測を「参考情報」として位置付け、最終的な判断は人間が行うことを徹底する。特に逮捕や捜索など、市民の権利に重大な影響を及ぼす場面では、AIの出力を鵜呑みにしないルールを設ける。
• 技術的な精度検証の徹底：AIシステムの精度やバイアスを定期的に検証し、その結果を公開する。特に顔認識技術については、人種や性別による精度の差を明確にし、改善策を講じる必要がある。
• 市民参加型の監視体制：AIの導入や運用に関する意思決定プロセスに市民が参加できる仕組みを整える。例えば、市民委員会を設置し、警察のAI活用計画に対する意見を反映させる。
• 法的な枠組みの整備：AIの誤用や過信に対する法的責任を明確化し、被害者への救済措置を整備する。同時に、AI技術の開発者や導入者に対して、倫理的なガイドラインの遵守を義務付ける。

結論：テクノロジーと人間のバランスを取り戻す

AIは強力なツールだが、決して万能ではない。特に警察活動のような、市民の権利と安全に直結する分野では、その活用に慎重を期す必要がある。技術的な進歩が目覚ましい一方で、人間の判断や倫理観が置き去りにされてはならない。AIが生み出す確率を「事実」として扱うのではなく、常に「不確実性」を念頭に置きながら、透明性と責任を持って活用していくことが求められる。

タキ・アレンやアンジェラ・リップスのような事例は、決して他人事ではない。私たち一人一人が、テクノロジーの進化とそのリスクについて理解を深め、適切なガバナンスを求めていくことが、より公正で安全な社会を築く第一歩となるだろう。