フェイクニュース ソーシャルメディア AI倫理 LLM 民主主義 世論操作 偽情報 AIスウォーム テクノロジー規制 科学誌サイエンス

AIスウォームが民主主義を脅かす新たなリスク

AIはチャットボットやミームジェネレーターとして活用されるだけでなく、大規模な偽情報の拡散源となる可能性が、科学誌「サイエンス」に掲載された最新研究で指摘された。研究者らは、LLMや自律型AIエージェントを活用した「AIスウォーム」が、インターネットやソーシャルメディアを通じて人間を模倣し、大規模な世論操作を引き起こす危険性を警告している。

70カ国で拡大するAIによる世論操作

研究によると、組織的なソーシャルメディアの操作は、2017年には28カ国にとどまっていたが、現在では70カ国に拡大。フィリピンから米国、欧州、アジアまで、その影響は世界規模に及んでいる。特にブラジルやアイルランドの選挙では、AIによる偽情報が確認されており、民主主義の基盤が既に脅かされている実態が浮き彫りになった。

AIスウォームの脅威：自律的な世論操作システム

研究者らは、LLMの推論能力とマルチエージェントアーキテクチャを融合させたシステムが、自律的にコミュニティに浸透し、合意形成を効率的に操作する能力を持つと指摘。論文の要旨では、こうしたシステムが「プロパガンダボットネット」として機能し、無制限に拡散する可能性があると警告している。

規制の難しさと倫理的ジレンマ

AIによる世論操作を規制することは、表現の自由との兼ね合いから極めて困難だ。一部のAIボットネットワークは、ベンチャーキャピタルから資金を調達する公開の「フォープロフィット・スタートアップ」として運営されており、その実態は既に表面化している。AI導入前でさえ、無責任なソーシャルメディアプラットフォームが大規模な偽情報キャンペーンを助長しており、その被害は現実の世界で深刻な結果を招いてきた。例えば、ミャンマーのロヒンギャ迫害では、フェイスブックが偽情報の拡散に加担していたことが明らかになっている。

既に始まっているAIによる偽情報キャンペーン

現在、AIを活用した偽情報キャンペーンは、右派勢力による福祉受給者や移民への扇動といった形で顕在化しつつある。研究者らは、AIがもたらす偽情報の拡散は、既に数年前からその兆しが見られていたが、政治的な対応はほとんど進んでいないと指摘。今後、AIによる偽情報がさらに高度化し、民主主義への脅威が一層深刻化する可能性が懸念されている。

関連記事：テック企業による先住民の土地を利用したデータセンター建設に批判

テック企業が先住民の土地にデータセンターを建設する手法に対し、活動家らが非倫理的な戦術だと非難

出典: Futurism
ジャイアンツ・ジョン・ハーバウ監督「マルク・ナバースのコメントに過度に心配していない」
← 前へ

ジャイアンツ・ジョン・ハーバウ監督「マルク・ナバースのコメントに過度に...

 共和党、トランプ大統領の地下要塞付き新しいホワイトハウス舞踏室を支持
次へ →

共和党、トランプ大統領の地下要塞付き新しいホワイトハウス舞踏室を支持