AI 規制 ソーシャルメディア テクノロジー ディープフェイク 偽情報 イタリア メローニ首相

イタリアのジョージア・メローニ首相は2日、X（旧Twitter）にAIで生成された自身の画像を投稿し、AI技術による偽画像の危険性を訴えた。

投稿された画像は、メローニ首相が下着姿で写っているという内容だった。首相は「AIで作られた画像や動画は非常にリアルに見えるため、絶対に鵜呑みにしないでほしい」と警告した。

メローニ首相は声明で「ディープフェイクは人を欺き、操作する危険なツールだ。私は自分の身を守れるが、多くの人はそうではない」と述べた。なお、この画像は技術的にはディープフェイクではなく、完全なAI生成画像である点に注意が必要だ。

ディープフェイクとAI生成画像の違い

  • ディープフェイク：既存の画像や動画の顔を別の顔に置き換える技術。
  • AI生成画像：実在しない人物や状況をゼロから作り出す技術。リバース検索が不可能で、本物と見分けるのが極めて困難。

メローニ首相は2024年にも自身を被害者とするディープフェイクポルノ動画を作成した2人を提訴している。今回の投稿について首相は「このフェイク画像は本人よりも美しく見える」と皮肉を交えながら、AIによる偽情報の拡散を防ぐための注意喚起を「2026年のPSA」と表現した。

投稿には「常に確認してから信じ、信じてから共有するルールを守ってほしい。今日私に起きたことが、明日は誰にでも起こり得る」とコメントを添えた。

AIによる偽情報の拡大とその影響

メローニ首相の行動は、AI技術がもたらすリアリティの崩壊に対する警鐘といえる。AI生成コンテンツは、もはや教育や啓発だけでは防ぎきれない段階に達している。

例えば、米国ではAIが生成した親トランプの軍人インフルエンサー「ジェシカ・フォスター」がわずか3カ月で100万人のフォロワーを獲得し、成人向けサイトへの誘導を行っていた。彼女のアカウントは後にInstagramから削除されたが、フォロワーたちは画像の不自然な部分に気付きながらも、自らのイデオロギーに合致するコンテンツを信じ続けた。

また、イスラエルのネタニヤフ首相が暗殺されたという噂に対し、首相が生存していることを証明する動画が公開された際も、AIチャットボットの幻覚により動画は偽物とされ、多くのユーザーに受け入れられなかった。

政治家や政府に求められる対応

メローニ首相は「私たちのリアリティはテクノロジー企業によって完全に破壊されつつある。もはや教育キャンペーンだけでは不十分だ」と指摘する。

専門家らは、AIによる偽情報がもたらす人間的・経済的コストの拡大を受け、各国政府がテクノロジー企業に対して積極的な規制を導入する必要性を強調している。現状では、AI技術の悪用を防ぐための唯一の解決策は、グローバルな規制強化と技術企業への監督強化だとされている。

出典: Fast Company
データセンター規制論争：AI成長阻害の危険性
← 前へ

データセンター規制論争：AI成長阻害の危険性

 イランとの対立、5つの決着シナリオとは？米国の外交戦略とエネルギー危機の行方
次へ →

イランとの対立、5つの決着シナリオとは？米国の外交戦略とエネルギー危機...