米連邦取引委員会（FTC）は、AI技術の悪用防止に向けた取り組みを強化する。特に、同意なしに作成・拡散される性的ディープフェイク画像や音声模倣詐欺など、悪意あるAI利用の規制を強化する方針だ。
新法「Take It Down Act」がFTCの権限を拡大
昨年、米議会は「Take It Down Act」を可決した。この法律により、同意なしに共有・拡散される性的画像やAI生成の偽造画像について、犯罪行為として刑事告発が可能となった。FTCのアンドリュー・ファーガソン委員長は先週の上院公聴会で、同法を「現在の議会とトランプ政権の最大の立法成果の一つ」と評価し、FTCが「強力な執行体制」を整備中であると述べた。
初の有罪判決と今後の執行体制
今月、司法省は同法に基づく初の有罪判決を下した。オハイオ州コロンバス在住の37歳男性、ジェームズ・ストラーラー被告は、少なくとも6人の女性を標的にAI生成のヌード画像を悪用したハラスメント行為で有罪を認めた。ストラーラー被告は現在、量刑が未決定となっているが、近隣の子どもの写真を無断で使用してディープフェイクポルノを作成していたことも明らかになっている。
5月から施行される同法の新たな条項では、性的ディープフェイク画像を掲載・ホストするウェブサイトに対し、個人が「削除要請」を送付できるようになる。企業は要請から48時間以内にコンテンツを削除しない場合、FTCによる調査・執行の対象となる。FTCのマーク・メイダー委員は3月30日のワシントンD.C.での会議で、「執行を望まない」としつつも、同法の執行を最優先課題とし、必要な体制整備を進めていると述べた。
テック企業との初の対立も視野に
メイダー委員は、5月からの執行開始後、企業が要請に応じない場合にFTCが対応に乗り出すと説明した。「要請があったにもかかわらず削除されない場合、正式な苦情を受けてから対応に移る」と述べた。同委員は、企業が要請を受けた際に速やかに対応することを期待していると述べた。
特に注目されるのが、AI生成の非合意ヌード画像が相次いで作成されているxAIの「Grok」だ。同社は今年初めに発生したスキャンダル後も、ユーザーによる実在人物の非合意ヌード画像の作成・拡散を防止できていない。サイバースクープの取材に対し、メイダー委員は「5月から施行され、企業が要請に応じない場合にFTCが動く。企業の対応次第で今後の動きが決まる」と述べた。
xAIの広報担当は、サイバースクープからのコメント要請に対し、回答しなかった。また、FTCは今月初めに発表した戦略計画で、子どものオンライン保護を「重要な懸念事項」と位置付け、消費者向けツールやリソースの拡充を進める方針を示した。同計画では、子どもと家族を保護するための新たな権限を行使する可能性にも言及している。
FTCの今後の取り組みと課題
FTCは、Take It Down Actの執行を通じて、AI技術の悪用防止に向けた包括的な取り組みを進める。特に、子どもの保護や家族の安全確保を最優先課題とし、新たな消費者向けツールの開発やリソースの提供を検討している。今後、テック企業との協力体制の構築や、グローバルな規制の枠組みとの整合性も課題となる見通しだ。
関連記事
メイヨー・クリニックがAIで救急外来の会話を録音、倫理的課題浮上
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
米国防総省幹部「先端AIは戦争を根本から変える革命的技術」
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
米ホワイトハウス高官が指摘：AI時代のサイバーセキュリティで「アイデンティティ管理」が最重要に
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
フォックスコン、北米工場へのサイバー攻撃を確認 8TBのデータ流出主張するランサムウェアグループが犯行声明
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
AI便分析アプリがユーザーの15万枚の便画像データベースを販売 — 倫理的・プライバシー問題で波紋
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...
AI最新モデルが自律型サイバータスクのベンチマークを突破、専門家に衝撃
Two of the most advanced artificial intelligence models — Anthropic’s Claude Mythos Preview and OpenAI’s GPT-5.5 — have significantly surpassed the al...
下院安全保障委員会、AIモデル「Mythos」のサイバー脆弱性検出能力を調査
The House Homeland Security Committee is digging into Anthropic’s AI model Mythos in a series of briefings and hearings, as questions proliferate on w...
司法省、全国選挙人名簿収集の法的根拠を発表 連邦政府の選挙介入を正当化
The Trump administration released a legal opinion outlining the legal rationale behind its nationwide voter data collection efforts, justifying an agg...