認証・セキュリティ分野の企業Copyleaksによると、テイラー・スウィフトやリアナなどのセレブのAI合成動画が、TikTok上で詐欺広告に悪用されていることが明らかになった。

これらの広告は、インタビューやレッドカーペット、ポッドキャスト、トークショーなどの映像を装い、AI技術でリアルな動画に加工されているという。多くは「TikTokのコンテンツを視聴してフィードバックを提供すれば報酬が得られる」といった内容の報酬プログラムを宣伝している。

また、広告内にはTikTokの公式ロゴが表示されるケースもあり、ユーザーは実際のTikTokではなく、個人情報の入力を求める第三者サイトに誘導される仕組みとなっている。

Copyleaksによると、ある広告ではテイラー・スウィフトのAIアバターが「簡単に稼げる方法」を紹介し、ユーザーを騙そうとしているという。

同社は、こうしたディープフェイク広告の拡散が急増しており、特に若年層を中心に被害が広がっていると警告している。

TikTok側は、悪意のあるコンテンツの排除に取り組んでいるものの、AI技術の進化に伴い、ますます巧妙化する詐欺手法に対応が追いついていないのが現状だ。

出典: The Verge