中国発「リアルタイム深層偽装」ツールが世界中で横行する詐欺の実態

「うわ、マジか！」——ビデオ通話の相手の画面に自分の顔が映った瞬間、思わず叫んだ。顎の影、間の抜けた笑顔、目の下のクマまで完璧に再現されている。相手はMicrosoft Teams越しの見知らぬ人物だったが、中国製の最新深層偽装ソフト「Haotian AI」を使うことで、その顔はリアルタイムで私の顔に変身した。

画面越しに、相手の顔が私の顔に「変身」する様子は、まるでSF映画のようだった。頬をつねり、鼻を覆い、顎を撫でる動作も違和感なく再現され、その技術の精巧さに驚かされた。従来の深層偽装は既存動画への顔の合成が主流だったが、Haotian AIはビデオ通話中に「誰でも即座に姿を変える」ことを可能にした画期的なツールだ。

リアルタイムで「なりすまし」を実現するHaotian AI

Haotian AIは、WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram、YouTubeといった一般的なプラットフォームに対応しており、犯罪者はこれらのツールを悪用して詐欺行為に利用している。米国人を標的にしたロマンス詐欺、税金詐欺、仮想誘拐など、さまざまな犯罪手口が深層偽装技術によってさらに巧妙化する可能性がある。

404 Mediaによる調査は、ジャーナリストとして初めてHaotian AIを実際に使用し、その性能や効果、今後の詐欺のあり方を検証したものだ。その結果、Haotian AIが米国の警察署を装うために利用されている実例や、中国のマネーロンダリングネットワーク、東南アジアの大規模詐欺組織との関連性が明らかになった。また、Haotian AIの開発者は400万ドル以上の収益を上げていることも判明した。

オープンソース技術を活用した「犯罪者向け」ツール

Haotian AIの技術的な核心は、オープンソースの顔交換ツールに基づいている。しかし、その真価は高度な技術サポートにあり、技術に詳しくない犯罪者でも簡単にリアルタイム深層偽装を利用できるように設計されている。これにより、世界中の詐欺師がこの強力な技術にアクセスしやすくなり、詐欺の拡大が懸念される。

Haotian AIのユーザーインターフェースには「市場で最も優れたツール」との謳い文句が掲げられている。同社がTelegramに投稿したデモ動画では、照明の変化や顔の前を横切る物体に対してもリアルタイムで顔の調整が可能な技術が披露されている。例えば、アジア系の女性が瞬時に別の顔を手に入れる様子が映し出されている。

深層偽装技術の進化と犯罪の未来

Haotian AIの登場は、深層偽装技術が犯罪に与える影響を再定義するものだ。従来のビデオ深層偽装は、静止画や既存動画への顔の合成が中心だったが、リアルタイムで顔の「変身」が可能になったことで、詐欺の手口はより巧妙でリアルなものへと進化している。

例えば、ロマンス詐欺では、犯罪者が被害者とのビデオ通話中に相手の顔を「恋人に変身」させることで、信頼関係を築きやすくなる。また、仮想誘拐では、犯罪者が被害者の家族の顔を装い、金銭を要求する手口が可能になる。これらの犯罪は、技術の進化とともにさらに悪質化する恐れがある。

技術の普及がもたらすリスクと対策

Haotian AIのようなツールが広く出回ることで、技術に詳しくない犯罪者でも簡単に深層偽装を悪用できるようになる。これは、詐欺被害の拡大とともに、社会全体にとって大きな脅威となる可能性がある。特に、ビデオ通話を通じたなりすましは、従来の電話やメールを使った詐欺よりもはるかに説得力があり、被害者を欺くリスクが高い。

専門家らは、このような技術の普及に伴い、企業や個人が深層偽装を検知するためのツールや対策を強化する必要性を指摘している。例えば、ビデオ通話中の微細な動作の違いや、照明の変化に対する反応の不自然さを検知する技術の開発が求められている。

また、ソーシャルメディアプラットフォームや通話アプリ側でも、リアルタイム深層偽装の悪用を防ぐための対策が必要だ。例えば、ビデオ通話中に顔の変化が検出された場合に警告を表示する機能や、不審なアカウントのブロック機能の強化が考えられる。

今後の展望と課題

Haotian AIのようなリアルタイム深層偽装ツールの普及は、犯罪の手口を一変させる可能性がある。その一方で、技術の進化に伴い、犯罪者とそれを取り締まる側とのいたちごっこも加速するだろう。今後、技術の発展とともに、より高度な検知技術や法整備が求められることは間違いない。

404 Mediaの調査は、Haotian AIがもたらすリスクとその実態を明らかにしただけでなく、今後の犯罪のあり方に警鐘を鳴らすものとなった。技術の進化が社会にもたらす恩恵とリスクをバランスよく考え、適切な対策を講じていくことが、今後の重要な課題となるだろう。