AIが将来的に重要な社会インフラを標的としたマルウェアを生成する可能性はあるが、その日はまだ来ていない。米国の産業用サイバーセキュリティ企業Dragosは、先月報告されたイスラエルの水道施設を狙う新マルウェア「ZionSiphon」について、実質的な脅威はないとの見解を示した。
ZionSiphonは、AIセキュリティ企業Darktraceによって最初に発見された。同社は、このマルウェアがOT（運用技術）およびICS（産業用制御システム）環境を標的とし、イスラエルの水処理・淡水化プラントに関連するIPアドレスをスキャンして侵害し、塩素濃度を操作して水道を汚染する目的で設計されたと主張していた。
しかし、DragosのマルウェアアナリストJimmy Wyles氏は、ZionSiphonを「単なる話題作り」に過ぎないと断言した。同氏によると、マルウェアのコードは機能せず、イスラエルの水道施設のOT環境に関する知識がほとんど反映されていないという。
「コードは壊れており、ダムの淡水化やICSプロトコルに関する知識はほとんど示されていない」
— Jimmy Wyles, Dragos
さらに、開発者はAIを使用してコードの大部分を生成したとみられ、その結果、多数の幻覚（ハルシネーション）やエラーが含まれていた。例えば、水処理プラントのターゲット確認を目的としたWindowsプロセス名やディレクトリパスには、「架空のLLM生成による推測」が含まれていた。
塩素濃度を操作するために設計されたとされる設定ファイルも、AIによって生成された偽物であった。Darktraceの分析によると、テストされたマルウェアサンプルは機能不全に陥っており、国のターゲット設定機能に誤りがあったという。しかし、Wyles氏は、たとえ設定が正しくても、コードの残りの部分に「論理エラーや不正確な前提」が多く含まれているため、実用に耐えないだろうと指摘した。
USB感染機能や自己破壊機能についても、同様の成熟度と論理の問題が見つかった。Wyles氏は、DragosがZionSiphonの技術的な欠陥についての詳細分析を公表しない理由について、「敵対者にマルウェア修正のノウハウを提供するつもりはない」と述べた。
AI脅威と従来型攻撃のバランスを巡る議論
この一件は、AIを活用した新しいサイバー脅威にどれだけ注力すべきか、それとも従来型の攻撃手法により重点を置くべきかという議論を再燃させた。OTシステム（水道施設や発電所などの産業機械を制御するシステム）は、IT環境とは大きく異なるため、サイバー攻撃者にとってもハードルが高い。
Dragosによると、ICSを脅かすことができる公開済みのマルウェアサンプルは10件未満であり、ZionSiphonはそのリストに含まれていないという。
関連記事
arXivがAIスラップ論文に対し初犯でも1年間の投稿禁止を発表
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
Behind the Blog：今週の注目記事とAI開発者の課題、ビーチボーイズ特集
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
シスコ、深刻なゼロデイ脆弱性を悪用する攻撃を確認 – 管理者権限奪取のリスク
Attackers returned once again to a common target with a massive user base by exploiting a max-severity zero-day vulnerability affecting Cisco Catalyst...
メイヨー・クリニックがAIで救急外来の会話を録音、倫理的課題浮上
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
米国防総省幹部「先端AIは戦争を根本から変える革命的技術」
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
米ホワイトハウス高官が指摘：AI時代のサイバーセキュリティで「アイデンティティ管理」が最重要に
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
フォックスコン、北米工場へのサイバー攻撃を確認 8TBのデータ流出主張するランサムウェアグループが犯行声明
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
AI便分析アプリがユーザーの15万枚の便画像データベースを販売 — 倫理的・プライバシー問題で波紋
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...