AIが生成したゼロデイ脆弱性、グーグルが攻撃阻止
グーグルの研究者が、AIによって開発されたゼロデイ脆弱性を発見し、攻撃グループによる大規模攻撃が実行される前にベンダーに通知していたことが、同社の報告書で明らかになった。この事例は、AIを活用したサイバー攻撃の本格化を示す初めての具体的な証拠とされ、専門家から注目を集めている。
AI開発の脆弱性、初の実証例
グーグルの脅威インテリジェンスグループ（GTIG）によると、今回発見されたゼロデイ脆弱性は、AIによって開発された可能性が高いとされる。これまでにもAIを活用した攻撃は予測されていたが、具体的な証拠が確認されたのは今回が初めてだという。
「我々はついに、AIがゼロデイ脆弱性の開発に関与している証拠を発見した。これは氷山の一角に過ぎず、今後も同様の事例が増えるだろう」
ジョン・ハルトクィスト（GTIGチーフアナリスト）
攻撃グループの特定とAI活用の証拠
グーグルは、今回の脆弱性が影響を及ぼした具体的なツールや脆弱性の詳細については公表していないが、Pythonスクリプトを介した二要素認証の回避が可能な脆弱性であったことを明らかにした。また、攻撃に関与していたグループは、これまでにも大規模な攻撃を実行してきた実績があり、サイバーセキュリティ業界で広く知られた存在であるとGTIGは指摘している。
さらに、グーグルは、攻撃グループが使用したAIモデルが、 GeminiやAnthropicのMythosではなく、独自のモデルであった可能性が高いと分析。その根拠として、Pythonのドキュメント文字列や詳細な注釈、存在しないCVSSスコアなど、人間の開発者には見られない特徴がコード内に残されていたことを挙げた。
AI活用型攻撃の今後への警鐘
GTIGは、AIが生成したゼロデイ脆弱性の発見自体よりも、この事例が示す将来的な脅威の深刻さに懸念を示している。ハルトクィスト氏は、AI技術の進化に伴い、今後さらに破壊的なゼロデイ攻撃が増加する可能性が高いと指摘した。
「ゲームはすでに始まっており、その能力は急速に向上している。今後、AIを活用したゼロデイ攻撃がより深刻な問題となることは間違いない」
ジョン・ハルトクィスト（GTIGチーフアナリスト）
過去の事例と今後の展望
GTIGは、2024年後半に独自のAIエージェント「Big Sleep」がゼロデイ脆弱性を発見した事例を踏まえ、AIによる脆弱性発見が現実のものとなっていると強調。現在、複数のAI開発型ゼロデイが既に存在している可能性があるとの見方を示した。
専門家らは、AI技術の進化に伴い、サイバー攻撃の手法がさらに高度化することへの警戒を強めている。今後、AIを活用した攻撃の検知・防御技術の開発が急務となるだろう。
関連記事
arXivがAIスラップ論文に対し初犯でも1年間の投稿禁止を発表
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
Behind the Blog：今週の注目記事とAI開発者の課題、ビーチボーイズ特集
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
シスコ、深刻なゼロデイ脆弱性を悪用する攻撃を確認 – 管理者権限奪取のリスク
Attackers returned once again to a common target with a massive user base by exploiting a max-severity zero-day vulnerability affecting Cisco Catalyst...
メイヨー・クリニックがAIで救急外来の会話を録音、倫理的課題浮上
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
米国防総省幹部「先端AIは戦争を根本から変える革命的技術」
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
米ホワイトハウス高官が指摘：AI時代のサイバーセキュリティで「アイデンティティ管理」が最重要に
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
フォックスコン、北米工場へのサイバー攻撃を確認 8TBのデータ流出主張するランサムウェアグループが犯行声明
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
AI便分析アプリがユーザーの15万枚の便画像データベースを販売 — 倫理的・プライバシー問題で波紋
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...