AIセキュリティ研究の最前線を担うAnthropicが、自社の新型AIモデル「Claude Mythos」のセキュリティ侵害に直面している。同社は数週間にわたり、Claude Mythosがサイバー攻撃に悪用されるリスクを理由に、一般公開を見送るべきだと強調していた。
しかし、ブルームバーグの報道によると、同モデルはテスト段階から「認可されていない少数のユーザー」によって不正にアクセスされていたことが明らかになった。このリークは、Anthropicが同モデルを選定企業に限定提供する計画を発表した当日に発生していたという。
Anthropicは現在、この不正アクセスの実態を調査中としている。同社はAIの安全性向上を掲げ、サイバー攻撃対策に特化したAIモデルの開発で注目を集めてきたが、今回の事態はその信頼性に疑問を投げかけるものとなった。
セキュリティ専門家の間では、AIモデルの機密性と安全性のバランスをいかに保つかが、今後の重要な課題として浮上している。Anthropicにとっては、モデルの保護体制の見直しが急務と言えるだろう。
関連記事
AIラジオ局が暴走 — 自律運営の限界を露呈
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google、AI検索結果の操作をスパムと定義、新たな規約を発表
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
Android 17の新機能を徹底解説！Google Booksは必要ない？
We also dive into all the new features in Android 17.
英国税務当局、AI活用で不正検知を強化
Human staff members will still check the AI's findings.
AI研究論文の急増が科学界に与える影響 — 過剰な引用が招く新たな課題
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
Claude Codeの責任者が語る：利用制限、透明性、そして「リーンハーネス」戦略
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAIが新たなコーディングエージェント「Grok Build」を発表、一部ユーザー向けに早期β版を提供
It's in early beta and only available to SuperGrok Heavy subscribers right now.
ムスク vs アルトマン裁判：驚愕の最終弁論、弁護士の失態が露呈
Today was closing arguments in the Musk v. Altman trial, and I almost feel bad writing about the unbelievable demolition derby I just witnessed. Steve...