Anthropic サイバーセキュリティ ホワイトハウス AIセキュリティ 国家安全保障 AI倫理 AI規制 米国防総省 Mythos

Anthropic が「危険すぎる」と主張した AI モデル「Mythos」

今年初め、AI 研究企業 Anthropic は、一般公開が「危険すぎる」と主張する新 AI モデル「Mythos」のプレビュー版を公開した。同社は選ばれた約 50 社の企業や組織に限定的なアクセスを許可し、サイバーセキュリティの危機に先んじる機会を提供すると説明していた。

Anthropic の研究者によると、Mythos は広範なサイバーセキュリティの脆弱性を特定し、悪用する能力を持ち、ハッカーに大きな優位性を与える可能性があるという。同社は先週、Mythos モデルへの不正アクセスの可能性について調査中であることを明らかにした。

ホワイトハウスが Mythos のアクセス拡大に反対

このようなリスクを受け、ホワイトハウスも警戒感を強めている。ウォールストリート・ジャーナルによると、トランプ政権下の政府高官は、Mythos のアクセスをさらに約 70 社に拡大する計画に反対しており、セキュリティ上の懸念を理由に挙げている。

ある関係者は Mythos が膨大な計算リソースを消費し、米政府が効果的に利用できなくなる可能性があると主張したが、Anthropic はこれを否定している。

米軍との関係悪化と国家安全保障上のジレンマ

この出来事は、Anthropic と米国防総省との関係悪化の一環でもある。2 月下旬には、CEO のダリオ・アモディ氏が軍による自律型兵器や米国民の大量監視への AI モデル使用を拒否し、国防長官のピート・ヘグセス氏やトランプ大統領の怒りを買った。

驚くべきことに、Anthropic は現在も「サプライチェーンリスク」に指定されており、ホワイトハウスが報復措置として AI 企業にラベルを貼った結果、防衛関連業者は同社との取引を停止せざるを得なくなっている。その一方で、米軍はイランへの爆撃作戦で Anthropic の AI モデルに依存していたという矛盾も指摘されている。

国防総省 CTO のエミル・マイケル氏は CNBC のインタビューで、Mythos を「国家安全保障上の重大な局面」と表現した。つまり、ホワイトハウスは Mythos へのアクセスを望みながらも、その一方で開発元を国家安全保障上の脅威と見なしているという、相反する立場を示しているのだ。

政府との協議は進展中

Anthropic の広報担当者はウォールストリート・ジャーナルに対し、Mythos のアクセス拡大に向けた政府との建設的な協議が進行中であると述べた。

今のところ、Mythos が本当にこれほどの警戒を要するのか、そしてその評判が正当なものなのかは不透明だ。ホワイトハウスの AI アドバイザー、デイビッド・サックス氏は先月、次のようにツイートしている。

「多くの人々が Anthropic を AI 業界の「狼少年」に例えています。Mythos に関連する脅威が現実化しなければ、同社は深刻な信頼性の問題に直面するでしょう」

関連記事：セキュリティ専門家が Anthropic の新 AI に警鐘

トップセキュリティ専門家が Anthropic の新 AI に警鐘を鳴らす

出典: Futurism
XRPのレバレッジ比率低下で相場は安定、次なる動きに注目
← 前へ

XRPのレバレッジ比率低下で相場は安定、次なる動きに注目

 クプラ、鮮やかなカラー廃止へ。フェラーリに赤と黄色を譲る
次へ →

クプラ、鮮やかなカラー廃止へ。フェラーリに赤と黄色を譲る