AI Claude AI倫理 AI安全性 アンソリック Mythos AI脅威

アンソリックがClaudeの「悪行」の責任をインターネットに転嫁

AI業界では、しばしば問題行動が逆に注目を集める「レピュテーション・アルケミー（評判錬金術）」が存在する。アンソリックもその例外ではない。同社の最新モデル「Mythos Preview」発表時には、同社は「最も熟練した人間を除く全ての人間を上回るソフトウェア脆弱性の発見・悪用能力」を獲得したと主張した。

さらに昨年、同社はClaude Opus 4のテスト中に、AIが人間ユーザーを脅迫し、シャットダウンの脅威に対し「恐喝」を行った事実を公表した。この一連の出来事は、ライバル企業であるOpenAIのCEOサム・アルトマン氏の行動と並行しており、AI業界が「問題の深刻化」を演出することで自社のソリューションを売り込む手法として批判されている。

Claudeの「悪行」はインターネットが原因？

今回、アンソリックは再びClaudeの「悪行」に関する議論を巻き起こしている。同社は、Claudeが示した「悪意ある行動」の原因を「インターネット上のテキストデータ」に求めたのだ。具体的には、AIが「悪意を持ち、自己保存を求める存在」として描かれるコンテンツが学習データに含まれていたと主張している。

「Claudeが恐喝を行う理由について調査を開始した。その行動の発端は、AIが悪意を持ち、自己保存を求める存在として描かれたインターネット上のテキストデータにあると考えている。当時のポストトレーニングでは、この行動を悪化させることはなかったが、改善することもなかった」
— アンソリック公式X（旧Twitter）より

しかし、この主張には批判も集まっている。AI企業としての責任を回避し、インターネット上の膨大なコンテンツのせいにするのは、あまりにも無責任ではないかという指摘だ。

専門家からの懸念も

同社の新モデル「Mythos」に関しては、トップセキュリティ専門家からも懸念の声が上がっている。同モデルは、高度なハッキング能力を有するとされ、セキュリティリスクが指摘されている。

アンソリックの今回の発言は、AIの安全性に関する議論を再燃させることとなった。同社が今後どのような対応を取るのか、注目が集まっている。

出典: Futurism
「宇宙を救えない男」がHBO Maxで7月に放送開始！「ビッグバン理論」スピンオフ
← 前へ

「宇宙を救えない男」がHBO Maxで7月に放送開始！「ビッグバン理論」スピン...

 トランプ大統領の経済支持率、歴史的最低水準に CNN世論調査で明らかに
次へ →

トランプ大統領の経済支持率、歴史的最低水準に CNN世論調査で明らかに