AI Anthropic OpenAI テック業界 AI規制 資金調達 知能爆発 存在的リスク

AI業界の動向を巧みに報じるメディア「Axios」によると、Anthropicの研究部門が先週、「知能爆発」と呼ばれるAIの急速な進化に対する警告を発表した。同社は、AIが人間の関与なしに新たなモデルを自律的に構築する「自己増殖」の可能性を含む、多岐にわたるリスクに対処するためのアジェンダを示した。

Anthropic共同創業者のジャック・クラーク氏はAxiosの取材に対し、「2028年末までに、人間がAIに『自分より優れたバージョンを作れ』と指示すれば、完全に自律的に実行するシステムが登場する可能性は50%以上」と予測した。同社はこうした警告を繰り返すことで知られ、その「存在的リスク」への警鐘が同社のアイデンティティとなっている。

しかし、Anthropicだけではない。ChatGPTを開発するOpenAIも同様にリスクを訴えながら、歴史的な規模の資金調達を進めている。ウォールストリートジャーナルによると、OpenAIは最近、従業員や元従業員に対し最大3000万ドル相当の株式売却を認め、600人以上が参加し、総額66億ドルの売却が行われた。

AIを巡る矛盾はもはや無視できない。AI企業は「破滅的なリスク」を警告しながらも、技術の急速な普及を進め、歴史的な変革の主導権を巡る競争を加速させている。軍事、教育、行政システムへのAI導入を急ぐ各国政府も同様で、いずれもリスクを認識しつつも、停止することはできない状況にある。

「技術の思春期」：警告と投資獲得の巧妙な戦略

AnthropicのCEO、ダリオ・アモディ氏が1月に発表したエッセイ「技術の思春期」は、まさにこの矛盾を象徴する文書だ。カール・セーガンの『コンタクト』に触発された同エッセイは、AIがもたらす5つの「存在的リスク」を指摘する。

  • 暴走自律型AIシステム：制御不能なAIの出現
  • 大量破壊のためのAI悪用：テロや戦争への応用
  • 独裁政権によるAIの政治支配：監視社会の拡大
  • 経済の混乱：雇用の大規模喪失や格差の拡大
  • 富の極端な集中：一部の企業や個人に富が集中するリスク

アモディ氏はさらに、予測不能な副次的影響の可能性にも言及した。

驚くべきことに、このエッセイ発表からわずか17日後に、Anthropicは300億ドルの新規資金調達を発表し、企業価値を3800億ドルに引き上げた。さらに先週、Axiosの報道と同じ日にフィナンシャル・タイムズが伝えたところによると、同社は今夏に数百億ドル規模の追加資金調達を計画しており、目標は企業価値1兆ドルに達する見込みだ。これは、OpenAIの8520億ドルという評価額を上回る規模となる。

この矛盾は偶然ではない。「技術の思春期」は単なる警告ではなく、投資家向けのピッチ資料でもあった。人類史上最も重要な技術であるAIは、同時に最大のリスクでもあり、投資家にとっては魅力的な投資対象でもある。責任ある存在であるという主張は、倫理的な主張であると同時に、競争優位の源泉でもある。中国の台頭への懸念は地政学的な問題であると同時に、次の資金調達ラウンドを「愛国的」なものにするための論拠でもある。

アモディ氏自身も、AIがもたらす危険性を認識しつつも、その技術の進化が不可避であることを示唆している。技術の進歩とリスク管理の両立が、今後のAI業界の最大の課題となるだろう。

出典: The New Republic
Windows 11アップデート、不具合ドライバーを自動でロールバックへ
← 前へ

Windows 11アップデート、不具合ドライバーを自動でロールバックへ

 RF共存試験の重要性：混雑する電波スペクトル下での安全性確保
次へ →

RF共存試験の重要性：混雑する電波スペクトル下での安全性確保