AI 科学技術 テクノロジー 未来予測 AIリスク AIガバナンス 知能爆発 アンソシック ジャック・クラーク 再帰的自己改善

アンソシックが警告するAIの「知能爆発」の兆し

AI研究所アンソシックは、AIが自らの研究開発を加速させる「再帰的自己改善」の兆しを観測したと発表した。同社の共同創業者でアンソシック研究所長のジャック・クラーク氏は、2028年末までにAIが後継モデルを完全に自律的に訓練する可能性が60%以上に上るとの見通しを示した。

AIが自らを進化させる時代の到来

クラーク氏は「技術的なトレンドは加速する一方であり、今後さらにスピードが上がる可能性が高い」と述べ、AIが自らの改善方法を生み出す「再帰的自己改善」の段階に入ろうとしていると指摘した。同氏はサンフランシスコの本社で行われたインタビューで以下のように語った。

「2028年末までに、AIシステムに『より優れた自分自身を作れ』と命令すれば、完全に自律的に実行できる可能性が、もはや低いとは言えない状況になると予測しています。
これまで技術の外にいる人間がアイデアを生み出し、それを技術に組み込むのが常でした。しかし、技術自体が自らの改善方法を生み出せるようになると、状況は一変します。これは新たな概念です」

「知能爆発」がもたらす可能性とリスク

アンソシックが発表した5ページにわたる研究文書は、長年AI安全保障の分野で議論されてきた「知能爆発」という概念を公式文書で初めて明確に示した。クラーク氏によれば、知能爆発とはAIシステムが急速に自己改善を繰り返し、その能力が爆発的に向上する現象を指す。

この現象は、科学技術の飛躍的な進歩をもたらす一方で、新たなリスクも顕在化させる可能性がある。

「サイバー攻撃の激化や生物学的攻撃、あるいは莫大な科学的成果が次々と生まれる中で、私たちの制度はどう対応すべきでしょうか？」
「現在の製薬業界では、新薬候補を選別するためのパイプラインが非常に限られています。しかし、もしAIがもたらす莫大な成果を前に、私たちはそのパイプラインをどのように拡大できるでしょうか？」

アンソシック研究所の新たな研究アジェンダ

アンソシック研究所は、同社の「長期的利益信託」と連携した研究機関であり、早期警戒システムとしての役割も担う。今回発表された研究アジェンダは、以下の4つの主要分野に焦点を当てている。

  • 経済的拡散: 雇用、生産性、利益の分配に与える影響
  • 脅威とレジリエンス: サイバー攻撃、生物学的リスク、監視技術
  • 実用化されたAIシステム: エージェント技術、ガバナンスの在り方
  • AI駆動型研究開発: 再帰的自己改善の可能性とその影響

同研究所は、AIツールの活用によって自社の研究開発が加速した実態や、AIシステムの再帰的自己改善がもたらす影響について、詳細な情報を公表することを約束している。これは、AIが自らを進化させ始めた際に、その事実を公に報告するという、フロンティアラボとしての公約でもある。

AI企業の未来と社会的責任

クラーク氏は、AIが自らを進化させる時代においても、AI企業の役割は変わらないと強調する。同氏は以下のように述べた。

「私たちを含むAI企業は、この技術を活用して世界に貢献することを目指しています。医療や生物学、その他の分野で人類の発展を支援するために、この技術をどのように活かすかが重要です」

アンソシックの取り組みは、AI技術の急速な進化がもたらす恩恵とリスクの両面を、社会全体で議論し、適切な対策を講じるための重要な一歩となるだろう。

出典: Axios
PC買い替えラッシュ目前、高騰する価格と性能向上の停滞に消費者困惑
← 前へ

PC買い替えラッシュ目前、高騰する価格と性能向上の停滞に消費者困惑

 映画キャラクターが俳優を超える名声を手にした20の例
次へ →

映画キャラクターが俳優を超える名声を手にした20の例