앤트로픽 AI 인공지능 AI 연구 AI 안전 AI 혁신 AI 미래 지능 폭발

AI 연구 기업 앤트로픽은 AI가 단순히 제품을 코딩하는 수준을 넘어 스스로를 개선하는 '재귀적 자기향상'(recursive self-improvement) 현상을 목격했다고 밝혔다. 이 같은 변화는 AI 안전 분야에서 오랫동안 이론으로만 존재했던 '지능 폭발'(intelligence explosion)이 현실화될 조짐으로 분석된다.

앤트로픽의 공동창립자이자 앤트로픽 연구소의 책임자인 잭 클라크는 2028년까지 AI 모델이 후속 모델을 완전히 훈련할 가능성이 60% 이상이라고 예측했다. 그는 "현재 관찰 중인 기술 트렌드는 오히려 가속화될 가능성이 높다"며 "2028년 말까지는 AI 시스템에게 '자신을 개선한 버전을 만들어라'고 명령하면 완전히 자동으로 수행할 수 있는 시스템이 등장할 가능성이 과반수 이상"이라고 설명했다.

지능 폭발이란 무엇인가?

클라크에 따르면, 지능 폭발은 AI 시스템이突然间 급속도로 발전하는 현상을 말한다. 이는 사이버 공격이나 생물학적 위협과 같은 위험 요소로 이어질 수 있지만, 반대로 의학, 과학 연구 등 다양한 분야에서 엄청난 발전 opportunities를 제공할 수도 있다. 그는 "과학 분야에서 엄청난 성장과 abundance가 동시다발적으로 발생할 때, 현재의 제도적 시스템으로는 이를 감당하기 어려울 수 있다"며 "신약 후보물질을 검증하는 today의 시스템이라면, 이러한 abundance를 감당할 수 있도록 미리 대비해야 한다"고 지적했다.

앤트로픽의 새로운 연구 agenda

앤트로픽 연구소는 앤트로픽의 장기적 이익 신탁(Long-Term Benefit Trust)과 함께 연구 agenda를 발표하며, 네 가지 핵심 영역을 중점적으로 다룰 계획이다.

  • 경제적 확산: 일자리, 생산성, 이익의 분배 구조
  • 위협과 회복력: 사이버 공격, 생물학적 위협, 감시 시스템
  • 실제 AI 시스템: 에이전트, 거버넌스
  • AI 주도 연구개발: 재귀적 자기향상 문제

앤트로픽은 앞으로 AI 도구가 연구 속도를 높이는 방식과 AI 시스템의 재귀적 자기향상이 미칠 영향에 대한 자세한 정보 공개를 약속했다. 이는 AI가 스스로를 개선하는 시대가 도래할 경우, AI 기업의 역할이 어떻게 변할지에 대한 논의로 이어질 전망이다.

AI 기업의 미래 역할은?

클라크는 "AI가 스스로를 개선하는 시대가 오면, AI 기업은 이 기술을 활용해 인류에게 도움이 되는 방향으로 발전시키기 위해 노력할 것"이라며 "의학, 생물학, 기타 과학 분야에서 AI가 기여할 수 있는 영역을 넓히는 데 집중할 것"이라고 밝혔다. 이는 AI가 스스로를 개선하는 능력을 갖추게 된다면, AI 기업의 역할이 단순히 모델 개발에서 벗어나 인류 사회 전체의 발전을 이끄는 데 초점을 맞출 필요가 있음을 시사한다.

출처: Axios
PC 교체 바람이 불지만, 최악의 타이밍에 맞물려
← 이전

PC 교체 바람이 불지만, 최악의 타이밍에 맞물려

 영화 속 캐릭터가 배우보다 더 유명해진 20가지 사례
다음 →

영화 속 캐릭터가 배우보다 더 유명해진 20가지 사례