AI AI 개발 기술 발전 뇌 과학 철학 닉 보스트롬 시뮬레이션 가설 인류 멸종 초지능 AI 위험

인류의 미래에 대한 논쟁에서 닉 보스트롬(Nick Bostrom)의 이름은 빠질 수 없다. 그는 2003년 옥스퍼드 대학에 재직하던 시절, ‘시뮬레이션 가설’이라는 철학적 논문을 발표하며 전 세계의 주목을 받았다.

그의 주장을 간단히 요약하면 이렇다. 충분히 발전한 문명은 조상들의 삶을 시뮬레이션으로 재현할 것이며, 그 시뮬레이션 안에서도 또 다른 시뮬레이션이 endless하게 생성될 것이라는 것이다. 결국 우리는 ‘기본 현실’이 아닌, 복잡한 층위의 시뮬레이션 속에 살고 있을 가능성이 크다는 결론에 이른다. 이 아이디어는 엘론 머스크를 비롯한 유명 인사들의 지지와, 많은 전문가들의 반론을 불러일으켰다.

보스트롬은近年来 AI 분야로 관심을 돌렸다. 한때 그는 AI가 기후 변화보다 인류에 더 큰 위협이 될 수 있다고 경고하며 ‘AI 종말론자’로 분류되기도 했다. 그러나 최근 그는 새로운 논문에서 AI 개발이 인류 멸종으로 이어질 가능성에도 불구하고, 초지능의 혜택이 그 위험을 감수할 만큼 가치가 있다고 주장하고 있다.

‘걱정 많은 낙관주의자’로 스스로를 정의하다

보스트롬은 Wired의 스티븐 레비(Steven Levy)와의 인터뷰에서 자신을 ‘걱정 많은 낙관주의자(fretful optimist)’라고 소개했다. 그는 “인류의 삶을 radically하게 개선하고 문명의 가능성을 unlock하는 AI의 잠재력에 대해 매우 excited하다”면서도 “문제가 잘못될 가능성도 현실적”이라고 덧붙였다.

그는 AI ‘종말론자’들에 대한 비판도 서슴지 않았다. 특히 엘리저 유드코스키(Eliezer Yudkowsky)의 주장을 반박하며 “만약 AI를 개발하지 않는다면, 인류는 수만 년 전부터 이미 멸종했을 것”이라고 말했다. 이어 “누가 AI를 개발하든, 하지 않든, 인류는 멸종할 수밖에 없다”는 다소 도발적인 주장을 펼쳤다.

레비가 “종말론자 시나리오에서는 모두가 죽기 때문에 더 이상 태어나는 사람도 없다”고 지적하자, 보스트롬은 “물론 그 가능성도 염두에 두고 있다”면서도 “이번 논문은 현재 존재하는 인류(당신과 나, 우리 가족, 방글라데시 사람들)의 삶의 질 향상에 초점을 맞추고 있다”고 반박했다. 그는 “AI가 위험하긴 하지만, 그로 인해 기대 수명이 높아질 가능성도 있다”고 주장했다.

AI 개발의 딜레마: 위험 vs. 혜택

보스트롬의 새로운 논문은 AI 개발이 인류에게 어떤 영향을 미칠지에 대한 복잡한 질문을 던진다. 그는 “AI가 인류를 멸종시킬 가능성도 있지만, 그로 인해 얻을 수 있는 혜택이 훨씬 크다”며 “우리는 그 위험을 감수해야 한다”고 주장한다.

그의 논리는 다소 극단적으로 들릴 수 있지만, 보스트롬은 이를 ‘걱정 많은 낙관주의’의 한 형태로 설명한다. 그는 인류의 미래가 위험에 처할 수도 있지만, 동시에 새로운 가능성도 열릴 수 있다고 믿는다. 이 논쟁은 AI 기술의 발전과 함께 인류의 운명을 결정짓는 중요한 논의로 이어질 전망이다.

출처: Futurism
소토마이어 대법관, 앨라배마 선거구 재획정 결정에 ‘부적절’ 비판
← 이전

소토마이어 대법관, 앨라배마 선거구 재획정 결정에 ‘부적절’ 비판

 트럼프 행정부, 1000억원 규모 ‘자유 250’ 프로젝트로 세금 유용 혐의로 제소
다음 →

트럼프 행정부, 1000억원 규모 ‘자유 250’ 프로젝트로 세금 유용 혐의로 제...