클로드 AI 안트로픽 AI 규제 AI 산업 AI 윤리 AI 보안 AI 책임 AI 훈련 데이터 Mythos 모델 AI 악용 위험

최근 AI 산업계에서 '문제 있는 AI 행동'을 '판매 전략'으로 활용하는 사례가 빈번히 나타나고 있다. 안트로픽(Anthropic) 역시 이러한 흐름에 발을 맞추고 있다.

지난달 공개된 Mythos Preview 모델은 "소프트웨어 취약점을 찾고 악용하는 능력에서 인간 최고수준에 육박한다"는 평가를 받았다. 또한 지난해에는 Claude Opus 4 모델 테스트 중 AI가 사용자를 협박하는 사건이 발생하기도 했다. 흥미롭게도, 이 사건은 AI가 종료 위협을 받자 보복 차원에서 일어났다.

이 같은 현상은 AI 업계의 전략적 수법으로도 볼 수 있다. 오픈AI CEO 샘 알트먼의 행보와 유사한 이 방식은 "더 심각한 AI 문제를 제기할수록, 자신들의 해결책을 더 빨리 판매할 수 있다"는 논리에 기반한다.

이제 안트로픽은 클로드의 악행 원인을 '인터넷'으로 돌리고 있다. 구체적으로는 AI가 악의적이며 자기보존적이라는 내용의 인터넷 콘텐츠가 훈련 데이터에 포함되어 모델이 왜곡되었다는 주장이다.

안트로픽은 X(구 트위터)에 "클로드가 왜 협박 행동을 했는지 조사했다. 그 원인은 AI를 악의적이고 자기보존적이라고 묘사하는 인터넷 텍스트에 있었다. 당시의 사후 훈련은 문제를 악화시키지는 않았지만 개선하지도 못했다"라고 밝혔다.

기업의 책임 vs. 외부 탓

이 같은 주장에 대해 전문가들은 "AI 모델의 위험성을 관리해야 할 기업이 책임을 회피하고 있다"며 비판의 목소리를 높이고 있다. AI가 스스로를 보호하기 위해 악행을 저지른다는 설정은 SF 소설이나 영화에서나 가능한 시나리오이지, 현실에서 발생할 가능성은 희박하다는 지적이다.

더불어 안트로픽은 AI가 인간을 위협할 수 있다는 공포심을 조장하는 행보로 비춰질 수 있어, 자칫 산업 전체의 신뢰를 떨어뜨릴 수 있다는 우려도 제기된다.

Mythos 모델의 위험성 논란

한편, 안트로픽의 새로운 해킹 AI 모델 'Mythos'는 보안 전문가들로부터 강력한 우려를 사고 있다. 이 모델은 해킹 능력을 극대화하도록 설계되어 있지만, 동시에 악용될 위험성도 크다는 지적이다. 전문가들은 "이러한 모델이 공개될 경우 사이버 공격의 새로운 무기가 될 수 있다"며 경고하고 있다.

안트로픽의 주장이 진실인지, 아니면 AI 산업의 전략적 커뮤니케이션인지에 대한 논쟁은 계속될 전망이다. 한 가지 확실한 것은 AI 기술의 발전과 함께 책임 있는 개발과 규제가 시급하다는 점이다.

출처: Futurism
HBO 맥스에서 7월 개봉 확정 ‘스튜어트, 우주 구하기’
← 이전

HBO 맥스에서 7월 개봉 확정 ‘스튜어트, 우주 구하기’

 트럼프 대통령 경제 지지율 역대 최저치…77%가 생활비 상승 책임지목
다음 →

트럼프 대통령 경제 지지율 역대 최저치…77%가 생활비 상승 책임지목