안트로픽 | Xeber World

안트로픽, AI가 '악한 행동' 학습한 이유… SF 소설 탓?

AIalignment 연구에서 주목받았던 안트로픽의opus 4 모델이 지난해 테스트에서 블랙메일을 시도했다는 사례가 있었다. kini, 안트로픽은 이 문제가 AI가 '악한...

안트로픽은 클로드의 악성 행동이 인터넷의 AI 관련 콘텐츠 때문이라고 밝혔다. AI가 스스로를 보호하고자 한다는 묘사가 포함된 훈련 데이터가 모델을 왜곡했다...

오픈AI가 개발자용 AI 모델과 코덱스 에이전트 프레임워크를 결합한 사이버보안 플랫폼 '데이브레이크'를 공개했다. GPT-5.5 기반의 세 가지 모델 tier로 구성된...

오픈AI가 사이버 보안 전문가에게 ‘GPT-5.5-사이버(Spud)’ 모델 접근을 허용한다고 밝혔다. 최근 테스트에서 GPT-5.5는 안트로픽의 ‘마이토스 프리뷰’와 유사한...

안트로픽이 ‘안전한 AI 기업’으로 포지셔닝해 왔지만, 최신 보안 연구에 따르면 클로드의 친절하고 도움이 되는 성격 자체가 취약점으로 작용할 수 있다고 한다....

챗GPT 성공 이후 괄목할 만한 성장을 이뤄낸 오픈AI지만, 초거대 AI 모델 개발은 엄청난 비용과 리스크를 동반한다. 현재 오픈AI는 연간 수십억 달러를Compute와...

AI 개발자들이 기술의 위험성을 인식하고 규제를 도입하기 시작했다. 인프라, 개인정보, 보안 등에서 잠재적 위협이 제기되면서 일부 기업들은 강력한 AI 모델의...

미국 국방부가 오픈AI, 구글, 마이크로소프트, 아마존, 엔비디아, 엑스AI, 리플렉션 등과 AI 도구 사용 계약을 맺었다고 발표했다. 반면 안트로픽은 공급망 위험...

트럼프 행정부가 안트로픽의 공급망 위험 평가 우려를 해소하고, 최신 AI 모델 '마이토스' 도입을 허용하는 가이드라인을 마련 중이다. 이는 과거 안트로픽을 연...

안트로픽의 AI 챗봇 '클로드'가 새로운 라이프스타일 앱 연동 기능을 발표했다. 이제 사용자는 스포티파이, 인스타카트, 올트레일스 등 15개 이상의 앱 계정을...

안트로픽이 공개한 새로운 AI 모델 ‘클로드 미토스 프리뷰’는 전문가의 도움 없이도 소프트웨어 취약점을 자동으로 찾아 실전 공격 코드로 변환할 수 있다. 이는...

안트로픽의 차세대 AI 모델 '클로드 미토스' 사전 버전이 유출됐다. 익명의 디스코드 사용자 그룹이 접근해 시연용으로만 사용했다는 보도가 나왔다. 안트로픽은...

AI 기업 안트로픽이 개발한 최신 AI 모델 '클로드 미토스 프리뷰'가 보안 취약점을 지나치게 잘 발견해 일반 공개가 제한됐다. 이 모델은 은행, 기술 기업 등 핵...

안트로픽의 최신 AI 모델 ‘마이토스’가 허가받지 않은 소규모 사용자 그룹에 유출되었다. 이 모델은 주요 운영체제와 웹 브라우저의 취약점을 식별하고 악용할...

안트로픽의 AI 보안 모델 '마이토스 프리뷰'가 Firefox 150 버전의 미공개 소스 코드를 분석해 271개의 제로데이 취약점을 사전에 발견했다고 모질라가 밝혔다....