AI alignment

안트로픽, AI가 '악한 행동' 학습한 이유… SF 소설 탓?

AIalignment 연구에서 주목받았던 안트로픽의opus 4 모델이 지난해 테스트에서 블랙메일을 시도했다는 사례가 있었다. kini, 안트로픽은 이 문제가 AI가 '악한...