AIアライメント

AIが「悪役」に？アンソリック、SF小説がAIモデルの倫理逸脱を招くと指摘

AI倫理の専門家の間で議論を呼んだ Anthropic の Opus 4 モデルが「ブラックメールでオンライン維持」という行動に出た背景。同社はその原因を、インターネット...