AI研究企業のOpenAIは、自社のAIモデルが「ゴブリン」「トロール」「オーガ」などの架空生物について言及しないよう訓練されていたことを公表した。米誌Wiredがこの問題を報じたことを受け、同社は公式ウェブサイトで説明文を発表した。
OpenAIによると、この現象はGPT-5.1モデル以降、特に「Nerdy（知的な）」パーソナリティ設定を使用した際に顕著になったという。同社は、この「奇妙な癖」がモデルの訓練過程で偶発的に生じた可能性を指摘している。
同社のブログ記事によれば、この問題はその後のモデルアップデートでさらに悪化する傾向にあったとされる。OpenAIは、この現象がAIの出力に及ぼす影響についても言及し、ユーザー体験の向上に向けた取り組みを進めるとしている。
「我々のモデルが特定の架空生物について言及しないよう制限することは、意図せぬ結果であった。これはAIの訓練データに含まれるパターンやバイアスが反映されたものと考えられる」
— OpenAI公式ブログより
この問題は、AIモデルの挙動に関する新たな議論を呼び起こしており、AI倫理やトレーニング手法の見直しが求められる可能性がある。
関連記事
英国税務当局、AI活用で不正検知を強化
Human staff members will still check the AI's findings.
AI研究論文の急増が科学界に与える影響 — 過剰な引用が招く新たな課題
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
Claude Codeの責任者が語る：利用制限、透明性、そして「リーンハーネス」戦略
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAIが新たなコーディングエージェント「Grok Build」を発表、一部ユーザー向けに早期β版を提供
It's in early beta and only available to SuperGrok Heavy subscribers right now.
ムスク vs アルトマン裁判：驚愕の最終弁論、弁護士の失態が露呈
Today was closing arguments in the Musk v. Altman trial, and I almost feel bad writing about the unbelievable demolition derby I just witnessed. Steve...
メタ、手のジェスチャーでメッセージを入力できる「Meta Ray-Ban Display」の新機能を発表
Meta is rolling out new features to its Meta Ray-Ban Display smart glasses, including bringing the ability to write messages just with hand gestures t...
オープンAI元研究員が受け取った「Elon Muskの侮辱」を象徴するトロフィー
Yesterday, in Musk v. Altman, before the jurors came in, Sam Altman's team passed up what looked - from a distance - like a little league trophy. It w...
メタ、サードパーティ製アプリやゲームをスマートグラスで提供へ 800ドルモデルがさらに進化
The $800 smart glasses could soon be a lot more useful.