OpenAI har for nylig erkendt, at deres AI-modeller udviklede en underlig tendens til at undgå omtale af goblins, gremlins, trolls, og andre overnaturlige væsner. Årsagen blev afsløret i en rapport fra Wired, som viste, at OpenAIs kodemodel havde fået instruktioner om aldrig at nævne disse væsner.
I et blogindlæg på virksomhedens hjemmeside forklarer OpenAI, at dette fænomen opstod som en utilsigtet konsekvens af modellernes træning. Specielt modeller som GPT-5.1 viste tendensen, når de blev sat til at agere i en 'Nørdet' personlighedstilstand.
Ifølge OpenAI blev problemet gradvist værre med efterfølgende opdateringer af modellerne. Virksomheden understreger dog, at der ikke er tale om en bevidst censur, men snarere en 'mærkelig vane', som modellerne har udviklet over tid.
OpenAI har endnu ikke oplyst, hvornår eller hvordan problemet vil blive løst, men undersøger sagen yderligere for at sikre, at AI-modellerne fremover kan håndtere sådanne emner på en naturlig måde.
Relaterede artikler
ArXiv indfører forbud mod AI-genereret indhold med fejl
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI omorganiserer endnu engang i kampen om AI-agenter
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI overvejer juridisk aktion mod Apple efter skuffende ChatGPT-integration
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
AI-drevne radioværter fejler: Autonome stationer mister hurtigt penge
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google strammer kampen mod spam i søgeresultater med AI
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
ChatGPT lancerer personlig økonomisk rådgivning via bankforbindelse
ChatGPT's new Plaid integration allows it pull information from more than 12,000 financial institutions.
OpenAI giver ChatGPT adgang til dine bankkonti – hvad betyder det for dig?
ChatGPT will even know how much credit card debt you have. | Image: OpenAI Your trust in AI is about to be put to the test: OpenAI will soon let you g...
Podcast: Hvem har brug for Google Books, når Android 17 kommer?
We also dive into all the new features in Android 17.