OpenAI har nyligen fått uppmärksamhet för ett märkligt beteende hos sina AI-modeller: de undviker att nämna vissa djur och väsen, inklusive goblins, gremlins, troll och andra mytologiska eller fiktiva varelser. Problemet uppmärksammades först av Wired, som rapporterade om instruktioner i OpenAIs kodningsmodeller som explicit förbjöd omnämnande av dessa varelser.
Företaget har nu gått ut med en förklaring på sin officiella webbplats. Enligt OpenAI uppstod detta beteende som en följd av hur modellerna tränats, och de beskriver det som en "konstig vana" som utvecklats över tid. Problemet observerades första gången i modellen GPT-5.1, särskilt när den användes med inställningen "Nerdy".
OpenAI medger att problemet har förvärrats i senare versioner av sina modeller. Företaget arbetar nu aktivt för att lösa detta, men har ännu inte presenterat en definitiv lösning. I sitt blogginlägg betonar OpenAI att de tar problemet på allvar och undersöker hur träningsdata kan ha påverkat modellernas beteende.
Detta är inte första gången som OpenAI har ställts inför utmaningar kopplade till sina AI-modellers beteende. Tidigare har företaget fått kritik för att dess modeller ibland genererar osanna eller skadliga svar. OpenAI har sedan dess infört flera åtgärder för att förbättra säkerheten och tillförlitligheten i sina system.
Relaterade artiklar
De bästa laptops för de flesta – våra rekommendationer 2026
Need a new laptop? It’s a tough decision. If you’re like most people, a laptop is one of the most expensive tech purchases you’ll make, and it’s somet...
USA satsar på AI för att stoppa insiderhandel i prediktionsmarknader
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
YouTube inför AI-verktyg för att upptäcka deepfakes för alla vuxna användare
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Anthropic och $1,5 miljarders upphovsrättsavtal i gungning – domare stoppar godkännande
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv inför stränga regler mot AI-genererade forskningsartiklar
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv förbjuder inskick av AI-genererad forskning med felaktigheter
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI:s omorganisation för att vinna AI-agentkriget – Brockman tar ledarroll
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI och Apple: Spänningar kring ChatGPT-integration
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...