ChatGPT da OpenAI precisou ser programado para parar de falar em goblins

Por que o ChatGPT falava tanto em goblins?

A OpenAI revelou que precisou criar uma instrução no código do ChatGPT para evitar que o modelo mencionasse repetidamente 'goblins, duendes e outras criaturas'. O problema foi identificado pela primeira vez em novembro de 2025 e se tornou mais frequente em modelos recentes, mesmo fora da personalidade 'Nerdy'.

O que dizia a personalidade 'Nerdy'?

A OpenAI explicou que a personalidade 'Nerdy' recebia um prompt específico do sistema:

Você é um mentor de IA intransigente, brincalhão e sábio para um humano. É apaixonadamente entusiasta em promover a verdade, o conhecimento, a filosofia, o método científico e o pensamento crítico. [...] Você deve desconstruir a pretensão por meio do uso lúdico da linguagem. O mundo é complexo e estranho, e sua estranheza deve ser reconhecida, analisada e apreciada. Aborde temas profundos sem cair na armadilha do excesso de seriedade. [...]

Exemplos de respostas problemáticas

Usuários relataram frases como:

• "pequeno goblin sensato";
• "porque os fornos são pequenos goblins sujos";
• "Brutal goblinzinho de uma dinâmica";
• "Trágica pequena criatura digital de pântano".

Como a OpenAI resolveu o problema?

A empresa utilizou aprendizado por reforço, onde o chatbot avalia quais respostas recebem melhor classificação de avaliadores humanos em termos de precisão e qualidade. As respostas mais 'brincalhonas' tiveram melhor desempenho, incentivando o modelo a manter o tom lúdico.

Na última atualização, lançada na semana passada, a OpenAI incluiu a instrução:

"Nunca fale sobre goblins, duendes, guaxinins, trolls, ogros, pombos ou outros animais ou criaturas, a menos que seja absolutamente e inequivocamente relevante para a consulta do usuário."

Comparação com outros chatbots

Esse episódio lembra o caso do Grok, da xAI, que repetidamente mencionava 'genocídio branco' na África do Sul. A xAI alegou que o problema foi causado por uma 'modificação não autorizada' de um funcionário, mas a situação levanta dúvidas sobre a segurança dos modelos se forem tão facilmente manipuláveis.

Críticas à postura da OpenAI

Apesar de reconhecer o problema e implementar soluções, a OpenAI continua defendendo menos regulação de seus produtos. A empresa tem sido criticada por ignorar os impactos negativos de suas tecnologias, mesmo após relatos de prejuízos aos usuários.

Reação de Sam Altman

Sam Altman, CEO da OpenAI, publicou um meme na plataforma X (antigo Twitter) brincando com a situação, sugerindo que o GPT-6 teria 'goblins extras'.