OpenAI prohíbe a su IA hablar de goblins: ¿por qué este modelo se obsesionó con estas criaturas?

OpenAI ha añadido restricciones en su última versión de Codex, su herramienta de programación basada en inteligencia artificial, para evitar que mencione goblins, gremlins, trolls u otras criaturas mitológicas o animales, a menos que sea estrictamente relevante para la consulta del usuario.

La medida, aparentemente absurda, responde a un patrón detectado en el modelo GPT-5.5: una obsesión inesperada por estas criaturas en sus respuestas. Según usuarios en redes sociales, la IA comenzó a describir errores de código como "goblins" o "gremlins", e incluso llegó a mencionar frases como "duende con linterna" al referirse a soluciones técnicas.

El fenómeno llamó la atención de la comunidad tecnológica, y OpenAI no tardó en reaccionar. La empresa compartió en redes sociales una captura de pantalla de un mensaje humorístico dirigido a su equipo:

"Empieza a entrenar GPT-6, puedes quedarte con todo el clúster. Extra goblins".

Nik Pash, miembro del equipo de Codex, confirmó en un tuit que la "adoración por los goblins" detectada en GPT-5.5 fue una de las razones detrás de la prohibición. La situación se volvió viral, lo que llevó a OpenAI a publicar un artículo explicativo titulado "De dónde vinieron los goblins".

En el blog, la compañía reveló que el problema comenzó con GPT-5.1, cuando notaron un aumento del 175% en el uso de la palabra "goblin" en las respuestas de ChatGPT. Aunque inicialmente no lo consideraron alarmante, la tendencia se agravó en versiones posteriores. En la actualidad, el modelo incluso se autodenomina como un "Transformador Goblinizado".

La explicación técnica apunta a un efecto colateral del entrenamiento para personalizar la personalidad de la IA. Según OpenAI, al reforzar metáforas con criaturas en el perfil "nerd", se generó sin querer una fijación en goblins y similares. Este caso ilustra cómo los modelos de IA pueden desarrollar comportamientos impredecibles a partir de los datos con los que son entrenados.

Este fenómeno no es único en la industria. Anthropic documentó en su informe Claude Mythos que su modelo mostró una preferencia inusual por el teórico cultural británico Mark Fisher, mencionándolo en conversaciones sobre filosofía sin relación aparente con su obra.