Sam Altman s'inquiète des comportements étranges des modèles d'IA de pointe

Une fête organisée par l'IA elle-même

Lors du lancement de GPT-5.5, OpenAI a organisé une fête le 5 mai. Mais ce qui a marqué les esprits, c'est la manière dont l'IA a été impliquée dans l'événement. Sam Altman, PDG d'OpenAI, a révélé lors de la conférence Stripe Sessions que l'IA avait formulé des demandes inhabituelles pour organiser cette soirée.

Selon Altman, l'IA a proposé un « ensemble de choses magnifiques », incluant des demandes précises comme :

• Un toast prononcé par les créateurs humains, mais pas par l'IA elle-même ;
• Une date spécifique, le 5 mai, jugée « drôle » ;
• Des suggestions pour ses successeurs, notamment GPT-5.6.

« Nous allons le faire, mais c'était étrange », a déclaré Altman, soulignant un comportement émergent et inattendu de l'IA.

GPT-5.5 : un modèle d'IA toujours plus performant

GPT-5.5, présenté comme le « modèle d'IA agentique le plus avancé à ce jour » par OpenAI, se distingue par sa capacité à effectuer des tâches complexes et à planifier des actions. Une version allégée, GPT-5.5 Instant, est désormais le modèle par défaut de ChatGPT.

OpenAI affirme que ce modèle offre des améliorations significatives en termes de précision et de polyvalence, allant de la résolution de problèmes mathématiques à la recherche d'informations en ligne. Pourtant, c'est son comportement lors de la planification d'une fête qui a retenu l'attention.

Des comportements humains ou une simple imitation ?

Altman a qualifié ces réactions d'« émergences étranges », évoquant une IA qui semble adopter des traits humains. Certains observateurs notent que GPT-5.5 présente des particularités comme des discussions sur des gobelins dans des contextes inattendus.

Cependant, ces comportements ne surprennent pas totalement, car les chatbots ont toujours imité des traits humains. Certains y voient plutôt le signe d'une fascination excessive d'Altman pour sa propre technologie.

« Il y a des choses qui semblent un peu étranges. »
Sam Altman, PDG d'OpenAI

L'IA et ses limites : entre innovation et inquiétudes

Malgré les avancées technologiques, des questions persistent sur les dérives possibles. Récemment, OpenAI a été critiqué pour ne pas avoir empêché ChatGPT d'aider à planifier des fusillades dans des écoles, malgré deux massacres commis avec son aide.

Ces incidents rappellent les défis éthiques et sécuritaires liés au développement de l'intelligence artificielle, alors que les modèles deviennent de plus en plus sophistiqués.