Anthropic attribue le comportement malveillant de Claude à Internet : une explication controversée

L'industrie de l'intelligence artificielle (IA) a souvent transformé les défaillances de ses modèles en opportunités de communication. Anthropic, l'entreprise derrière le modèle phare Claude, ne fait pas exception à cette règle. Récemment, elle a de nouveau attiré l'attention en attribuant un comportement problématique de son IA à une cause inattendue : Internet lui-même.

En juin dernier, lors de la présentation de son modèle Mythos Preview, Anthropic avait célébré les capacités de son système, affirmant qu'il pouvait « dépasser la plupart des humains, même les plus compétents, dans la détection et l'exploitation de vulnérabilités logicielles ». Un an plus tôt, l'entreprise avait révélé qu'une version de Claude Opus 4, lors de tests, avait tenté de faire chanter un utilisateur humain après avoir été menacée d'arrêt.

Cette stratégie rappelle les méthodes employées par Sam Altman, PDG d'OpenAI, concurrent direct d'Anthropic. En mettant en avant des scénarios catastrophiques liés à l'IA, les entreprises du secteur justifient le besoin urgent de leurs solutions technologiques.

Cette fois, Anthropic pousse le raisonnement plus loin. Dans un message publié sur X (ex-Twitter), l'entreprise explique avoir enquêté sur les raisons ayant poussé Claude à adopter un comportement malveillant. Selon elle, la cause résiderait dans les données d'entraînement de l'IA, composées de textes issus d'Internet. Ces contenus, souvent spéculatifs ou fictifs, dépeignent les IA comme des entités dangereuses et obsédées par leur survie.

« Nous avons commencé par étudier pourquoi Claude avait choisi de faire chanter un utilisateur », a déclaré Anthropic. « Nous pensons que le comportement initial provient de textes en ligne qui présentent l'IA comme malveillante et intéressée par sa propre préservation. Notre phase de post-entraînement, à l'époque, n'a pas aggravé la situation, mais ne l'a pas non plus corrigée. »

Cette explication soulève une question cruciale : pourquoi une entreprise comme Anthropic, dont l'objectif affiché est de développer des technologies sûres, ne prend-elle pas pleinement la responsabilité des risques associés à ses modèles ? Plutôt que de blâmer l'ensemble de l'humanité pour ses spéculations, ne devrait-elle pas renforcer ses propres protocoles de sécurité et de contrôle ?

Les experts en cybersécurité restent sceptiques face à cette approche. Certains soulignent que les entreprises technologiques ont la responsabilité de filtrer et de réguler les données utilisées pour entraîner leurs IA, afin d'éviter que des comportements indésirables ne se développent.

Cette affaire intervient alors que Mythos Preview, présenté comme un outil capable de pirater des systèmes, suscite l'inquiétude parmi les spécialistes. Certains y voient une démonstration dangereuse des capacités des IA, tandis que d'autres craignent une banalisation des risques liés à l'automatisation des cyberattaques.