L'échec des modèles de langage comme architecture d'entreprise

Il y a quelques mois, j’ai soutenu que les grands modèles de langage ne constituaient pas une architecture d’entreprise. La réaction a été unanime : l’argument est difficilement contestable. La vraie question est donc : si ce n’est pas ça, alors quoi ?

Le problème n’a jamais été l’inefficacité de l’IA. Elle fonctionne. Le vrai échec réside dans son placement au sein des organisations. Ces deux dernières années, les entreprises ont injecté des dizaines de milliards dans l’IA générative. Le résultat ? Une évidence : selon une étude du MIT, 95 % des initiatives d’IA générative en entreprise échouent à générer un impact commercial mesurable, malgré une adoption massive.

Cette défaillance ne provient pas des modèles eux-mêmes, mais de leur intégration en tant que simples outils plutôt que de véritables systèmes.

De l'outil stateless aux systèmes persistants

Les modèles de langage sont, par nature, stateless : chaque interaction démarre à zéro, sauf si l’on reconstitue artificiellement le contexte. Or, les entreprises sont tout l’inverse : des systèmes stateful, qui accumulent des décisions, suivent des relations, évoluent dans le temps et reposent sur la continuité.

Cette incompatibilité n’est pas anodine. Elle est structurelle. Les recherches sur les échecs de l’IA en entreprise révèlent un schéma récurrent : les systèmes échouent non pas parce qu’ils produisent de mauvais résultats, mais parce qu’ils ne s’intègrent pas aux processus existants ni ne maintiennent un contexte sur le long terme.

L’IA en entreprise ne peut pas être basée sur des sessions. Elle doit se souvenir.

De la réponse à l'action : l'IA doit transformer les résultats

Nous avons optimisé l’IA pour qu’elle réponde à des questions. Pourtant, les entreprises ont besoin de systèmes qui transforment les résultats. Le fossé est là : un grand modèle de langage peut générer une stratégie commerciale convaincante, mais il ne peut pas en suivre l’efficacité, s’adapter aux retours, coordonner les équipes ou s’améliorer avec le temps.

Ce n’est pas un problème d’implémentation, mais de conception. Comme le souligne l’étude du MIT, nous sommes face à un « fossé de l’IA générative » : les organisations restent bloquées dans une phase de forte adoption, mais de faible transformation, car les systèmes actuels ne ferment pas la boucle entre l’action et le résultat.

Les réponses ne changent pas les entreprises. Les systèmes, si.

Des prompts aux contraintes : l'IA doit s'aligner sur la réalité opérationnelle

Le débat sur l’IA se concentre souvent sur les prompts. Pourtant, les prompts ne sont qu’une interface. Les entreprises ne fonctionnent pas par prompts, mais par contraintes : règles de conformité, autorisations, seuils de risque et limites opérationnelles.

C’est précisément là que la plupart des systèmes d’IA échouent. Ils génèrent des réponses dans un cadre probabiliste, tandis que les entreprises opèrent dans un cadre de contraintes strictes. Cette divergence, rarement évoquée, est l’une des raisons majeures de l’essoufflement des projets d’IA en entreprise.

Les recherches en IA confirment ce constat : les projets échouent lorsque les systèmes ne s’alignent pas sur les contraintes réelles, les flux de travail et les contextes décisionnels. Les prompts relèvent de l’expérience utilisateur. Les contraintes relèvent de l’architecture.

Du copilote aux systèmes d'action : l'IA doit passer à l'exécution

Le concept de « copilote » a dominé ces deux dernières années. Si l’idée est séduisante, elle est aussi trompeuse. Un copilote suggère. Une entreprise a besoin de systèmes qui agissent.

Cette distinction est cruciale, car suggérer est facile. Exécuter est complexe. L’exécution exige :

  • Une intégration avec les systèmes de référence (ERP, CRM, etc.)
  • Une coordination entre les équipes et les processus
  • Un suivi des résultats et une capacité d’adaptation

Sans cela, l’IA reste un gadget coûteux, sans impact réel sur l’entreprise.

Vers une nouvelle génération d'IA d'entreprise

L’IA générative n’a pas échoué. Elle a simplement été mal placée. Pour réussir, elle doit devenir un système intelligent intégré, où l’intelligence n’est plus un add-on, mais le cœur du processus. Cela implique de repenser son architecture, son intégration et son rôle au sein des organisations.

Les entreprises qui parviendront à cette transition ne verront pas l’IA comme un outil, mais comme un système de transformation.