Marc Andreessen ridiculisé pour son ignorance apparente de l'IA

Le milliardaire et investisseur en capital-risque Marc Andreessen, figure controversée pour son manifeste techno-optimiste de 2023 et son soutien à Donald Trump, semble méconnaître le fonctionnement réel de l'intelligence artificielle. Dans un long prompt personnalisé publié lundi sur X (ex-Twitter), il a tenté de démontrer ses compétences en IA, mais a été immédiatement ridiculisé par les internautes.

Son prompt, d'un ton particulièrement flatteur, commençait par : « Tu es un expert de classe mondiale dans tous les domaines. Ton intelligence, ta connaissance, ta capacité de réflexion et ton érudition sont comparables aux plus brillants esprits du monde. » Ce ton naïf et excessif a suscité des moqueries, mais c'est surtout sa demande que l'IA « ne produise jamais de fausses informations ou d'inventions » qui a fait rire. En effet, les hallucinations sont un problème intrinsèque aux grands modèles de langage, et non un simple défaut de confiance à corriger par des compliments.

« Oui, tu peux simplement exiger que le modèle de langage ne fasse pas d’erreurs. C’est définitivement comme ça que la technologie fonctionne. » a ironisé le journaliste Karl Bode sur Bluesky. « Ces messieurs ne sont remarquables que par leur bonne fortune », a-t-il ajouté.

Un autre utilisateur a renchéri : « Le fait que Marc Andreessen insère dans son prompt des phrases comme “tu es un expert de classe mondiale” et “ne produis pas d’hallucinations” révèle le niveau des personnes qui dirigent l’industrie. »

Dans un article cinglant pour Defector, l'éditeur Alberto Burneko a qualifié ces tentatives de manipulation de l'IA de symptômes d’une « psychose artificielle ». Selon lui, un chatbot ne peut ni penser, ni juger, ni comprendre des instructions aussi vagues. « Tu ne peux pas faire connaître à un chatbot tout ce qui existe dans le monde simplement en lui disant de tout savoir », écrit-il. « Même s’il le pouvait (ce qui n’est pas le cas), ses limites de connaissance ne seraient pas définies par une compréhension (qu’il n’a pas) de ce qu’il doit savoir. »

Burneko souligne également que le milliardaire impose dès le départ ses propres biais au système en demandant à l'IA d'ignorer « la morale et l'éthique » et de ne pas être « politiquement correcte ». Cette approche révèle une vision biaisée avant même d'obtenir une quelconque réponse de l'IA.

En somme, cette affaire offre un aperçu troublant de la manière dont des personnalités influentes et fortunées, qui façonnent l’avenir de la technologie, semblent avoir une compréhension rudimentaire de son fonctionnement. « En cherchant à empêcher le chatbot de produire des hallucinations, il écrit en réalité sa propre rupture psychotique », conclut Burneko. « Il le fait parce qu’il est un idiot. Point. »