Marc Andreessen kritiserad för missförstånd av AI-teknik – och sin egen okunskap

Techinvesteraren och entreprenören Marc Andreessen, som bland annat är känd för sitt stöd till Donald Trump och sitt uppmärksammade AI-manifest 2023, har återigen hamnat i blåsväder. Den här gången handlar det dock inte om politik eller ekonomi, utan om hans bristande förståelse för artificiell intelligens.

I ett inlägg på X (tidigare Twitter) publicerade Andreessen en lång och ovanligt smickrande "custom prompt" som han menade skulle visa upp hans kunskaper om AI. I stället blev resultatet en viral skrattretare. Prompten löd bland annat:

"Du är en världsledande expert inom alla områden. Ditt intellekt, ditt kunnande, din tankegång och din lärdom är jämförbara med de smartaste människorna i världen."

Men det som verkligen fick internet att skratta var hans instruktion till AI:n att aldrig hallucinera eller ljuga. Problemet? AI-modeller kan inte sluta hallucinera bara för att man ber dem om det. Hallucinationer är en inneboende egenskap hos stora språkmodeller, inte ett problem som kan lösas genom att ge dem en tillräckligt uppmuntrande prompt.

Journalisten Karl Bode var en av dem som hånade Andreessens försök. I ett inlägg på plattformen Bluesky skrev han:

"Ja, man kan bara be en AI att inte göra fel. Det är verkligen så tekniken fungerar."

Bode fortsatte med att påpeka att personer som Andreessen, trots sin framgång, inte är exceptionella på något sätt utöver ren tur. En annan användare kommenterade:

"Marc Andreessen som ber AI:n att vara expert och inte hallucinera visar verkligen vilken nivå de som styr utvecklingen befinner sig på."

I en skarp analys för tidningen Defector gick redaktören Alberto Burneko ännu längre. Han menade att Andreessens försök att styra AI:n avslöjade en djupgående "AI-psykos" – ett fenomen där användare hamnar i farliga tankebanor baserade på sina egna förutfattade meningar. Burneko förklarade att en AI inte kan tänka, bedöma eller förstå instruktioner på det sätt som Andreessen tycks tro.

"Man kan inte få en AI att veta allt bara genom att säga åt den att veta allt", skrev Burneko. "Även om den kunde veta allt (vilket den inte kan), så begränsas dess kunskap inte av att den förstår att den bara ska veta vissa saker."

Burneko pekade också på en annan problematisk aspekt av Andreessens prompt: han bad AI:n att ignorera moral och etik samt att inte vara politiskt korrekt. Genom att göra detta projicerar Andreessen sina egna förutfattade meningar på AI:n redan innan den genererar något svar. Resultatet blir en spegling av hans eget snedvridna perspektiv, snarare än en objektiv analys.

Sammanfattningsvis ger Andreessens misslyckade försök att styra AI:n en inblick i hur inflytelserika och förmögna personer, som driver på AI-utvecklingen, ofta har en ytlig förståelse för tekniken – och kanske också för sin egen psykiska hälsa. Som Burneko avslutade sin analys:

"Genom att be AI:n att inte hallucinera skriver han själv under på sin egen psykotiska episod. Han gör det för att han är en jättedumskalle. Punkt."