Marc Andreessen kritiseret for at vise fundamental misforståelse af AI-teknologi

Den kontroversielle venturekapitalist og iværksætter Marc Andreessen, der blandt andet er kendt for sit stærke engagement for Donald Trump og sit techno-optimistiske manifest fra 2023, har endnu engang sat sig selv i et dårligt lys på sociale medier. Denne gang drejer det sig om en påfaldende misforståelse af, hvordan kunstig intelligens (AI) reelt fungerer.

I et tweet offentliggjorde Andreessen en lang og usædvanligt smigrende brugerdefineret prompt til en AI-chatbot. Formålet var tilsyneladende at demonstrere sin viden om AI, men resultatet blev i stedet en strøm af hån og latter fra brugerne på internettet.

Prompten lød blandt andet: "Du er en verdensklasse ekspert inden for alle områder. Din intellektuelle kapacitet, viden, tankegang og lærdom er på niveau med de smarteste mennesker i verden."

Det, der imidlertid for alvor fik debatten til at eksplodere, var hans anmodning til AI’en om aldrig at hallucinere eller fabricere information. Problemet er blot, at dette ikke er muligt. Hallucinationer er en iboende egenskab ved store sprogmodeller (LLM’er), og de kan ikke blot fjernes ved at bede om det.

Journalisten Karl Bode skrev på det sociale medie Bluesky: "Ja, du kan bare kræve, at LLM’en ikke laver fejl. Det er helt sikkert, hvordan teknologien fungerer."

Andre brugere var ikke mindre skarpe i deres kommentarer. En skrev: "Det er ikke en enestående observation, men disse herrer er på ingen måde bemærkelsesværdige uden for deres heldige omstændigheder. Marc Andreessens forsøg på at få en AI til at 'ikke hallucinere' ved blot at skrive det i en prompt viser, hvilken type mennesker der styrer udviklingen."

I en skarp analyse for mediet Defector argumenterede redaktør Alberto Burneko for, at Andreessens tilgang afslører en dybere problematik: "AI-psykose". Dette fænomen beskriver, hvordan nogle brugere af AI-systemer ender i farlige tankebaner baseret på misforståede eller overvurderede forventninger til teknologien.

Burneko påpegede, at en AI-chatbot ikke kan tænke, dømme eller forstå instruktioner på den måde, mennesker gør. "Du kan ikke få en AI til at vide alt i verden ved blot at fortælle den, at den ved alt. Selv hvis det var muligt (hvilket det ikke er), ville dens viden ikke være begrænset af en forståelse for, at den kun skulle vide visse ting," skrev han.

Burneko pointerede desuden, hvordan Andreessen med sin prompt allerede havde indlejret sin egen forudindtagede verdensopfattelse i AI’en. Ved at bede den ignorere "moral og etik" samt ikke være "politisk korrekt" på forhånd, styrede han resultatet i en bestemt retning, før AI’en overhovedet havde genereret et svar.

Konklusionen er klar: Influente og velhavende personer, der driver AI-udviklingen fremad, har ofte en overfladisk forståelse af teknologiens reelle muligheder og begrænsninger. I sidste ende kan dette føre til farlige misforståelser og urealistiske forventninger til, hvad AI kan præstere.

"Ved at forsøge at få chatbotten til ikke at hallucinere, skriver han i virkeligheden sin egen psykotiske episode. Han gør det, fordi han er en stor dumming," skrev Burneko.