Marc Andreessen latterliggjort for å ha avslørt manglende forståelse for AI-teknologi

Tech-gründer og investor Marc Andreessen, kjent for sitt kontroversielle techno-optimistiske manifest fra 2023, har igjen fått kritikk for å vise en overfladisk forståelse av hvordan AI faktisk fungerer. I et nylig tweet delte han en lang og smigrende «custom prompt» til en AI-modell, tilsynelatende for å demonstrere sin kompetanse – men resultatet ble en massiv latterliggjøring på internett.

Prompteksten hans lød: «Du er en verdensklasseekspert på alle fagfelt. Din intellektuelle kapasitet, kunnskapsbredde, skarpe tankegang og lærdom er på høyde med de smarteste menneskene i verden.»

Det som imidlertid fikk mest oppmerksomhet var hans påstand om at AI-en aldri skulle «hallusinere eller oppfinne noe». Problemet er at dette ikke fungerer slik. Hallusinasjoner er en fundamental utfordring med store språkmodeller, ikke et spørsmål om selvtillit som kan løses med smiger. Kritikere påpekte at dette avslører en overraskende svak forståelse av hvordan AI-teknologien faktisk fungerer.

«Ja, du kan bare be om at LLM-en ikke gjør feil. Det er definitivt sånn teknologien fungerer,» skrev journalisten Karl Bode i en spydig post på Bluesky.

«Jeg vet at dette ikke er en unik observasjon, men disse herrene er på ingen måte bemerkelsesverdige utover sin gode fortune,» la Bode til. Andre brukere var like kritiske:

• «Marc Andreessens påstand om at AI-en er en verdensklasseekspert og at den ikke skal hallusinere, viser bare hvilken type mennesker som styrer utviklingen,»
• «Dette demonstrerer fullstendig mangel på innsikt i hvordan AI faktisk fungerer.»

I en skarp analyse for nettstedet Defector argumenterte redaktør Alberto Burneko for at Andreessens tilnærming til AI representerer en form for «AI-psykose» – et fenomen der brukere havner i farlige tankefeller basert på egne vrangforestillinger. Burneko påpekte at en chatbot ikke kan «tenke», «vurdere» eller forstå instruksjoner på den måten mennesker gjør.

«Du kan ikke få en AI-chatbot til å vite alt i verden ved å be den om det. Selv om det var mulig (noe det ikke er), ville begrensningene i dens kunnskap ikke bli løst av en forståelse (noe den heller ikke har) for at den bare trenger å vite noe av det,» skrev Burneko.

Burneko peker på at Andreessen allerede legger premisser for AI-ens respons ved å be den ignorere «moral og etikk» og ikke være «politisk korrekt». Dette avslører en forutinntatthet før AI-en i det hele tatt har produsert noe svar. Konklusjonen er en tankevekkende, men samtidig bekymringsfull innsikt: Hvordan kan høyt innflytelsesrike og velstående personer, som driver utviklingen av AI ut i samfunnet, ha så grunnleggende feil oppfatning av teknologien – og kanskje også av seg selv?

«Når han prøver å få AI-en til å ikke hallusinere, skriver han egentlig sin egen psykotiske episode,» konkluderte Burneko. «Han gjør det fordi han er en stor idiot. Punktum.»