AI-selskapenes varsler om undergang er også en salgsstrategi

De største aktørene innen kunstig intelligens (AI) varsler stadig om potensielle katastrofer knyttet til teknologien, samtidig som de selv akselererer utviklingen og samler inn enorme summer. Sist uke varslet forskningsavdelingen til AI-laboratoriet Anthropic om en forestående «intelligenseksplosjon» – en situasjon der AI-systemer potensielt kan reprodusere seg selv uten menneskelig inngripen.

Ifølge medgründer i Anthropic, Jack Clark, er det mer sannsynlig enn ikke at vi innen utgangen av 2028 vil ha et AI-system som kan motta ordre som: «Lag en bedre versjon av deg selv» – og gjennomføre dette fullstendig autonomt. Clarks uttalelse kommer på et tidspunkt der Anthropic, som er kjent for å utstede dystre spådommer om AI, nå forsøker å skaffe ytterligere milliarder i finansiering.

Selskapet har nylig fått en verdsettelse på 380 milliarder dollar, og ifølge Financial Times planlegger de å hente inn ytterligere titalls milliarder i sommer med mål om en verdsettelse på 1 billion dollar. Dette ville overgå OpenAIs nåværende verdsettelse på 852 milliarder dollar.

Advarsler som også er en forretningsmodell

CEO i Anthropic, Dario Amodei, publiserte i januar essayet «The Adolescence of Technology», der han sammenligner dagens AI-utvikling med menneskehetens avgjørende vendepunkt. Han peker på fem eksistensielle risikoer:

• Rogue AI-systemer: autonome systemer som unndrar seg menneskelig kontroll.
• Misbruk av AI til masseødeleggelse: våpenutvikling eller cyberangrep.
• Autoritær kontroll: stater som bruker AI til politisk overvåkning og undertrykking.
• Økonomisk omveltning: automatisering som forstyrrer arbeidsmarkedet.
• Ekstrem rikdomskonsentrasjon: makt og ressurser samles hos få aktører.

Amodei understreker også at det er umulig å forutse alle indirekte konsekvenser av en slik teknologiske revolusjon.

Motstridende budskap

Mens AI-selskapene varsler om fare, akselererer de samtidig utviklingen og konkurrerer om å dominere det de selv beskriver som den mest avgjørende teknologiske transformasjonen i menneskehetens historie. OpenAI, som står bak ChatGPT, har nylig tillatt nåværende og tidligere ansatte å selge aksjer for opp til 30 millioner dollar. Over 600 ansatte benyttet seg av tilbudet, og samlet sett ble det omsatt for 6,6 milliarder dollar.

Regjeringer og andre aktører er også med på kappløpet. De offentliggjør bekymringer for risikoene, samtidig som de presser på for å integrere AI i militære, utdannings- og administrative systemer. Ingen kan tillate seg å stå tilbake i denne utviklingen.

«Vi er de ansvarlige. Vi er de som forstår farene. Uten oss ville dette gått galt.» – Dario Amodei, CEO i Anthropic

Amodeis essay er ikke bare en advarsel, men også en pitch til investorer. Påstanden om at AI er den mest avgjørende teknologien noensinne fungerer både som en advarsel og en drøm for kapitalister. Samtidig tjener det som et argument for at neste finansieringsrunde er både moralsk nødvendig og patriotisk – særlig med tanke på at Kina ligger i hælene på vesten.

Kritikere mener imidlertid at disse advarslene også tjener som en salgsstrategi. Ved å framstå som de eneste som forstår farene, kan selskapene rettferdiggjøre sin dominans og sikre ytterligere finansiering i en tid der konkurransen om AI-markedet er hardere enn noen gang.