AI-virksomhedernes varsler om undergang er også en salgsstrategi

De største aktører inden for kunstig intelligens (AI) udsender med jævne mellemrum dystre varsler om teknologiens potentielle farer. Senest har AI-laboratoriet Anthropic advaret om en forestående «intelligens-eksplosion», hvor AI-systemer kan udvikle sig selvstændigt uden menneskelig indblanding.

Ifølge Jack Clark, medstifter af Anthropic og skaber af chatbotten Claude, er sandsynligheden stor for, at vi inden udgangen af 2028 vil have et AI-system, der kan modtage kommandoen: «Lav en bedre version af dig selv» – og derefter udføre opgaven fuldstændig autonomt.

Anthropic er ikke ene om at udsende sådanne advarsler. Også OpenAI, baggrunden for ChatGPT, har gentagne gange advaret om AI’s risici. Samtidig driver begge virksomheder en aggressiv udvikling og tiltrækker massive investeringer. For nylig tillod OpenAI nuværende og tidligere medarbejdere at sælge aktier for op til 30 millioner dollars, hvilket resulterede i en handel på 6,6 milliarder dollars blandt over 600 medarbejdere.

Advarslerne tjener flere formål

De modsætningsfyldte budskaber fra AI-virksomhederne er blevet umulige at overse. Virksomhederne advarer om katastrofale risici, samtidig med at de accelererer udrulningen af AI og konkurrerer om at dominere, hvad der betegnes som den mest betydningsfulde teknologiske transformation i menneskehedens historie.

Alle aktører i kapløbet – herunder regeringer, der hastigt integrerer AI i militære, uddannelsesmæssige og administrative systemer – anerkender offentligt både udfordringerne og farerne. Ingen kan dog tillade sig at stoppe udviklingen.

I januar udgav Anthropics administrerende direktør, Dario Amodei, essaysamlingen «The Adolescence of Technology», hvor han sammenligner vores nuværende situation med Carl Sagans roman «Contact». Han beskriver menneskeheden som værende på tærsklen til en afgørende forandring, hvor fem eksistentielle risici truer:

• Rogue autonome AI-systemer: AI, der udvikler sig ukontrolleret og potentielt bliver farlig.
• Misbrug til masseødelæggelse: AI anvendt til terror eller krigsførelse.
• Autoritær magtovertagelse: Stater eller aktører, der bruger AI til politisk kontrol.
• Økonomisk forstyrrelse: Automatisering og jobtab, der destabiliserer samfundet.
• Ekstrem rigdomskoncentration: AI’s fordele samles hos få, hvilket øger uligheden.

Amodei forudser også ukendte, indirekte konsekvenser, der kan opstå som følge af AI’s indtog.

Advarsler som salgsargument

Seksogtyve dage efter udgivelsen af essaysamlingen rejste Anthropic 30 milliarder dollars i ny finansiering, hvilket hævede virksomhedens værdi til 380 milliarder dollars. Samme uge rapporterede Financial Times, at Anthropic planlægger at rejse yderligere titals milliarder i sommerens løb med henblik på en værdiansættelse på op mod 1.000 milliarder dollars – hvilket ville overgå OpenAIs nuværende værdiansættelse på 852 milliarder dollars.

Denne sammenhæng er ikke tilfældig. «The Adolescence of Technology» fungerer ikke blot som en advarsel, men også som en investeringspitch. Budskabet «Denne teknologi er den mest betydningsfulde i menneskehedens historie» tjener både som en advarsel og som en drøm for investorer. «Vi er de ansvarlige» er både et moralsk påstand og en konkurrencemæssig fordel. «Kina indhenter os» er både en geopolitisk bekymring og et argument for, at den næste finansieringsrunde føles patriotisk.

«Advarslerne om AI’s risici er ikke blot etiske udtalelser – de er en strategi til at sikre kapital, dominans og offentlig støtte i et teknologisk kapløb, hvor ingen kan tillade sig at falde bagud.»