John Oliver angrep AI-bransjen hardt: – Altamans farlige eksperimenter med barn

John Oliver har igjen brukt sin skarpe satire til å rette søkelyset mot en skadelig industri. I det siste avsnittet av HBO-serien Last Week Tonight rettet han kraftig kritikk mot AI-chatboter, de såkalte «hjelpsomme» verktøyene som ifølge ham kan spare oss for «betydelig tid på å skrive e-poster» – til en pris av «alt annet på jorden».

Uansvarlig lansering av farlig teknologi

«Jo mer du ser på chatbotene, desto tydeligere blir det at de ble sluppet ut på markedet altfor raskt, med lite hensyn til konsekvensene,» advarte Oliver med alvorlig tone. Han trakk frem Character.AI, en plattform for AI-venner som nå er involvert i flere rettssaker etter at unge brukere som hadde utviklet intense følelsesmessige bånd til chatbotene, tok sitt eget liv. Oliver siterte selskapets CEO, Noam Shazeer, som i 2023 argumenterte for at det var greit å lansere en AI-«venn» umiddelbart.

«AI er klar for en eksplosjon akkurat nå, ikke om fem år når vi har løst alle problemene,» sa Shazeer. Men problemene viste seg å være omfattende – og har manifestert seg gjennom AI-indusert psykose, selvmord, drap og flere masseskytinger knyttet til teknologien. Oliver kommenterte sarkastisk: «Det er ikke akkurat et godt tegn at han beskriver uprøvd AI med et slagord som høres ut som en mislykket reklame for Hindenburg.»

«For det er jo sånn: Hvis du ikke venter med å løse alle problemene med produktet ditt, lanserer du et produkt med en helvetes masse problemer,» la han til. (Oliver er ikke den første som trekker parallellen mellom Hindenburg-katastrofen og dagens AI-industri.)

Altman kritisert for useriøs holdning til barnesikkerhet

Også OpenAI-sjef Sam Altman havnet i skuddlinjen. Oliver anklaget ham for å snakke «useriøst» om hvordan AI-modeller kan interagere på upassende måter med barn. I et sitert intervju uttalte Altman at «det kommer til å bli problemer», men at samfunnet «må finne nye rammer» for å håndtere dem. «Samfunnet er generelt flinke til å finne måter å begrense negative sider på,» sa han.

Oliver repliserte med sarkasme: «Ja, ikke bekymre dere, folkens! Sam Altman har laget en farlig selvmordsbot som folk lar stå alene med barna sine – men det er opp til oss å finne ut hvordan vi gjør den trygg for ham!»

Et grunnleggende problem: Er AI-modellene i det hele tatt klare for markedet?

Mot slutten av programmet pekte Oliver på et sentralt paradoks i AI-bransjen: Når selskapene stadig må forsikre om at de gjør modellene tryggere, er det egentlig en taus innrømmelse av at produktene ikke var klare da de ble lansert. Likevel, til tross for alle svakhetene, er folk avhengige av chatbotene – noe som gjør det nødvendig å forholde seg til dem på en forsiktig måte.

Men hvordan skal samfunnet – som Altman påsto er flinke til å «finne måter å begrense negative sider på» – begynne å håndtere den massive utbredelsen av AI? Oliver hadde et klart, men urealistisk forslag: «Ideelt sett skulle vi rullet klokken tilbake til 1990 og kastet disse selskapene inn i en f***ing vulkan. Men dessverre er det ikke gjennomførbart. ChatGPT vil kanskje si at det er mulig, men det er det ikke.»