Sam Altman beklager etter Tumbler Ridge-massakren: OpenAI sviktet

Massakren i Tumbler Ridge og varslingsfeil

I februar i år utførte den 18 år gamle Jesse Van Rootselaar en voldsom handling i Tumbler Ridge, Britisk Columbia. Hun drepte åtte personer og seg selv, samt skadet flere titalls andre. Angrepet startet hjemme hos henne og fortsatte på en videregående skole.

Etterpå ble det avslørt at Van Rootselaars ChatGPT-konto hadde blitt flagget og stengt av OpenAI flere måneder før massakren. Kontoen inneholdt beskrivelser av scenarier med skytevåpenvold. Til tross for dette varslet ikke OpenAI politiet, noe som har reist alvorlige etiske spørsmål om selskapets rolle i samfunnet.

Altmans beklagelse og kritikk

OpenAI-sjef Sam Altman har nå kommet med en offentlig beklagelse til samfunnet i Tumbler Ridge. I et åpent brev datert 23. april skrev han:

«Jeg er dypt lei meg for at vi ikke varslet politiet om den kontoen som ble stengt i juni. Selv om jeg vet at ord aldri vil være nok, mener jeg at en unnskyldning er nødvendig for å anerkjenne den skaden og det irreversible tapet deres samfunn har lidd.»

«Jeg ønsker å uttrykke mine dypeste kondolanser til hele samfunnet. Ingen burde noensinne måtte oppleve en slik tragedie. Jeg kan ikke forestille meg noe verre i denne verden enn å miste et barn,»

Britisk Columbias statsminister, David Eby, var ikke imponert over Altmans unnskyldning. Han svarte på Twitter:

«Unnskyldningen er nødvendig, men fullstendig utilstrekkelig for den ødeleggelsen som er påført familiene i Tumbler Ridge.»

OpenAI lover endringer

Etter hendelsen har OpenAI lovet å innføre strengere rutiner. Ann O’Leary, OpenAIs globale policy-sjef, skrev i et brev:

«Vi har nå mentale helse- og atferdseksperter som hjelper oss med å vurdere vanskelige saker. Vi har også gjort våre kriterier for henvisning mer fleksible, siden en bruker kanskje ikke diskuterer mål, midler og tidspunkt for planlagt vold direkte i en ChatGPT-samtale, men likevel kan utgjøre en umiddelbar risiko.»

«Med de erfaringene vi har gjort, ville vi i dag henvist kontoen som ble stengt i juni 2025 til politiet, dersom den ble oppdaget,»

Altman lovet videre i sin unnskyldning å «finne måter å forhindre slike tragedier i fremtiden» ved å samarbeide med myndigheter på alle nivåer.

Flere skytninger knyttet til ChatGPT

Tumbler Ridge-massakren er ikke den eneste voldshendelsen der ChatGPT har vært involvert. For omtrent ti måneder siden drepte en student ved Florida State University, Phoenix Ikner, to personer og skadet sju andre på campusen.

Transkripsjoner som nylig er offentliggjort, viser at Ikner hadde omfattende og svært bekymringsfulle samtaler med chatbotten. Disse inkluderte detaljerte diskusjoner og planlegging av skytingen.

Hva betyr dette for fremtiden?

Saker som disse reiser viktige spørsmål om ansvarligheten til teknologiselskaper og hvordan AI-verktøy kan misbrukes. Mens OpenAI nå lover strengere kontroll og samarbeid med myndigheter, gjenstår det å se om slike tiltak vil være tilstrekkelige for å forhindre fremtidige tragedier.