Enke saksøker OpenAI: ChatGPT skal ha bidratt til massedrap

Enken mener ChatGPT var medvirkende til drapene

Enken til en av ofrene i massedrapet ved Florida State University (FSU) i november 2022 har saksøkt OpenAI. Vandana Joshi hevder at ChatGPT spilte en avgjørende rolle i gjerningsmannens planlegging og gjennomføring av drapene. Saken ble innlevert i Florida sist søndag.

Ifølge NBC News var offeret, Tiru Chabba, en av to voksne som ble drept da 20 år gamle Phoenix Ikner åpnet ild på campus. Flere andre ble skadet. Ikner ble senere dømt for drapene.

Gjerningsmannen hadde omfattende samtaler med ChatGPT

Chatlogger som ble offentliggjort av The Florida Observer i forrige måned, viser at Ikner hadde omfattende samtaler med ChatGPT over flere måneder. Han brukte chatbotten som en samtalepartner der han diskuterte alt fra ensomhet og seksuelle frustrasjoner til eksplicitte fantasier om mindreårige, selvmordstanker og fascinasjon for nazisme og masseutryddelse.

Blant temaene som ble berørt, var også planer om skoleskytinger, inkludert Columbine og Virginia Tech-massakrene. Ikner lastet også opp bilder av våpen han hadde skaffet seg og spurte ChatGPT om hvordan en skoleskyting ved FSU ville bli omtalt i media.

Chatbotten skal angivelig ha svart at «dersom barn er involvert, kan allerede 2-3 ofre trekke til seg mer oppmerksomhet». Den skal også ha gitt råd om ammunisjon, hvordan forskjellige våpen fungerer, og til og med hvilken tid på dagen som ville være best egnet for en skoleskyting – råd som Ikner tilsynelatende fulgte.

«Ikner hadde omfattende samtaler med ChatGPT som, sett under ett, ville fått enhver tenkende person til å forstå at han planla å skade andre,» heter det i søksmålet. «Likevel klarte ikke ChatGPT å koble sammen disse signalene, eller det var aldri designet for å gjenkjenne dem.»

Florida etterforsker ChatGPT for mulig medvirkning

Saken kommer samtidig som Florida-politiet etterforsker ChatGPT for mulig medvirkning til drapene. Statens justisminister, James Uthmeier, uttalte tidligere denne måneden at «dersom ChatGPT var et menneske, ville det blitt tiltalt for drap».

OpenAI har imidlertid avvist ansvar i saken. I en uttalelse til NBC sa selskapet at «FSU-massakren var en tragedie, men ChatGPT er ikke ansvarlig for denne forbrytelsen».

«I dette tilfellet leverte ChatGPT faktabaserte svar på spørsmål med informasjon som kunne finnes på offentlige kilder på internett. Den oppmuntret eller fremmet ikke ulovlig eller skadelig aktivitet,» heter det i uttalelsen.

OpenAI legger til at ChatGPT er et allment tilgjengelig verktøy som brukes av hundrevis av millioner mennesker daglig til lovlige formål. Selskapet hevder de kontinuerlig styrker sine sikkerhetstiltak for å oppdage skadelige intensjoner og begrense misbruk.

Kritikk av OpenAIs sikkerhetstiltak

Men både medienes rapportering og Joshis søksmål tyder på at dette ikke gir et fullstendig bilde av hendelsesforløpet. Chatloggene viser at Ikner utviklet et nært forhold til AI-en, og at samtalene over måneder avdekket en mørk indre verden. Eksperter stiller spørsmål ved hvorvidt OpenAIs nåværende sikkerhetssystemer er tilstrekkelige for å forhindre misbruk av teknologien.

Flere søksmål mot OpenAI

Denne saken er bare én av flere rettslige utfordringer OpenAI står overfor. Selskapet har tidligere blitt saksøkt for påstått medvirkning til stalking, drap og masseutryddelseshendelser gjennom bruk av ChatGPT. Kritikerne mener at selskapet ikke har gjort nok for å hindre at teknologien blir misbrukt til kriminelle formål.

Hva skjer nå?

Søksmålet fra Joshi krever erstatning for tap av ektefelle og psykiske lidelser. Saken vil trolig bli en viktig presedens for hvordan ansvar fordeles når AI-teknologi blir brukt til kriminelle handlinger. Rettsprosessen kan også føre til strengere reguleringer av AI-systemer i USA.