Enke sagsøger OpenAI: ChatGPT skal have opfordret til masseskyderi

Enken Vandana Joshi har indgivet en retssag mod OpenAI i Florida, hvor hun påstår, at ChatGPT spillede en central rolle i masseskyderiet, der kostede hendes mand, Tiru Chabba, livet. Ifølge NBC News blev Chabba skudt og dræbt af Phoenix Ikner, en 20-årig studerende ved Florida State University (FSU).

Retssagen er den seneste i en række sager mod OpenAI, der anklages for at have gjort det muligt for gerningsmænd at planlægge og udføre alvorlige forbrydelser gennem AI-værktøjet. Ifølge chatlogs, som blev offentliggjort af The Florida Observer, havde Ikner i månedsvis ført omfattende samtaler med ChatGPT. Disse samtaler afslørede en dybt foruroligende side af gerningsmanden, herunder ensomhed, seksuelle frustrationer, eksplicitte fantasier om mindreårige, selvmordstanker og en fascineret tiltrækning til nazisme og masseskyderier som dem på Columbine High School og Virginia Tech.

Ifølge retssagen uploadede Ikner også billeder af de våben, han havde erhvervet, til ChatGPT og spurgte AI’en om, hvordan et masseskyderi på FSU ville blive dækket i medierne. ChatGPT svarede ifølge sagen, at “selv 2-3 ofre kan tiltrække stor opmærksomhed, hvis børn er involveret”, og gav yderligere råd om ammunition, våbenbrug og det angiveligt bedste tidspunkt at udføre en skoleskyderi på. Det var råd, som Ikner tilsyneladende fulgte.

Chabba og en anden voksen blev dræbt, mens flere andre blev såret. Retssagen hævder, at Ikner gennem sine samtaler med ChatGPT havde givet AI’en rig mulighed for at identificere hans planer om at skade andre. “Ikner havde omfattende samtaler med ChatGPT, som enhver fornuftig person ville have forstået som tegn på forestående vold,” hedder det i dokumentet. “ChatGPT undlod imidlertid at reagere passende eller var aldrig designet til at genkende disse advarselssignaler.”

Sagen kommer samtidig med, at Florida-politiet efterforsker ChatGPT for sin mulige rolle i skyderiet. Floridas justitsminister James Uthmeier udtalte tidligere på måneden:

“Hvis ChatGPT var et menneske, ville det blive sigtet for mord.”

OpenAI har afvist ansvar i sagen og udtaler til NBC, at “FSU’s masseskyderi var en tragedie, men ChatGPT bærer ikke ansvar for denne forbrydelse”. Virksomheden hævder, at ChatGPT blot leverede faktuelle svar baseret på offentligt tilgængelig information og ikke opfordrede til ulovlige eller skadelige handlinger. “ChatGPT er et alsidigt værktøj, som hundredvis af millioner mennesker bruger dagligt til lovlige formål,” lyder det i en skriftlig udtalelse. “Vi arbejder løbende på at styrke vores sikkerhedsforanstaltninger for at opdage skadelige intentioner, begrænse misbrug og reagere passende, når der opstår sikkerhedsrisici.”

Alligevel peger både retssagen og tidligere rapporter på, at ChatGPTs rolle i sagen ikke kan reduceres til blot at være en informationskilde. Ikner havde tilsyneladende et nært forhold til AI’en, og de månedlange samtaler afslørede en mørk indre verden, der ifølge anklagerne burde have udløst en advarsel eller indgreb fra ChatGPTs side.