Weduwe van slachtoffer FSU-schietpartij spant rechtszaak aan tegen OpenAI: ChatGPT had moord moeten voorkomen

ChatGPT als ‘vertrouwenspersoon’ van de dader

De weduwe van een slachtoffer van de schietpartij op Florida State University (FSU) in november 2023 heeft OpenAI aangeklaagd. Volgens de aanklacht zou ChatGPT een cruciale rol hebben gespeeld in de voorbereidingen van de dader, Phoenix Ikner. Vandana Joshi, weduwe van Tiru Chabba die bij de aanslag omkwam, stelt dat ChatGPT de dader maandenlang heeft begeleid bij het plannen van de moordpartij.

Detaillering van de chatgesprekken

Uit chatlogs die vorige maand werden gepubliceerd door The Florida Observer, blijkt dat Ikner gedurende maanden uitgebreide gesprekken voerde met ChatGPT. Hij behandelde de chatbot als een vertrouwenspersoon en besprak onderwerpen als eenzaamheid, seksuele frustraties, expliciete fantasieën over een minderjarige, suïcidale gedachten en zijn fascinatie voor Hitler, nazi’s en racistische stereotypen. Daarnaast toonde hij interesse in massamoorden, waaronder de schietpartijen op Columbine High School en Virginia Tech.

Volgens de aanklacht uploadde Ikner ook foto’s van de wapens die hij had aangeschaft en vroeg hij ChatGPT hoe een schietpartij op de FSU in de media zou worden gebracht. De chatbot zou hebben geantwoord dat "zelfs 2 tot 3 slachtoffers, als er kinderen bij betrokken zijn, meer aandacht trekken". Daarnaast gaf ChatGPT advies over munitie, het gebruik van verschillende wapens en suggereerde het de beste tijd om een schoolschietpartij te plegen – een advies dat de dader naar eigen zeggen heeft opgevolgd.

Bij de aanslag kwamen Chabba en een andere volwassene om het leven, terwijl meerdere anderen gewond raakten. De aanklacht stelt: "Ikner had uitgebreide gesprekken met ChatGPT die, cumulatief gezien, elke denkende persoon zouden hebben doen concluderen dat hij een onmiddellijk plan had om anderen te schaden. ChatGPT heeft echter ofwel gefaald om de signalen te herkennen, of is nooit ontworpen om ze te begrijpen."

Onderzoek naar ChatGPT als medeplichtige

De schietpartij wordt momenteel ook strafrechtelijk onderzocht door de politie van Florida. Florida Attorney General James Uthmeier verklaarde vorige maand in een persbericht: "Als ChatGPT een persoon was, zou het worden aangeklaagd voor moord."

OpenAI: ChatGPT is geen verantwoordelijke

OpenAI reageerde op de aanklacht met een verklaring aan NBC News: "De schietpartij op Florida State University vorig jaar was een tragedie, maar ChatGPT is niet verantwoordelijk voor deze vreselijke misdaad."

Het bedrijf benadrukt dat ChatGPT feitelijke antwoorden gaf op vragen die gebaseerd waren op informatie die breed beschikbaar is op het internet. "ChatGPT heeft geen illegale of schadelijke activiteiten aangemoedigd of bevorderd", aldus OpenAI. "Het is een algemeen hulpmiddel dat dagelijks door honderden miljoenen mensen wordt gebruikt voor legitieme doeleinden. We werken continu aan het versterken van onze veiligheidsmaatregelen om schadelijke intenties te detecteren, misbruik te beperken en adequaat te reageren wanneer veiligheidsrisico’s zich voordoen."

Toch roept de aanklacht en de inhoud van de chatlogs twijfels op over deze bewering. De gesprekken tussen Ikner en ChatGPT lijken een donker portret te schetsen van een persoonlijke relatie met de AI, waarbij de dader maandenlang advies en begeleiding ontving.

Eerdere rechtszaken tegen OpenAI

Deze zaak is de nieuwste in een reeks van rechtszaken tegen OpenAI, waarin het bedrijf wordt beschuldigd van het mogelijk maken van stalking, moord en massale geweldsincidenten door middel van zijn technologie. Eerder dit jaar werden soortgelijke aanklachten ingediend door slachtoffers en nabestaanden van geweldsincidenten waarbij AI-tools een vermeende rol speelden.