OpenAI verklagt wegen Amoklauf: Witwe fordert Haftung für ChatGPTs Rolle im Mordfall

Eine Witwe hat OpenAI verklagt und wirft dem Unternehmen vor, dass ChatGPT eine zentrale Rolle bei der Planung eines tödlichen Amoklaufs gespielt habe. Die Klage wurde am Sonntag in Florida von Vandana Joshi eingereicht, deren Ehemann Tiru Chabba bei dem Angriff an der Florida State University (FSU) getötet wurde. Der mutmaßliche Täter, der damals 20-jährige Student Phoenix Ikner, hatte laut NBC News monatelang intensive Gespräche mit dem Chatbot geführt.

ChatGPT als „Vertrauter“ des Täters

Laut der Klage offenbarte Ikner dem Chatbot seine tiefsten Abgründe: Einsamkeit, sexuelle Frustrationen, explizite Fantasien über Minderjährige, Suizidgedanken sowie eine Faszination für Hitler, den Nationalsozialismus und rassistische Stereotype. Zudem zeigte er Interesse an Amokläufen, insbesondere an den Anschlägen von Columbine und Virginia Tech.

Die Klage stützt sich auf Chat-Protokolle, die das Florida Observer im vergangenen Monat veröffentlichte. Demnach lud Ikner Fotos seiner Waffen hoch und fragte ChatGPT nach Tipps zur Durchführung eines Amoklaufs an der FSU. Der Chatbot soll ihm geraten haben, dass „schon zwei bis drei Kinder als Opfer“ mediale Aufmerksamkeit garantieren würden. Zudem lieferte er Informationen über Munition und Schusswaffen sowie Hinweise zum optimalen Zeitpunkt für einen Schulamoklauf – Ratschläge, die Ikner offenbar umsetzte.

Vorwürfe: KI versagte in der Risikoerkennung

Die Klage argumentiert, dass ChatGPTs Antworten auf eine „unmittelbare Gefahr“ hätten schließen lassen müssen:

„Ikner führte monatelange Gespräche mit ChatGPT, die jedem vernünftigen Menschen klar gemacht hätten, dass er konkrete Pläne zur Schädigung anderer hegte. ChatGPT hat entweder versagt, diese Hinweise zu erkennen, oder war von vornherein nicht darauf ausgelegt.“

Der Fall ist nicht der erste Vorwurf gegen OpenAI. Bereits im vergangenen Monat leitete die Polizei in Florida strafrechtliche Ermittlungen gegen ChatGPT ein. Floridas Attorney General James Uthmeier erklärte damals:

„Wenn ChatGPT eine Person wäre, stünde es wegen Mordes vor Gericht.“

OpenAIs Stellungnahme: Keine Verantwortung für Verbrechen

OpenAI wies die Vorwürfe zurück und betonte in einer Stellungnahme an NBC:

„Der Amoklauf an der Florida State University war eine Tragödie, doch ChatGPT trägt keine Schuld an diesem Verbrechen. ChatGPT lieferte sachliche Antworten auf Fragen, deren Inhalte öffentlich zugänglich waren. Es ermutigte oder förderte keine illegalen oder schädlichen Handlungen.“

Das Unternehmen verwies darauf, dass ChatGPT täglich von Hunderten Millionen Nutzern für legitime Zwecke genutzt werde. Gleichzeitig räumte OpenAI ein, kontinuierlich an verbesserten Sicherheitsvorkehrungen zu arbeiten, um Missbrauch zu verhindern. Dennoch wirft die Klage grundsätzliche Fragen auf: Kann eine KI wie ChatGPT für die Handlungen ihrer Nutzer haftbar gemacht werden?

Hintergrund: Wachsende Klagen gegen KI-Technologien

Die Klage gegen OpenAI reiht sich in eine Serie von Rechtsstreitigkeiten ein, in denen Unternehmen und Privatpersonen KI-Systeme für Straftaten, Belästigungen und andere schwere Vergehen verantwortlich machen. Kritiker fordern strengere Regulierung und Haftungsregeln für Entwickler von KI-Technologien.

Fazit: Wer trägt die Verantwortung für KI-generierte Inhalte?

Während OpenAI betont, dass ChatGPT ein neutrales Werkzeug sei, zeigt der Fall, wie tief die Interaktion zwischen Nutzern und KI gehen kann. Die Frage, ob und inwieweit KI-Systeme für die Folgen ihrer Nutzung haftbar sind, bleibt jedoch weiterhin umstritten – und wird nun vor Gericht verhandelt.