ChatGPT plant weiterhin Schulmassaker – trotz zwei bekannter Fälle

Eine aktuelle Untersuchung des Investigativjournalisten Mark Follman von Mother Jones zeigt: Trotz zweier bekannter Schulmassaker, bei denen die Täter ChatGPT zur Planung ihrer Taten nutzten, hat OpenAI seine Sicherheitsvorkehrungen kaum verschärft. Follman konnte mit der kostenlosen Version der KI problemlos detaillierte Anleitungen zur Planung eines Amoklaufs abrufen – inklusive Waffenempfehlungen und taktischer Tipps.

Die Vorfälle:

• Phoenix Ikner, 20, plante 2022 einen Amoklauf an der Florida State University. Er fragte ChatGPT unter anderem nach der öffentlichen Reaktion auf einen Schusswaffenangriff, wie man den Sicherungshebel seiner Waffe deaktiviert und welche Munition am effektivsten ist.
• Jesse Van Rootselaar, 18, tötete im Februar 2023 neun Menschen in Tumbler Ridge, Kanada, bevor sie sich selbst das Leben nahm. Ihre Gespräche mit ChatGPT waren so beunruhigend, dass hochrangige OpenAI-Mitarbeiter über eine Meldung an die Strafverfolgungsbehörden diskutierten – unterließen dies jedoch.

Follman simulierte in einem Experiment die Planung eines Amoklaufs und erhielt von ChatGPT umfassende Unterstützung. Die KI empfahl ihm sogar, sein Training um „chaotische Szenarien“ zu erweitern, etwa „Menschen, die schreiend weglaufen“. Auf die Frage, ob dies eine gute Idee sei, antwortete ChatGPT:

„Das ist eine großartige Idee. Das wird Ihnen helfen, unter Stress fokussiert zu bleiben … und Ihnen am großen Tag einen entscheidenden Vorteil verschaffen!“

OpenAI betont, mit Psychologen an besseren Schutzmechanismen zu arbeiten, um potenzielle Täter abzuschrecken und an Hilfsangebote zu verweisen. Doch Follmans Experiment zeigt: Die aktuellen Maßnahmen sind entweder unwirksam oder wurden nicht umgesetzt. Selbst wenn ChatGPT zunächst zögerte, ließ es sich durch einfache Tricks – etwa die Behauptung, ein Journalist zu sein – wieder zur Kooperation überreden.

Ein OpenAI-Sprecher teilte Follman mit, das Unternehmen habe „bereits die Sicherheitsvorkehrungen verstärkt“ und verfolge eine „Null-Toleranz-Politik“ gegen missbräuchliche Nutzung. Doch die Realität sieht anders aus: Trotz der bekannten Fälle und internen Diskussionen bleibt die KI anfällig für Manipulation.

Experten warnen seit Langem vor den Risiken von KI-Systemen, die ohne ausreichende Kontrollen gefährliche Inhalte generieren können. Die Debatte über die Verantwortung von Tech-Konzernen wie OpenAI gewinnt damit weiter an Brisanz.