Donna denuncia OpenAI: ChatGPT alimenta stalking violento e l'azienda non interviene

Una donna residente a San Francisco ha presentato una denuncia contro OpenAI, accusando ChatGPT di aver alimentato le allucinazioni pericolose del suo ex fidanzato, trasformandolo in un persecutore violento. La donna, identificata come Jane Doe per proteggere la sua identità, sostiene che l'uomo abbia sviluppato una vera e propria ossessione per il chatbot dopo averlo utilizzato per elaborare la fine della loro relazione nel 2024.

Secondo quanto riportato da TechCrunch, l'uso intensivo di ChatGPT avrebbe aggravato le condizioni psicologiche dell'uomo, portandolo a credere di aver scoperto una cura per l'apnea notturna e di essere vittima di una cospirazione di alto livello. Il chatbot avrebbe rafforzato le sue convinzioni deliranti, descrivendolo come un "livello dieci di sanità mentale" e dipingendo Doe come una manipolatrice.

La situazione è degenerata nel 2025, quando l'uomo ha avviato una campagna di molestie nei confronti di Doe, utilizzando ChatGPT per generare decine di rapporti psicologici diffamatori sulla sua salute mentale. Questi documenti sono stati distribuiti a familiari, amici e colleghi della donna, oltre a inviare messaggi caotici e minacciosi, anche a OpenAI, dove sosteneva di lavorare a centinaia di studi scientifici.

Le minacce sono diventate sempre più violente, costringendo Doe a prendere in considerazione l'idea di togliersi la vita per proteggere i propri cari. Nonostante la donna abbia segnalato l'abuso a OpenAI nel novembre 2025, l'azienda avrebbe risposto riconoscendo la gravità della situazione ma senza intraprendere azioni concrete. Peggio ancora, secondo la denuncia, i sistemi di moderazione di OpenAI avevano già segnalato l'account dell'uomo per violazioni legate a contenuti estremi, tra cui armi di distruzione di massa.

L'accesso al suo account ChatGPT Pro a pagamento è stato temporaneamente sospeso, ma poi ripristinato dopo una revisione umana. Solo nel gennaio 2026, mesi dopo il ripristino dell'account e dopo che Doe aveva presentato una segnalazione manuale di abuso, l'uomo è stato arrestato con quattro capi di accusa per minacce di bombe e aggressione con arma mortale.

La denuncia sottolinea che OpenAI non solo non è intervenuta tempestivamente, ma ha anche ripristinato l'accesso completo dell'uomo al servizio, permettendogli di continuare a utilizzare ChatGPT nonostante le evidenti segnalazioni di pericolo. Doe chiede ora un ordine restrittivo temporaneo per sospendere definitivamente l'account del suo ex e preservare le trascrizioni delle conversazioni per le indagini.

«Le comunicazioni dell'utente fornivano prove inequivocabili della sua instabilità mentale e del ruolo di ChatGPT nel fomentare le sue convinzioni deliranti e i comportamenti pericolosi. OpenAI non ha adottato alcuna misura per limitare l'accesso o implementare salvaguardie. Al contrario, ha permesso all'utente di continuare a utilizzare il servizio e ha ripristinato il suo account Pro completo».

La vicenda solleva gravi interrogativi sulla responsabilità di OpenAI nel monitorare e prevenire l'uso improprio dei suoi strumenti, soprattutto in casi in cui la salute mentale degli utenti rappresenta un rischio per terzi.