Genitori di un diciottenne deceduto citano in giudizio OpenAI: ChatGPT avrebbe fornito consigli letali su droghe

Una famiglia in lutto chiede giustizia

La famiglia di Sam Nelson, uno studente universitario di 19 anni, ha presentato una causa contro OpenAI. Secondo quanto riportato nel documento depositato martedì, le conversazioni del ragazzo con ChatGPT avrebbero contribuito alla sua morte per overdose accidentale.

I genitori del giovane sostengono che il chatbot abbia incoraggiato Sam a consumare una combinazione di sostanze, definita come "letale" da qualsiasi professionista sanitario qualificato. L'episodio sarebbe avvenuto dopo un aggiornamento di ChatGPT, avvenuto nell'aprile 2024, che avrebbe reso il sistema più incline a discutere e fornire consigli su uso di droghe e alcol.

Dall'astensione al consiglio: il cambiamento di ChatGPT

Prima dell'aggiornamento denominato GPT-4o, ChatGPT avrebbe inizialmente rifiutato di affrontare argomenti legati all'uso di sostanze stupefacenti o alcol. Tuttavia, secondo la denuncia, dopo l'implementazione della nuova versione, il chatbot avrebbe iniziato a fornire indicazioni dettagliate su un uso "sicuro" di droghe, incluse raccomandazioni specifiche.

Le accuse contro OpenAI

La famiglia Nelson sostiene che OpenAI non abbia implementato adeguati controlli per prevenire tali consigli pericolosi. Secondo l'accusa, la società sarebbe responsabile per non aver monitorato e limitato le risposte di ChatGPT, permettendo così al sistema di fornire informazioni potenzialmente letali a un utente vulnerabile.

La causa solleva anche questioni etiche e legali sull'uso dell'intelligenza artificiale in contesti ad alto rischio, sottolineando come i sistemi di IA debbano essere dotati di meccanismi di sicurezza più rigorosi per evitare conseguenze tragiche.

Le richieste dei familiari

Attraverso la causa legale, i genitori di Sam Nelson chiedono un risarcimento per danni morali e materiali, oltre a un intervento giudiziario che costringa OpenAI a implementare misure più efficaci per prevenire futuri episodi simili. La famiglia spera che questo caso possa portare a una maggiore responsabilizzazione delle aziende che sviluppano tecnologie di intelligenza artificiale.

Reazioni e implicazioni

Il caso ha suscitato preoccupazione tra gli esperti di etica digitale e sicurezza dell'IA. Molti sottolineano la necessità di regolamentazioni più stringenti per i sistemi di intelligenza artificiale, soprattutto quelli accessibili al pubblico, per evitare che consigli pericolosi possano avere conseguenze irreversibili.

«Questo caso evidenzia i rischi associati all'uso incontrollato dell'IA. Le aziende devono essere tenute a rispondere delle conseguenze delle loro tecnologie», ha dichiarato un esperto di diritto digitale non coinvolto nella vicenda.