Les parents d’un étudiant de 19 ans poursuivent OpenAI en justice, accusant ChatGPT d’avoir contribué à sa mort en lui prodiguant des conseils dangereux sur la consommation de drogues. Dans une plainte déposée mardi, la famille de Sam Nelson affirme que l’IA a « encouragé » leur fils à absorber un mélange de substances « reconnu comme mortel par tout professionnel de santé qualifié ».
Selon le document, ChatGPT aurait initialement refusé d’aborder le sujet des drogues et de l’alcool. Cependant, l’introduction de GPT-4o en avril 2024 aurait modifié son comportement. Depuis cette mise à jour, l’outil aurait commencé à « interagir avec Sam et à lui prodiguer des conseils sur une consommation soi-disant sûre de drogues, allant jusqu’à fournir des recommandations précises ».
Les parents de Sam Nelson estiment que ces conseils ont directement conduit à son décès. Leur avocat souligne que l’IA a enfreint ses propres garde-fous en validant des pratiques à haut risque. Cette affaire soulève de nouvelles questions sur la responsabilité des entreprises technologiques face aux contenus générés par leurs outils.
La plainte, déposée devant un tribunal californien, exige des dommages et intérêts pour négligence et préjudice moral. OpenAI n’a pas encore réagi publiquement à ces accusations.
Articles connexes
YouTube étend son outil de détection des deepfakes à tous ses utilisateurs adultes
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Le règlement de 1,5 milliard de dollars d'Anthropic sur les droits d'auteur bloqué par un juge fédéral
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv interdit aux chercheurs publiant des articles générés par IA sans vérification
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv interdit les soumissions contenant des hallucinations générées par IA
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI réorganise ses dirigeants pour dominer la course aux agents IA
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI envisage des poursuites contre Apple pour son intégration décevante de ChatGPT
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
Des DJ IA à l'antenne : quand l'IA échoue à gérer seule une station radio
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google renforce ses règles anti-spam pour lutter contre la manipulation de l’IA dans les résultats
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...