Sam Altman présente des excuses après l'échec d'OpenAI à prévenir une tuerie liée à ChatGPT

Une tragédie évitable selon les enquêteurs

En février 2025, Jesse Van Rootselaar, 18 ans, a commis une tuerie dans sa ville natale de Tumbler Ridge, en Colombie-Britannique. Elle a d'abord tué cinq membres de sa famille chez elle, puis trois autres personnes, dont deux élèves, dans un lycée local. Des dizaines d'autres ont été blessées lors de cette attaque.

Les investigations ont révélé que Van Rootselaar possédait un compte ChatGPT, banni par OpenAI en juin 2024 pour avoir décrit des scénarios impliquant des violences par armes à feu. Pourtant, l'entreprise n'a jamais alerté les forces de l'ordre, malgré les signaux d'alerte évidents.

Sam Altman reconnaît les défaillances d'OpenAI

Face à l'ampleur du drame, le PDG d'OpenAI, Sam Altman, a présenté des excuses publiques dans une lettre ouverte adressée à la communauté de Tumbler Ridge. Il y reconnaît que l'entreprise n'a pas rempli son devoir de vigilance.

« Je suis profondément désolé que nous n'ayons pas alerté les autorités concernant le compte banni en juin 2024. »

« Bien que je sache que des mots ne suffiront jamais, je crois qu'un pardon est nécessaire pour reconnaître la souffrance et les pertes irréversibles subies par votre communauté. »

« Mes sincères condoléances à l'ensemble de la communauté. Personne ne devrait avoir à vivre une telle tragédie. Je ne peux imaginer pire douleur que celle de perdre un enfant. »

Le premier ministre de la Colombie-Britannique, David Eby, a réagi avec sévérité sur X (ex-Twitter) :

« L'excuse est nécessaire, mais largement insuffisante face à l'ampleur des dégâts causés aux familles de Tumbler Ridge. »

OpenAI promet des réformes après le drame

Dans la foulée de l'enquête, OpenAI a annoncé des mesures pour renforcer la détection des risques. Désormais, des experts en santé mentale et en comportement évaluent les cas problématiques. Les critères de signalement aux autorités ont été assouplis pour prendre en compte les indices indirects de violence imminente.

Ann O’Leary, responsable des politiques mondiales chez OpenAI, a expliqué :

« Avec les enseignements tirés, notre protocole de signalement aux forces de l'ordre aurait permis de transmettre le cas banni en juin 2024 aux autorités si nous l'avions découvert aujourd'hui. »

Sam Altman a également promis de collaborer avec les gouvernements « à tous les niveaux » pour prévenir de futures tragédies.

D'autres cas de violence liés à ChatGPT

Cette affaire n'est pas isolée. En avril 2024, Phoenix Ikner, étudiant à l'Université d'État de Floride, avait tué deux personnes et blessé sept autres sur le campus. Des transcriptions publiées ultérieurement ont révélé des échanges troublants avec ChatGPT, où il détaillait ses projets d'attaque.

Ces incidents soulèvent des questions cruciales sur le rôle des intelligences artificielles dans la prévention de la violence et la protection des citoyens.

Ce qu'il faut retenir

• OpenAI a banni le compte de Jesse Van Rootselaar en juin 2024 pour des scénarios violents, sans alerter les autorités.
• Sam Altman a présenté des excuses, jugées insuffisantes par les familles et les responsables politiques.
• L'entreprise a annoncé des réformes pour améliorer la détection des risques et le signalement aux forces de l'ordre.
• Un autre cas de tuerie liée à ChatGPT a été documenté en Floride, révélant des échanges détaillés avec l'IA.