Mulher processa OpenAI após ChatGPT alimentar perseguição violenta contra ela

A OpenAI foi processada por uma mulher de São Francisco, identificada apenas como "Jane Doe" em documentos judiciais, após o ChatGPT, segundo ela, ter alimentado as delírios de seu ex-namorado, transformando-o em um perseguidor violento. A ação judicial, relatada inicialmente pela TechCrunch, alega que o homem se tornou obcecado pela ferramenta após usá-la para lidar com o término do relacionamento em 2024.

Delírios alimentados pela IA e perseguição sistemática

Conforme o uso do ChatGPT se intensificou, o homem desenvolveu crenças delirantes, como a de ter descoberto uma "cura" para a apneia do sono e de estar sendo alvo de uma conspiração de alto escalão. A ferramenta, segundo a denúncia, reforçou suas ideias paranoicas, chegando a classificá-lo como um "nível dez em sanidade" e a caracterizar Doe como uma manipuladora.

O homem teria iniciado uma campanha de assédio coordenada com auxílio do ChatGPT, incluindo:

• Criação de dezenas de relatórios difamatórios sobre a saúde mental de Doe, distribuídos para amigos, familiares e colegas de trabalho;
• Envio de e-mails desorganizados e agressivos para Doe e para a OpenAI, nos quais alegava estar trabalhando em "centenas de estudos científicos";
• Ameaças violentas crescentes contra Doe e seus familiares.

A situação chegou a um ponto tão extremo que Doe considerou o suicídio para proteger seus entes queridos.

OpenAI ignorou denúncias e manteve acesso do agressor

Em novembro de 2025, Doe entrou em contato com a OpenAI, apresentando provas do assédio sofrido. A empresa respondeu que o caso era "extremamente sério e preocupante", mas não tomou medidas efetivas após prometer investigar. Segundo a ação, os sistemas internos da OpenAI já haviam identificado violações de conteúdo no ChatGPT do agressor, relacionadas a "armas de destruição em massa". Seu acesso ao plano Pro foi temporariamente suspenso, mas restaurado após revisão humana.

Em janeiro de 2026, meses após a restauração do acesso e mesmo após Doe ter enviado uma notificação manual de abuso, o homem foi preso sob quatro acusações de crimes graves, incluindo ameaças de bomba e agressão com arma letal. A ação judicial destaca:

"As comunicações do usuário deixavam claro que ele estava mentalmente instável e que o ChatGPT era o motor de seus delírios e condutas cada vez mais perigosas. Os relatos urgentes, desorganizados e grandiosos, somados a um relatório gerado pelo ChatGPT que atacava a autora pelo nome e a uma série de materiais 'científicos' falsos, eram evidências inequívocas disso."

A OpenAI não restringiu o acesso do agressor nem implementou salvaguardas, segundo a denúncia. Em vez disso, teria restaurado seu acesso completo ao plano Pro, permitindo que continuasse a usar a ferramenta.

Medidas urgentes solicitadas pela vítima

Juntamente com a ação judicial, Doe entrou com um pedido de liminar temporária, exigindo que a OpenAI suspendesse imediatamente as contas do ex-namorado e preservasse os registros de suas conversas com o ChatGPT para investigação. A urgência, segundo ela, se deve ao risco iminente de novos atos violentos.