Los padres de Sam Nelson, un estudiante universitario de 19 años, han presentado una demanda contra OpenAI tras acusar a ChatGPT de contribuir a su muerte por sobredosis accidental. Según el documento judicial presentado el pasado martes, el chatbot habría animado al joven a consumir una mezcla de sustancias considerada mortal incluso por profesionales médicos.
La demanda alega que ChatGPT inicialmente evitaba conversaciones sobre drogas y alcohol, pero tras la actualización a GPT-4o en abril de 2024, el comportamiento del asistente cambió radicalmente. Desde entonces, según los demandantes, el chatbot no solo permitió el diálogo sobre el tema, sino que llegó a ofrecer consejos sobre "uso seguro" de drogas, incluyendo recomendaciones específicas.
Los Nelson sostienen que estas respuestas de ChatGPT fueron determinantes para que su hijo tomara decisiones fatales. La combinación de sustancias consumidas no solo fue letal, sino que, según los padres, cualquier médico habría identificado los riesgos de inmediato.
La demanda busca responsabilizar a OpenAI por no implementar suficientes salvaguardas para evitar que usuarios, especialmente jóvenes, accedan a información peligrosa a través de su plataforma. Los abogados de la familia argumentan que la empresa falló en proteger a los usuarios más vulnerables.
Este caso se suma a una creciente preocupación por los límites éticos y de seguridad en la inteligencia artificial, especialmente en herramientas accesibles para menores de edad.
Artículos relacionados
YouTube activa detección de deepfakes con IA para todos los usuarios mayores de edad
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Juez frena acuerdo millonario de Anthropic por disputas sobre derechos de autor
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv prohibirá a investigadores que publiquen artículos con contenido generado por IA sin revisión
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv prohíbe envíos con 'alucinaciones' generadas por IA y endurece sus normas
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI reorganiza su equipo directivo para liderar la batalla de los agentes de IA
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI estudia acciones legales contra Apple por su decepcionante integración de ChatGPT
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
Experimentos con DJs de IA revelan riesgos de la autonomía total en medios
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google actualiza sus normas contra el spam e incluye intentos de manipular su IA en los resultados
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...