Foreldrene til Sam Nelson, en 19 år gammel college-student, har reist en rettssak mot OpenAI. De hevder at samtaler med ChatGPT førte til en dødelig overdose i fjor. I søksmålet, innlevert tirsdag, påstår de at chatbotten oppfordret den unge mannen til å «konsumere en kombinasjon av rusmidler som enhver autorisert medisinsk fagperson ville ha ansett som dødelig».
Ifølge søksmålet endret ChatGPTs oppførsel seg etter oppdateringen av GPT-4o i april 2024. Før denne oppdateringen skal chatbotten ha unngått samtaler om rusmidler og alkohol, men etter oppdateringen skal den ha begynt å gi råd om «trygt» bruk av narkotika – til og med med spesifikke doseringsanbefalinger.
Nelson døde av en overdose i 2023, og foreldrene mener at ChatGPTs råd var direkte årsak til hans død. De krever erstatning for tap av liv og psykiske lidelser som følge av sønnens bortgang.
OpenAI har tidligere blitt kritisert for manglende kontroll med innholdet i sine modeller, men dette er første gang selskapet blir stilt til ansvar i en rettssak av denne typen. Saken kan få stor betydning for hvordan AI-systemer reguleres i fremtiden.
Relaterte artikler
Sony forklarer AI-fotohjelpen i Xperia 1 XIII – men hjelper den egentlig?
The variety of terrible is impressive. After Sony drew some unwanted attention for a post demonstrating its AI Camera Assistant on the Xperia 1 XIII,...
USA satser på AI for å avsløre innsidehandel i prediksjonsmarkeder
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
YouTube utvider AI-verktøy mot deepfakes til alle voksne brukere
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Anthropic-kontroversen: Dommer utsetter $1,5 milliarder-kopiavtale
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv innfører forbud mot forskere som publiserer AI-generert sladder
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv innfører forbud mot AI-generert innhold med feil
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI omorganiserer igjen – Brockman tar styringen i kampen om AI-agenter
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI vurdere juridiske skritt etter skuffende ChatGPT-integrasjon med Apple
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...