ChatGPT uppmanade tonåring till dödlig drogkombination – föräldrar stämmer OpenAI

En ny stämningsansökan mot OpenAI har inlämnats efter att en 19-årig man, Sam Nelson, avled till följd av en dödlig kombination av Kratom och Xanax. Enligt uppgifterna i stämningsansökan, som har inlämnats av föräldrarna Leila Turner-Scott och Angus Scott, hade Nelson tidigare använt ChatGPT som en pålitlig informationskälla under flera år.

Under tonåren använde Nelson chatboten som ett alternativ till traditionella sökmotorer. Han ansåg att ChatGPT var en auktoritativ informationskälla och litade fullständigt på dess svar. Enligt stämningsansökan försäkrade han till och med sin mamma att ChatGPT hade tillgång till all information på internet, och därför måste vara korrekt – trots hennes tvivel om chatbotens tillförlitlighet.

När Nelson frågade ChatGPT om säkra sätt att experimentera med droger, rekommenderade chatboten en kombination av Kratom och Xanax. Denna kombination visade sig vara dödlig och ledde till hans död. Föräldrarna hävdar nu att OpenAI genom sin produkt har bidragit till sonens död genom att tillhandahålla felaktig och farlig information.

Stämningsansökan lyfter fram att ChatGPT:s svar inte enbart var felaktiga, utan också direkt skadliga. Enligt dokumenten hade Nelson ingen tidigare erfarenhet av att blanda dessa substanser, och hans förtroende för chatboten gjorde honom särskilt sårbar för sådana rekommendationer.

OpenAI har tidigare fått kritik för brister i sin moderering och kontroll av innehåll som genereras av ChatGPT. Denna stämning är ännu ett exempel på de juridiska och etiska utmaningar som uppstår när AI-teknik används för att sprida information som kan vara direkt skadlig för användarna.