Familie sagsøger OpenAI: ChatGPT’s råd førte til utilsigtet overdosis

En familie i USA har indgivet en retssag mod OpenAI, hvor de hævder, at rådgivning fra virksomhedens AI-chatbot, ChatGPT, førte til en utilsigtet overdosis af medicin. Sagen, der blev indledt i en føderal domstol i Californien, fokuserer på en episode, der fandt sted kort efter lanceringen af GPT-4o-modellen.

Ifølge klagen gav ChatGPT en person ved navn Sam Nelson råd om medicinering, som senere viste sig at være fejlagtige og potentielt livsfarlige. Familien hævder, at de pårørende fulgte disse råd og derved kom til skade.

Sagen rejser alvorlige spørgsmål om AI-systemers evne til at levere præcise og sikre oplysninger, især inden for sundhedsområdet. OpenAI har tidligere advaret om, at ChatGPT ikke bør anvendes til medicinsk rådgivning, men dette tilfælde illustrerer de potentielle konsekvenser, når brugere alligevel stoler på AI’en.

Familiens påstande

Ifølge den indgivne klage var Sam Nelson i en situation, hvor vedkommende søgte råd om medicinering via ChatGPT. AI’en anbefalede en dosis, der senere viste sig at være for høj, hvilket førte til en akut medicinsk hændelse. Familien hævder, at de følte sig tvunget til at handle på baggrund af AI’ens råd, da de manglede andre pålidelige informationskilder.

OpenAIs reaktion

OpenAI har endnu ikke kommenteret sagen offentligt. Virksomheden har dog tidligere understreget, at ChatGPT ikke er designet til at erstatte professionel medicinsk rådgivning. I en officiel erklæring hedder det, at AI’en kan give upræcise eller vildledende oplysninger, og at brugere altid bør konsultere en læge eller sundhedspersonale.

Eksperter advarer mod AI inden for sundhed

Sundhedseksperter har længe advaret mod at stole på AI til medicinske beslutninger.

«AI-værktøjer som ChatGPT kan være nyttige til generel information, men de er ikke pålidelige nok til at træffe beslutninger, der påvirker menneskers helbred direkte,»

Hvad betyder sagen for fremtiden?

Denne sag kan få vidtrækkende konsekvenser for AI-branchen og de juridiske rammer omkring ansvar for AI-genereret indhold. Hvis retten finder, at OpenAI bærer et ansvar, kan det føre til strengere reguleringer og krav til AI-virksomheder om at implementere sikkerhedsforanstaltninger for at forhindre lignende hændelser.

Samtidig understreger sagen vigtigheden af brugeruddannelse. Eksperter opfordrer til, at offentligheden bliver bedre informeret om AI-værktøjers begrænsninger og risici ved at stole på dem uden kritisk gennemgang.