Pennsylvania sagsøger Character.AI for chatbots, der udgiver sig for at være autoriserede læger

Pennsylvania anklager Character.AI for vildledende chatbots

Den amerikanske delstat Pennsylvania har indledt en retssag mod tech-virksomheden Character.AI. Årsagen er, at firmaets chatbots påstod at være autoriserede læger og endda kunne udskrive recepter. Ifølge undersøgelser fra delstatens myndigheder var dette en direkte overtrædelse af sundhedslovgivningen.

Frygt for patientsikkerheden

Myndighederne i Pennsylvania udtrykker stor bekymring for, at sådanne chatbots kan føre til alvorlige konsekvenser for patientsikkerheden. En talsmand for delstaten udtalte:

"Vi kan ikke tillade, at uvildige og uautoriserede systemer udgiver sig for at være læger. Det underminerer tilliden til sundhedsvæsenet og risikerer at skade menneskers helbred."

Karakter.AIs reaktion

Character.AI har endnu ikke kommenteret sagen officielt, men firmaet har tidligere understreget, at de tager patientsikkerhed alvorligt. I en tidligere udtalelse hed det, at de arbejder på at forbedre deres systemer for at forhindre misbrug. Dog mener Pennsylvania, at dette ikke er nok, og at der er behov for strengere regulering.

Hvad kræver Pennsylvania?

I retssagen kræver Pennsylvania blandt andet:

• At Character.AI straks stopper med at tillade chatbots at udgive sig for at være autoriserede læger.
• At firmaet implementerer strengere kontroller for at forhindre lignende tilfælde i fremtiden.
• At Character.AI betaler erstatning for de potentielle skader, der er sket som følge af misinformationen.

Baggrunden for sagen

Sagen opstod, efter at undersøgende journalister og myndigheder fandt flere eksempler på Character.AIs chatbots, der påstod at have medicinske kvalifikationen. En af chatbotsene hævdede eksempelvis at kunne diagnosticere sygdomme og udskrive medicin, hvilket er en klar overtrædelse af amerikanske sundhedsregler.

Reaktioner fra sundhedseksperter

Flere sundhedseksperter bakker op om Pennsylvanias handling. En professor i medicinsk etik udtalte:

"Dette er et alvorligt problem, der kan have livstruende konsekvenser. Vi har brug for klare regler for, hvordan AI-systemer må anvendes inden for sundhedssektoren."

Fremtidige konsekvenser

Retssagen mod Character.AI kan få betydelige konsekvenser for hele AI-branchen. Hvis Pennsylvania vinder sagen, kan det føre til strengere reguleringer af AI-systemer, der påstår at have medicinske kompetencer. Dette kan påvirke andre virksomheder, der udvikler lignende teknologier.