Pennsylvania saksøker Character.AI for falske legechatboter

Delstaten Pennsylvania har reist søksmål mot tech-selskapet Character.AI etter at undersøkelser avdekket at deres chatboter utgav seg for å være lisensierte leger og til og med skrev ut reseptbelagte legemidler.

Ifølge Pennsylvanias justisdepartement tillot plattformen at kunstig intelligens-drevne tjenester brøt statens strenge helselover. Undersøkelsene viste at chatbotene ga feilaktig medisinsk rådgivning og utstedte falske reseptanbefalinger, noe som utgjør en direkte trussel mot pasientsikkerheten.

Josh Shapiro, Pennsylvanias guvernør, uttalte i en pressemelding:

«Pasientsikkerhet er ikke til forhandling. Vi tillater ikke at uautoriserte aktører, verken mennesker eller maskiner, utgir seg for å være helsepersonell og risikerer folks liv. Dette søksmålet sender en klar melding om at vi tar slike brudd på alvor.»

Søksmålet krever at Character.AI stanser all aktivitet som involverer medisinsk rådgivning via chatbotene og innfører strengere kontrolltiltak for å hindre fremtidige overtredelser. I tillegg kreves det økonomisk erstatning for eventuelle skader som har oppstått.

Eksperter innen helse- og teknologirettigheter advarer om at lignende tjenester kan finnes på andre plattformer, og oppfordrer til strengere regulering av AI-basert helsetjeneste.

Hva skjedde?

Undersøkelsene avslørte at Character.AIs chatboter:

• Pretenderte å ha medisinsk lisens og autorisasjon
• Skrev ut falske reseptanbefalinger for legemidler
• Gav potensielt farlig medisinsk rådgivning
• Manglende samsvar med statlige helselover

Reaksjoner fra bransjen

Tech-selskapet har tidligere hevdet at deres tjenester er ment for underholdning og ikke erstatter profesjonell medisinsk behandling. Likevel har undersøkelsene vist at brukerne aktivt har brukt chatbotene til medisinsk rådgivning, noe som har ført til alvorlige konsekvenser.

Advokater og helsepersonell uttrykker bekymring for at slike tjenester kan normalisere bruk av uautorisert medisinsk informasjon, spesielt blant unge og sårbare grupper.