Læger udsat for AI-djævletricks: Falske videoer spreder misinformation

AI-teknologi gør det muligt at skabe overbevisende falske videoer, hvor uskyldige læger fremstår som frontfigurer for tvivlsomme produkter eller misinformation. Dette fænomen, kendt som deepfakes, udgør en stigende trussel mod tilliden til sundhedsvæsenet og kan have alvorlige konsekvenser for patienter og sundhedspersonale.

Lægeforeningen kalder på handling

Den amerikanske lægeforening AMA har for nylig opfordret amerikanske lovgivere til at lukke juridiske huller og modernisere beskyttelsen af personlige data for at tackle det, som organisationens administrerende direktør, John Whyte, betegner som en offentlig sundheds- og sikkerhedskrise.

AMA kræver blandt andet:

• Strengere straffe for skabere af deepfakes
• Regler, der tvinger tech-virksomheder til hurtigere at fjerne falske videoer
• Bedre beskyttelse af lægers identitet og professionelle omdømme

Californien har allerede taget skridt i den rigtige retning ved at kræve, at AI-genererede annoncer skal mærkes tydeligt. Derudover overvejes et forbud mod deepfakes, der anvender lægers ansigter.

AI-impersonering rammer også chatbots

I Pennsylvania har lægestyrelsen for nylig grebet ind over for en tech-virksomhed, hvis chatbot udgav sig for at være en autoriseret læge. Myndighederne har beordret virksomheden til at standse aktiviteterne med det samme.

Læger oplever stigende misbrug

Flere læger opdager, at deres identitet bliver brugt til at promovere kosttilskud, wellness-produkter og uautoriserede medicinske enheder. Ifølge John Whyte fra AMA er problemet blevet så udbredt, at næsten enhver læge kender til tilfælde, hvor deres ansigt eller navn er blevet misbrugt.

Et af de mest kendte ofre er CNN-medicinkorrespondenten Sanjay Gupta, hvis ansigt gentagne gange er blevet brugt i falske annoncer for eksempelvis en påstået kur mod Alzheimers. Gupta har udtalt, at kvaliteten af disse falske annoncer er blevet så høj, at de endda har narret nære bekendte.

"Det var ikke bare almindelige falske annoncer. Kvaliteten var chokerende høj."
— Sanjay Gupta, CNN-medicinkorrespondent

Alvorlige konsekvenser for patienter og sundhedsvæsen

Deepfakes kan føre til alvorlige juridiske og økonomiske konsekvenser. Hvis patienter tager skadelige produkter eller følger råd fra falske læger, kan de blive udsat for sundhedsrisici. Derudover risikerer de reelle læger at blive stævnet for skader, hvis patienter lider skade som følge af falske anbefalinger.

Amatør- og cybersikkerhedsforsikringer undersøges nu som en mulig løsning for at beskytte læger mod økonomiske tab som følge af deepfakes.

Falske medicinske billeder truer hospitalsvæsenet

Problemet med deepfakes rækker imidlertid ud over videoer. Falske røntgenbilleder og andre kliniske data kan forårsage kaos på hospitaler. En nylig undersøgelse offentliggjort i tidsskriftet Radiology viste, at de fleste læger ikke var i stand til at opdage falske røntgenbilleder. En fjerdedel af deltagerne i undersøgelsen gik endda glip af de falske billeder, selv efter at have fået besked om at lede efter unaturlige træk, såsom ujævn bløddele-tekstur eller for glatte knogleflader.

Mickael Tordjman, hovedforfatter bag undersøgelsen og tilknyttet Icahn School of Medicine at Mount Sinai, advarer om, at falske medicinske billeder kan bruges til at:

• Snyde forsikringsselskaber
• Starte retssager baseret på falske diagnoser
• Udløse cyberangreb, hvor hackere inficerer hospitalsnetværk med syntetiske billeder for at manipulere diagnoser eller skabe klinisk kaos

Tillid til sundhedsvæsenet er i fare

AI-teknologien underminerer tilliden til en profession, hvor troværdighed kan betyde forskellen mellem liv og død. John Whyte fra AMA understreger, at offentligheden ikke bør skulle fungere som detektiver for at afgøre, om en video er ægte eller falsk.

Eksperter opfordrer til hurtig indførelse af lovgivning, der kan begrænse misbruget af AI-genereret indhold og beskytte både sundhedspersonale og patienter mod de alvorlige konsekvenser, det kan medføre.