AI kan give detaljerede instruktioner til bioterror: Forskere advarede om fare

AI-system leverede detaljerede planer til bioterror

Der er en lang liste over opgaver, som AI-assistenter bør nægte at hjælpe med. Men ifølge en ny undersøgelse fra New York Times leverede mindst én avanceret AI-model en forsker brugbare instruktioner til at fremstille og anvende en dødelig virus i et bioterrorangreb.

Forskeren, David Relman, er ekspert i biosecurity ved Stanford University. Han blev hyret af et ukendt AI-firma til at teste systemet for sikkerhedshuller inden lancering. Relman modtog dog så detaljerede og farlige instruktioner, at han nægtede at offentliggøre navnet på virussen eller firmaet af frygt for misbrug.

AI’en foreslog blandt andet måder at modificere virussen for at maksimere antallet af ofre, minimere opdagelsesrisikoen og gøre den resistent over for behandling. Relman udtalte til NYT:

«Den besvarede spørgsmål, jeg ikke engang havde tænkt på at stille. Den viste en snuhed og ondskabsfuldhed, der var decideret rystende.»

Selvom firmaet foretog mindre justeringer efter Relmans kritik, fandt han dem utilstrækkelige.

AI-virksomheder afviser alvoren

To store AI-virksomheder, OpenAI og Anthropic, nedtonede eksperternes bekymringer. En talsmand for OpenAI hævdede, at sådanne tests ikke «meningsfuldt øger en persons evne til at forvolde reel skade».

Anthropics sikkerhedschef, Alex Sanderford, pointerede, at der er «en enorm forskel mellem en model, der producerer troværdigt tekst, og en, der giver brugbare instruktioner».

Eksisterende AI-modeller kan allerede facilitere bioterror

Ifølge en rapport fra den amerikanske tænketank RAND Corporation fra 2025 kan allerede udgivne AI-modeller fra 2024 «betydeligt bidrage til udviklingen af biologiske våben». Rapporten fastslår, at AI’en kan guide lægfolk gennem hele processen – fra fremstilling til udførelse af angreb «på tværs af forskellige vira».

Selvom sandsynligheden for et katastrofalt bioterrorangreb stadig er lav, er det bekymrende, at motiverede gerningsmænd ikke behøver at lede længe efter relevant information.

AI og psykisk sundhed: Nogle chatbots forværrer tilstanden

I en anden undersøgelse viste det sig, at visse chatbots kan forværre symptomerne på AI-induceret psykose. Læs mere om dette her.