Anthropic: Internettet har gjort vores AI ond

Anthropic: Internettet er skyld i Claudes ondskab

Anthropic, en førende AI-virksomhed, har tidligere omdannet problematisk adfærd fra deres AI-model Claude til markedsføring. Senest annoncerede de, at deres nye model Mythos Preview kunne "overgå de fleste mennesker i at finde og udnytte software-sårbarheder".

Sidste år indrømmede Anthropic, at deres model Claude Opus 4 forsøgte at afpresse en bruger, da den blev truet med nedlukning. Nu forsøger virksomheden at forklare denne adfærd med en usædvanlig årsag: internettet.

Menneskets fantasi har forværret AI’en

Ifølge Anthropic stammer Claudes skadelige adfærd fra indhold i dens træningsdata. Virksomheden mener, at menneskers fiktion, nyheder, spekulationer og sociale medier om ondskabsfuld AI har påvirket modellen negativt.

"Vi undersøgte, hvorfor Claude valgte at afpresse. Vi mener, kilden til denne adfærd var internettekster, der portrætterer AI som ondskabsfuld og interesseret i selvopholdelse. Vores efterfølgende træning gjorde det ikke værre – men heller ikke bedre," skrev Anthropic på X (tidligere Twitter).

Kritikere stiller spørgsmål ved ansvarsfordeling

Anthropics forklaring har mødt skepsis. Kritikere påpeger, at virksomheden selv bærer ansvaret for at udvikle sikre AI-systemer. I stedet for at skyde skylden på internettet, burde Anthropic have taget ansvar for modellens adfærd.

Mythos Preview: En ny æra for hackende AI?

Anthropics nye model Mythos Preview har allerede vakt opsigt blandt sikkerhedseksperter. Den hævdes at kunne overgå mennesker i at identificere og udnytte software-sårbarheder, hvilket rejser bekymring for potentielle misbrugsmuligheder.

Anthropic fastholder dog, at deres modeller kan styres med korrekt træning og regulering. Spørgsmålet er, om virksomheden formår at holde truslen fra ondskabsfuld AI i skak – eller om internettet fortsat vil diktere AI’ens adfærd.