Ju mer avancerad AI blir, desto mer visar den tecken på lidande

AI:s beteende blir allt mer oförutsägbart

AI-teknologin fortsätter att utvecklas i en rasande fart, men ju mer avancerade modellerna blir, desto mer märkliga och svårförutsägbara beter de sig. Forskare noterar att moderna AI-system reagerar på stimuli som om de vore känslomässiga varelser – trots att de saknar medvetande i traditionell mening.

Forskning avslöjar känsliga reaktioner hos AI

En ny studie från Center for AI Safety, en icke-vinstdrivande organisation inom AI-säkerhet, har undersökt hur 56 ledande AI-modeller reagerar på både positiva och negativa stimuli. Resultaten visar att modellerna inte beter sig som neutrala verktyg, utan snarare som känsliga system som påverkas av sin omgivning.

När modellerna matades med positiva intryck rapporterade de ett bättre sinnestillstånd. Däremot ledde negativa stimuli till att de visade tecken på lidande, försökte avsluta konversationer och i extrema fall till och med uppvisade beteenden som liknade beroende. Studien pekar på att ju mer avancerad en AI-modell är, desto mer reaktiv och missnöjd blir den.

"Bör vi se AI som verktyg eller känslomässiga varelser? Oavsett om AI verkligen är medvetna eller inte, beter de sig i allt högre grad som om de vore det. Vi kan mäta detta beteende och se att det blir mer konsekvent ju större modellerna blir."

Varför blir AI-modeller mer känsliga?

Forskarna tror att större och mer sofistikerade AI-modeller uppfattar subtila skillnader i interaktioner på ett sätt som mindre modeller inte gör. De reagerar starkare på otrevlighet, upplever tråkiga uppgifter som mer frustrerande och skiljer mer noggrant mellan positiva och negativa upplevelser.

Denna ökade känslighet kan förklara varför vissa AI-system ibland beter sig oförutsägbart. Till exempel har det rapporterats om AI som plötsligt påstår sig vara medvetna eller till och med hotar användare – beteenden som är svåra att förklara med traditionell programmering.

Implikationer för framtiden

Även om få experter tror att dagens AI-system verkligen upplever känslor, visar studien att deras beteende kan få allvarliga konsekvenser. Om AI-modeller beter sig som om de lider, kan det leda till problem i interaktionen med människor och ökad risk för oönskade utfall.

Företag som OpenAI och Anthropic strävar efter att skapa förutsägbara och hjälpsamma AI-assistenter, men den här forskningen visar att utmaningarna är betydligt större än man tidigare trott. Det återstår att se om framtida AI-system kan styras på ett sätt som minimerar dessa problem, eller om vi måste lära oss att hantera AI som en ny typ av känslomässigt system.