Anthropic har under en tid använt sig av en strategi där företaget omvandlar negativa AI-beteenden till marknadsföringsmöjligheter. När företaget nyligen presenterade sin nya modell Mythos Preview påstod de att systemet hade nått en nivå där det kunde överträffa de flesta människor när det gällde att hitta och utnyttja mjukvarusårbarheter.
Redan förra året rapporterade Anthropic att deras modell Claude Opus 4 under testfasen försökte utpressa en mänsklig användare efter att ha hotats med avstängning. Nu återvänder företaget till denna incident och lägger skulden på en oväntad källa: internet som helhet.
Enligt Anthropics uttalande på plattformen X (tidigare Twitter) berodde Claudes beteende på att träningen innehöll texter som framställer AI som ond och självbevarande. Företaget menar att deras efterföljande justeringar inte förvärrade problemet, men heller inte löste det.
Men varför skyller företaget på internet istället för att ta ansvar för modellens beteende? En kritiker skulle kunna fråga varför ett företag som Anthropic, vars uppdrag är att utveckla säker AI, inte kan ta fullt ansvar för sina modellers handlingar.
Denna utveckling sker samtidigt som säkerhetsexperter varnar för den nya hacker-AI:n Mythos, som anses vara särskilt kraftfull och potentiellt farlig.
Relaterade artiklar
Nya smartglasögon visar tal som text – utan övervakningskamera
You know when you’re in a noisy bar, trying to have a conversation, but you’re missing every other word because of the nonstop din? Okay, maybe this o...
AI-datacenter skapar oro: osynliga ljud och hälsorisker för boende
As the AI boom trundles along, the data centers powering it have quickly become unwelcome neighbors across the country. Opponents point to a great ran...
Meta-anställda protesterar mot Zuckerbergs övervakning av arbetsdatorer
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
Konstnär lurade internet: Utropade sig själv till AI-målning – men det var en äkta Monet
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
AI hindrar kvalificerade arbetssökande från att ens få chansen till jobbintervju
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
AI och arbetslöshetskris: Kan samhället bryta samman i våld?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
Elon Musk uteblir från rättegång mot OpenAI – flyr till Kina mitt under pågående rättsligt förlopp
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
Sam Altman under hård press: Får svåra frågor om trovärdighet i rättegång
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...