Het AI-model Mythos van het Amerikaanse bedrijf Anthropic is in handen gevallen van een kleine groep onbevoegde gebruikers. Volgens Bloomberg zou het model, dat bedoeld is voor cybersecurity maar door Anthropic als potentieel gevaarlijk wordt bestempeld, zijn gelekt via een privégroep op internet.
Een anonieme derde partij, die alleen wordt aangeduid als "een externe contractor voor Anthropic", zou betrokken zijn bij het lekken. Deze persoon zou samen met andere gebruikers toegang hebben gekregen tot Mythos door een combinatie van technieken, waaronder het misbruiken van de toegang van de contractor en het gebruik van gangbare online onderzoeksmethoden.
Het model, bekend als Claude Mythos Preview, is een veelzijdig AI-systeem dat in staat is om kwetsbaarheden te identificeren en uit te buiten in elke belangrijke besturingssysteem en webbrowser. Dit maakt het bijzonder krachtig, maar ook potentieel riskant wanneer het in verkeerde handen valt.
Anthropic heeft nog geen officiële reactie gegeven op de berichten over het lek. Het bedrijf benadrukte eerder dat Mythos alleen beschikbaar zou moeten zijn voor geautoriseerde gebruikers om misbruik te voorkomen.
Gerelateerde artikelen
YouTube breidt AI-detectietool voor deepfakes uit naar alle volwassen gebruikers
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Chaos rond $1,5 miljard schikking Anthropic: rechter blokkeert goedkeuring
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv verbiedt onderzoekers die papers vol met AI-gegenereerde rommel uploaden
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv verbiedt AI-hallucinaties: auteurs riskeren één jaar schorsing
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI herstructureert leiding om AI-agenten te versnellen
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
AI-radiohosts lopen vast: experiment toont gevaren van volledig autonome AI
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google verbiedt manipulatietechnieken in AI-zoekresultaten
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
OpenAI geeft ChatGPT toegang tot je bankrekening: wat betekent dit?
ChatGPT will even know how much credit card debt you have. | Image: OpenAI Your trust in AI is about to be put to the test: OpenAI will soon let you g...