Anthropics gefährlichstes KI-Modell in falsche Hände geraten

Unautorisierter Zugriff auf Anthropics Mythos-KI

Das KI-Modell Mythos von Anthropic, ein leistungsstarkes Cybersecurity-Tool, das das Unternehmen als potenziell gefährlich in falschen Händen einstufte, wurde von einer kleinen Gruppe unautorisierter Nutzer genutzt. Wie Bloomberg berichtet, gelangte die Gruppe über eine Mischung aus internen Zugriffen und gängigen Hacking-Tools an das System.

Ein nicht namentlich genannter Drittanbieter-Mitarbeiter von Anthropic, der nur als „ein externer Auftragnehmer“ bezeichnet wird, bestätigte gegenüber dem Medium, dass Mitglieder eines privaten Online-Forums Zugang zum Mythos-Modell erhielten. Die genauen Methoden bleiben unklar, doch die Kombination aus internen Berechtigungen und externen Ermittlungstools ermöglichte den Zugriff.

Funktionsweise und Risiken des Mythos-Modells

Der Claude Mythos Preview ist ein vielseitiges KI-Modell, das in der Lage ist, Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen. Diese Fähigkeit macht es zu einem mächtigen, aber auch riskanten Werkzeug, falls es in die falschen Hände gerät.

Anthropic hatte das Modell ursprünglich als „Vorschau“ veröffentlicht, um Entwicklern und Sicherheitsexperten den Zugang zu ermöglichen. Doch die aktuelle Situation zeigt, dass selbst begrenzte Zugriffe missbraucht werden können.

Reaktion von Anthropic noch unklar

Bisher hat Anthropic keine offizielle Stellungnahme zu dem Vorfall veröffentlicht. Es bleibt offen, ob das Unternehmen zusätzliche Sicherheitsmaßnahmen ergreifen oder den Zugriff auf das Modell weiter einschränken wird.

Die Enthüllung wirft erneut Fragen zur Sicherheit von KI-Systemen auf, insbesondere wenn diese über Drittanbieter oder externe Partner zugänglich gemacht werden.

„Die Kombination aus internen Zugriffen und externen Ermittlungstools zeigt, wie anfällig selbst kontrollierte Systeme für Missbrauch sein können.“
– Bloomberg-Bericht