Trump setzt plötzlich auf KI-Sicherheit – nach Warnungen vor Mythos-Modell

Plötzliche Wende in der KI-Politik

Die Trump-Administration hat diese Woche überraschend eine Kehrtwende vollzogen und Vereinbarungen mit Google DeepMind, Microsoft und xAI unterzeichnet. Diese sehen vor, dass staatliche Stellen die Sicherheit der fortschrittlichsten KI-Modelle der Unternehmen vor und nach deren Veröffentlichung prüfen.

Von Ablehnung zu Zustimmung – was hat die Wende ausgelöst?

Noch unter der Biden-Regierung hatte die Trump-Administration freiwillige Sicherheitsprüfungen für KI-Systeme als überflüssige Regulierung abgelehnt. Präsident Donald Trump hatte die Politik seines Vorgängers scharf kritisiert und die Umbenennung des US AI Safety Institute in das Center for AI Standards and Innovation (CAISI) angeordnet – ein deutlicher Hinweis auf die Ablehnung von Joe Bidens Ansatz.

Doch nun scheint sich die Haltung geändert zu haben. Der Grund: Anthropic hatte kürzlich angekündigt, sein neuestes Modell Claude Mythos aufgrund von Sicherheitsbedenken nicht zu veröffentlichen. Die Befürchtung: Fortgeschrittene Cybersecurity-Fähigkeiten könnten von böswilligen Akteuren missbraucht werden.

Exekutivorder als nächster Schritt?

Laut Kevin Hassett, Direktor des National Economic Council im Weißen Haus, erwägt die Regierung nun eine Exekutivorder, die staatliche Sicherheitstests für fortschrittliche KI-Systeme vor deren Markteinführung vorschreibt. Dies berichtete Fortune unter Berufung auf interne Quellen.

Reaktionen aus der Tech-Branche

Die plötzliche Kehrtwende wird in der Branche unterschiedlich aufgenommen. Während einige Experten die neue Vorsicht begrüßen, kritisieren andere, dass die Maßnahmen zu spät kommen und die freiwilligen Prüfungen unter Trump zunächst blockiert wurden.

Hintergrund: Warum Sicherheit bei KI-Systemen entscheidend ist

Fortschrittliche KI-Modelle wie Claude Mythos bergen enorme Potenziale, aber auch Risiken. Dazu gehören:

• Missbrauch durch Cyberkriminelle: Fortgeschrittene Fähigkeiten könnten für Angriffe auf kritische Infrastruktur genutzt werden.
• Fehlende Transparenz: Ohne unabhängige Tests bleibt unklar, wie sicher die Modelle tatsächlich sind.
• Internationale Wettbewerbsfähigkeit: Andere Länder wie die EU setzen bereits auf strenge KI-Regulierung – die USA könnten sonst ins Hintertreffen geraten.

„Die jüngsten Entwicklungen zeigen, dass die Debatte um KI-Sicherheit nicht nur eine Frage der Regulierung ist, sondern auch der globalen Verantwortung.“ – Tech-Analyst

Fazit: Ein Schritt in die richtige Richtung?

Ob die neue Strategie ausreicht, um die Risiken fortschrittlicher KI-Modelle zu minimieren, bleibt abzuwarten. Fest steht jedoch: Die Trump-Administration hat erkannt, dass freiwillige Maßnahmen allein nicht ausreichen – und setzt nun auf staatlich überwachte Sicherheitstests.