G7-Staaten legen Richtlinien für transparente KI-Komponenten vor

Neue Standards für mehr Transparenz in KI-Systemen

Eine internationale Arbeitsgruppe unter Führung der G7-Staaten hat erstmals gemeinsame Richtlinien für die Erstellung einer sogenannten „KI-Zutatenliste“ veröffentlicht. Diese soll sicherstellen, dass alle Komponenten von KI-Systemen nachvollziehbar dokumentiert werden – ähnlich wie ein Software Bill of Materials (SBOM) für klassische Software.

Ziel ist es, Risiken in der Lieferkette frühzeitig zu erkennen und die Sicherheit von KI-Anwendungen zu erhöhen. Die Leitlinie wurde von Behörden wie der US-amerikanischen Cybersecurity and Infrastructure Security Agency (CISA) mitgestaltet und gilt als freiwilliger Mindeststandard.

Was die Richtlinien beinhalten

Die Empfehlungen umfassen folgende zentrale Elemente:

• Informationen zum SBOM selbst: Struktur und Format der Dokumentation
• Daten zum gesamten KI-System: Architektur, Abhängigkeiten und Schnittstellen
• Modellidentifikation: Welche KI-Modelle werden eingesetzt und woher stammen sie?
• Datensätze: Herkunft, Qualität und Nutzung der Trainingsdaten über den gesamten Lebenszyklus
• Infrastruktur: Physische und virtuelle Systeme, die für Betrieb und Wartung benötigt werden
• Cybersicherheitsmaßnahmen: Schutzmechanismen für Modelle und Systeme
• Leistungskennzahlen: Wichtige Metriken zur Bewertung der KI-Leistung

Die Richtlinien sollen als „AIBOM“ (AI Bill of Materials) fungieren und sind bewusst nicht abschließend formuliert. Laut CISA werden sie kontinuierlich weiterentwickelt, um mit der rasanten technologischen Entwicklung Schritt zu halten.

„Fast jede Software enthält heute KI-Komponenten – sei es in medizinischen Geräten, Waffensystemen oder Fahrzeugen. Um Vertrauen in diese Systeme zu schaffen, müssen wir wissen, welche KI wo verbaut ist, wie sie trainiert wurde und woher ihre Daten stammen.“

Experten begrüßen Initiative, sehen aber Handlungsbedarf

Branchenexperten wie Dmitry Raidman, Mitgründer und CTO von Cybeats, bewerten die Richtlinien als wichtigen Schritt:

„Die G7-Leitlinie deckt etwa 80 bis 90 Prozent der Anforderungen ab. Endlich gibt es eine klare Baseline, die bisher fehlte.“

Gleichzeitig weisen beide Experten auf Herausforderungen hin:

• Umsetzbarkeit: Bardenstein betont, dass viele Organisationen Schwierigkeiten haben könnten, die Vorgaben praktisch umzusetzen.
• Datenqualität: Raidman kritisiert, dass die Richtlinien das Problem unzureichender Datenherkunft nicht ausreichend adressieren.

Hintergrund: Warum Transparenz in KI-Systemen entscheidend ist

KI-Systeme werden zunehmend in kritischen Bereichen wie Gesundheitswesen, Verteidigung und Mobilität eingesetzt. Fehlende Transparenz über ihre Komponenten birgt jedoch Risiken:

• Unbekannte Abhängigkeiten können Sicherheitslücken schaffen.
• Schlechte Trainingsdaten führen zu fehlerhaften oder diskriminierenden Ergebnissen.
• Herstellerabhängigkeiten erschweren die Überprüfung durch Dritte.

Die neuen Richtlinien sollen hier Abhilfe schaffen und eine Grundlage für vertrauenswürdige KI-Anwendungen schaffen. Ob sie jedoch ausreichen, um die komplexen Herausforderungen der Branche zu lösen, bleibt abzuwarten.