G7 określa kluczowe elementy 'listy składników' dla bezpiecznej AI

Grupa międzynarodowych agencji rządowych, w tym przedstawiciele G7, opublikowała we wtorek wytyczne określające kluczowe elementy, które powinna zawierać tzw. lista składników AI (ang. AI Bill of Materials, AIBOM). Celem dokumentu jest zwiększenie bezpieczeństwa systemów sztucznej inteligencji poprzez identyfikację wszystkich komponentów wchodzących w ich skład.

Koncept AIBOM nawiązuje do znanego z branży IT Software Bill of Materials (SBOM) – listy składników oprogramowania, która pozwala na szybsze wykrywanie zagrożeń w łańcuchu dostaw. Nowe wytyczne, opracowane przez agencje zrzeszone w G7, w tym amerykańską CISA, stanowią dobrowolne standardy minimalne dla AIBOM w kontekście AI. Dokument uzupełnia wcześniejsze inicjatywy dotyczące SBOM, podkreślając, że choć nie jest on wyczerpujący ani obowiązkowy, odzwierciedla konsensus ekspertów i będzie rozwijany wraz z postępem technologicznym AI.

Wśród kluczowych elementów AIBOM wymieniono:

• Informacje dotyczące samego AIBOM;
• Dane o całym systemie AI;
• Identyfikację modeli używanych przez system AI;
• Informacje o zbiorach danych wykorzystywanych na każdym etapie cyklu życia modelu;
• Opis infrastruktury fizycznej i wirtualnej niezbędnej do działania systemu AI;
• Zabezpieczenia cybernetyczne stosowane w modelach i systemach AI;
• Kluczowe wskaźniki wydajności systemu AI.

Eksperci z branży, którzy współpracowali przy tworzeniu wytycznych, pozytywnie ocenili inicjatywę, wskazując jednak na jej ograniczenia. Daniel Bardenstein, CEO firmy Manifest Cyber, podkreślił, że większość współczesnego oprogramowania zawiera już komponenty AI, dlatego konieczne jest zapewnienie transparentności ich pochodzenia i sposobu trenowania. „Pierwszym krokiem do zaufania do AI jest wiedza, co się w niej znajduje, skąd pochodzi i jak została wyuczona” – powiedział.

Dmitry Raidman, współzałożyciel i dyrektor techniczny firmy Cybeats, uznał wytyczne G7 za „rewolucyjne”, ponieważ obejmują one 80–90% potrzebnych standardów. „Dotychczas nie istniała żadna podstawa, teraz natomiast powstaje jasny punkt odniesienia” – stwierdził. Jednocześnie eksperci zwrócili uwagę na wyzwania związane z wdrażaniem wytycznych, zwłaszcza w kontekście praktycznej implementacji przez organizacje.