Un consorzio di agenzie governative internazionali, tra cui la Cybersecurity and Infrastructure Security Agency (CISA) del G7, ha pubblicato una nuova guida per definire gli elementi fondamentali che devono essere inclusi in strumenti di trasparenza dell'intelligenza artificiale, simili a una lista degli ingredienti.
Questo approccio, noto come Software Bill of Materials (SBOM), mira a elencare tutti i componenti di un software per identificare più facilmente i rischi nella catena di fornitura. La guida introduce standard volontari minimi per gli SBOM applicati all'IA, estendendo precedenti iniziative in questo ambito.
Secondo la CISA,
«Sebbene non esaustiva né obbligatoria, la lista degli elementi minimi integrati in questa guida riflette il consenso degli esperti del G7 e sarà ampliata nel tempo per adeguarsi all'evoluzione rapida della tecnologia AI.»
Gli elementi chiave includono:
- Informazioni sull'SBOM per l'IA stessa;
- Dettagli sul sistema AI nel suo complesso;
- Identificazione dei modelli utilizzati dal sistema AI;
- Dati impiegati durante l'intero ciclo di vita del modello;
- Infrastrutture fisiche e virtuali necessarie per il funzionamento e il supporto del sistema AI;
- Misure di cybersecurity applicabili ai modelli e ai sistemi AI;
- Indicatori chiave di prestazione del sistema AI.
Tre esperti del settore, che hanno lavorato su iniziative simili denominate AIBOM (AI Bill of Materials), hanno accolto con favore la guida, sottolineando sia i suoi punti di forza che le aree di miglioramento.
Daniel Bardenstein, CEO di Manifest Cyber e sviluppatore di un generatore AIBOM, ha dichiarato:
«Quasi ogni software oggi integra componenti di IA. Quando un ospedale acquista un dispositivo medico con IA, il Dipartimento della Difesa un sistema d'arma con IA o le case automobilistiche implementano IA nei veicoli, dobbiamo poter fidarci di ciò che l'IA contiene. Il primo passo per costruire questa fiducia è identificare cosa sia l'IA, da dove provenga e come sia stata addestrata.»
Bardenstein ha aggiunto:
«Questa guida rappresenta un passo importante verso una visione condivisa su come affrontare la fiducia nell'IA, che sarà il futuro del settore.»
Dmitry Raidman, cofondatore e CTO di Cybeats — anch'egli sviluppatore di un generatore AIBOM e collaboratore con CISA e OWASP — ha definito la guida del G7
«eccezionale», poiché copre l'80-90% delle esigenze necessarie.
«Prima mancava una base comune, ora invece viene definita una linea di partenza chiara.»
Tuttavia, entrambi gli esperti hanno evidenziato alcune criticità. Bardenstein ha espresso preoccupazioni sulla facilità di implementazione della guida da parte delle organizzazioni, mentre Raidman ha sottolineato che non affronta in modo esaustivo il tema della sostenibilità dei dati utilizzati per l'addestramento dei modelli AI.
Articoli correlati
ArXiv vieta ai ricercatori per un anno se pubblicano lavori generati da AI
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
Dietro le quinte: novità musicali e un errore clamoroso
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
Nuova vulnerabilità zero-day di Cisco sfruttata attivamente: gruppo di minaccia persistente colpisce SD-WAN
Attackers returned once again to a common target with a massive user base by exploiting a max-severity zero-day vulnerability affecting Cisco Catalyst...
Mayo Clinic adotta l’IA per registrare le conversazioni in pronto soccorso
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
L'IA avanzata rivoluzionerà la guerra, avverte un alto ufficiale del Pentagono
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
Cybersecurity: l'identità digitale diventa cruciale nell'era dell'IA secondo la Casa Bianca
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
Foxconn subisce un attacco informatico: ransomware Nitrogen colpisce stabilimenti nordamericani
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
App di analisi delle feci con IA: in vendita un database con 150mila immagini di utenti
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...