ISO 42001 ed EU AI Act: guida all'adeguamento

La ISO/IEC 42001 è la norma internazionale che definisce un sistema di gestione dell'intelligenza artificiale (AIMS); l'EU AI Act è la legge dell'Unione Europea che impone obblighi per livello di rischio. Una è volontaria e sistemica; l'altra è obbligatoria e giuridica. Implementare l'AIMS è il percorso pratico per dimostrare la conformità all'AI Act.

Entrambe nascono dallo stesso problema — le organizzazioni hanno iniziato a costruire e gestire sistemi di IA più velocemente di quanto la governance riuscisse a seguire — ma vi rispondono in modi diversi. La norma offre un metodo per governare l'IA con responsabilità nel tempo; la legge stabilisce cosa è obbligatorio per chi immette sistemi di IA sul mercato europeo. Capire dove finisce una e inizia l'altra è ciò che evita di costruire due programmi paralleli quando uno solo, ben strutturato, soddisfa entrambe.

Che cos'è la ISO/IEC 42001 e cos'è un AIMS?

La ISO/IEC 42001 è il primo standard internazionale di sistema di gestione dedicato all'intelligenza artificiale. Non certifica che un modello sia "sicuro" o "etico" — certifica che esiste un sistema in grado di identificare i rischi dell'uso e dello sviluppo dell'IA, decidere cosa farne e mantenere quelle decisioni vive lungo il ciclo di vita dei sistemi.

Un AIMS (Artificial Intelligence Management System) segue la stessa struttura di alto livello delle altre norme di gestione ISO — la stessa logica della ISO/IEC 27001 per la sicurezza delle informazioni. Ciò significa clausole su contesto, leadership, pianificazione, supporto, operatività, valutazione delle prestazioni e miglioramento, organizzate attorno a un ciclo di pianificare, fare, verificare e agire. Chi già gestisce un ISMS riconosce subito il formato, e buona parte della struttura di governance può essere riutilizzata.

Ciò che la 42001 aggiunge è il contenuto specifico dell'IA. L'Allegato A della norma porta obiettivi di controllo e controlli orientati alle questioni che i sistemi di IA sollevano: politiche di uso responsabile, ruoli e responsabilità, gestione dei dati lungo il ciclo di vita, valutazione dell'impatto dei sistemi su persone e gruppi, trasparenza, supervisione umana e gestione dei fornitori di IA. L'organizzazione seleziona i controlli applicabili a partire dalla propria valutazione del rischio — non è un elenco obbligatorio da spuntare voce per voce.

L'idea centrale: la 42001 governa come si sviluppa, si acquisisce e si gestisce l'IA, non un sistema isolato. Copre il modello acquistato da terzi, l'agente costruito internamente e la pipeline di dati che alimenta entrambi, sotto un unico insieme di regole di gestione.

Quali obblighi impone l'EU AI Act, e a chi?

L'EU AI Act — il Regolamento (UE) 2024/1689 — è una legge dalla portata extraterritoriale: si applica a chi sviluppa, distribuisce o usa sistemi di IA il cui risultato è utilizzato nell'Unione Europea, indipendentemente da dove abbia sede l'azienda. Un'organizzazione con sede fuori dall'UE che offra un prodotto di IA a clienti europei rientra nell'ambito. Classifica i sistemi per livello di rischio e impone obblighi proporzionali a ciascun livello:

• Rischio inaccettabile — pratiche vietate. Alcuni usi dell'IA sono proibiti in quanto ritenuti incompatibili con i diritti fondamentali, come certi sistemi di punteggio sociale e di manipolazione comportamentale. Non c'è conformità possibile: l'uso è vietato.

• Alto rischio — il nucleo regolatorio. I sistemi usati in contesti sensibili (come componenti di sicurezza, selezione del personale, credito o servizi essenziali) devono soddisfare requisiti rigorosi: un sistema di gestione del rischio, governance dei dati, documentazione tecnica, registrazione degli eventi (log), trasparenza verso l'utente, supervisione umana efficace e robustezza, accuratezza e cybersicurezza. Prima di entrare sul mercato, passano per una valutazione di conformità.

• Rischio limitato — obblighi di trasparenza. I sistemi che interagiscono con le persone (chatbot), che generano contenuti sintetici o che producono deepfake devono rendere chiaro che il contenuto o l'interazione è generato dall'IA.

• Rischio minimo — la maggior parte delle applicazioni. Nessun obbligo specifico oltre alle buone pratiche generali.

Esiste inoltre un livello dedicato ai modelli di IA per finalità generali (GPAI): obblighi di documentazione tecnica, informazione per chi integra il modello e rispetto del diritto d'autore, con requisiti aggiuntivi per i modelli che presentano rischio sistemico. L'applicazione del regolamento è scaglionata: i divieti entrano in vigore per primi, seguiti dagli obblighi per i GPAI e, infine, dai requisiti per i sistemi ad alto rischio. L'inosservanza espone l'organizzazione a sanzioni amministrative significative, calcolate come percentuale del fatturato globale.

Come si relazionano la ISO/IEC 42001 e l'EU AI Act?

La relazione è di mezzo e fine. L'AI Act dice cosa è obbligatorio; la ISO/IEC 42001 offre un metodo riconosciuto su come arrivarci e sostenerlo nel tempo. I requisiti dell'AI Act per i sistemi ad alto rischio — gestione del rischio, governance dei dati, documentazione, log, supervisione umana, robustezza — hanno una corrispondenza diretta con i controlli dell'AIMS. Un sistema di gestione ben implementato produce l'evidenza che la legge richiede.

La lettura corretta non è scegliere tra l'una e l'altra. Per chi è esposto al mercato europeo, l'AI Act è innegoziabile; la 42001 è il modo più efficiente di mettere ordine in casa per soddisfarlo — e serve altrettanto a chi non ricade sotto l'AI Act ma deve dimostrare la governance dell'IA a clienti, regolatori di settore o partner. Vale la stessa avvertenza di qualsiasi norma di gestione: la certificazione 42001 non è, di per sé, presunzione di conformità legale all'AI Act. Struttura ed evidenzia la governance; l'inquadramento giuridico richiede l'analisi dei requisiti specifici applicabili a ciascun sistema.

Qual è il percorso pratico per adeguarsi?

Adeguarsi significa trasformare i principi in un sistema che opera e produce evidenza. I passi che seguono servono sia a implementare la 42001 sia a soddisfare l'AI Act, perché affrontano gli stessi punti.

1. Inventariare e classificare i sistemi di IA. Nessuna governance inizia senza sapere cosa esiste. Rileva tutti i sistemi di IA — sviluppati, acquisiti e incorporati in prodotti di terzi — e classifica ciascuno per livello di rischio dell'AI Act. Questo inventario definisce l'ambito dell'AIMS e rivela dove si concentrano gli obblighi più pesanti.

2. Definire governance, politica e ruoli. Stabilisci la politica di IA responsabile, il comitato o i responsabili della governance e le responsabilità lungo il ciclo di vita. È il requisito di leadership della norma e la base per la supervisione umana che l'AI Act richiede.

3. Valutare rischi e impatti. Conduci la valutazione del rischio di ciascun sistema e, per quelli a maggiore impatto, la valutazione d'impatto sulle persone e sui gruppi interessati. Qui entra in gioco la governance dei dati: origine, qualità e rappresentatività dei dati di addestramento e operatività.

4. Implementare i controlli dell'AIMS. Metti in operatività i controlli selezionati — gestione dei dati, trasparenza, supervisione umana, robustezza e cybersicurezza dei sistemi di IA, gestione dei fornitori. Testare la resilienza tecnica dei modelli e degli agenti contro l'abuso fa parte di questa fase.

5. Documentare ed evidenziare. Produci la documentazione tecnica, i registri degli eventi e le istruzioni per l'uso che la legge richiede per i sistemi ad alto rischio e che la norma chiede come evidenza. La documentazione mancante è la non conformità più comune, e la più costosa da correggere all'ultimo momento.

6. Monitorare, verificare e migliorare. Misura le prestazioni dei controlli, conduci l'audit interno, gestisci incidenti e non conformità e porta i risultati al riesame della direzione. È il ciclo che mantiene il sistema vivo e pronto per un audit di certificazione o un'ispezione.

I passi non sono strettamente sequenziali. Inventario, valutazione del rischio e controlli formano un nucleo che si retroalimenta man mano che nuovi sistemi di IA entrano in produzione.

Quanto tempo richiede e cosa determina lo sforzo?

Non esiste una tempistica standard. Il tempo di adeguamento dipende da quanti sistemi di IA l'organizzazione gestisce, da quanti ricadono nelle categorie a maggiore rischio e da quanta governance già esiste — non dal settore da solo.

I principali fattori di sforzo e costo sono la dimensione e la diversità del portafoglio di IA (più sistemi e più fornitori ampliano l'inventario e la valutazione del rischio), il numero di sistemi ad alto rischio nell'ambito (che concentrano i requisiti più pesanti dell'AI Act), la maturità della governance dei dati già esistente e la distanza tra la documentazione attuale e quella richiesta. Descrivere questi fattori è più onesto che promettere un numero: sono essi a determinare quanti mesi occupa il progetto.

Come opera Berghem

Berghem struttura l'adeguamento a partire dall'inventario e dalla classificazione di rischio dei sistemi di IA, e non da un modello generico. Iniziamo mappando ciò che l'organizzazione sviluppa, acquisisce e gestisce, inquadriamo ciascun sistema nell'AI Act e misuriamo la distanza reale tra la governance attuale e i requisiti della 42001 — così che il piano di trattamento affronti le lacune che contano, nell'ordine che riduce più rischio.

Da lì, supportiamo la politica di IA, la valutazione di rischio e impatto, l'implementazione dei controlli dell'AIMS e la documentazione tecnica, lasciando il sistema pronto per l'audit e capace di dimostrare la conformità. Il dettaglio dell'approccio e dei deliverable è nella nostra pagina di consulenza e governance dell'IA secondo la ISO/IEC 42001.

Poiché la governance senza verifica tecnica è solo carta, colleghiamo il percorso della 42001 a test che producono l'evidenza di robustezza che l'AI Act richiede — sicurezza degli agenti di IA ed esercizi di Red Team — e agli altri fronti di conformità della stessa organizzazione, come l'adeguamento alla LGPD, la ISO/IEC 27001 e la direttiva NIS2. Come azienda di sicurezza delle informazioni a San Paolo, adattiamo ambito, profondità e cronoprogramma al profilo di rischio di ciascuna operazione.

Domande frequenti

La ISO 42001 sostituisce la conformità all'EU AI Act?

No. La 42001 è una norma di gestione volontaria e l'AI Act è legge obbligatoria. Certificarsi alla 42001 struttura ed evidenzia la governance dell'IA, il che facilita molto il soddisfacimento degli obblighi dell'AI Act, ma non è, di per sé, presunzione legale di conformità. L'inquadramento giuridico di ciascun sistema resta necessario.

La mia azienda è fuori dall'Unione Europea. L'AI Act si applica a me?

Può applicarsi. Il regolamento ha portata extraterritoriale: se il risultato del tuo sistema di IA è utilizzato nell'UE, o se offri il sistema a utenti europei, rientri nell'ambito, indipendentemente da dove abbia sede l'azienda. Un'organizzazione con prodotti di IA rivolti al mercato europeo deve valutare il proprio inquadramento.

Abbiamo già la ISO 27001. Quanto se ne riutilizza per la ISO 42001?

Molto. Le due norme condividono la stessa struttura di sistema di gestione, quindi leadership, gestione del rischio, audit interno e riesame della direzione sono riutilizzabili. Ciò che la 42001 aggiunge è il contenuto specifico dell'IA: governance dei dati di addestramento, valutazione d'impatto, trasparenza e supervisione umana. Integrare i due sistemi è di solito più efficiente che gestirli in parallelo.