Sistema di gestione dell'IA secondo la norma ISO 42001: una tigre di carta?

Chi è responsabile se un sistema di sicurezza basato sull’intelligenza artificiale non rileva un attacco? Chi ne risponde se, a seguito di un incidente causato da un ransomware, sono gli stessi modelli di intelligenza artificiale a essere compromessi? E come lo si dimostra nei confronti di un'autorità di vigilanza? È proprio qui che entra in gioco la norma ISO 42001 – ed è proprio qui che il collegamento con il backup, il cyber recovery e la cyber resilienza non è più facoltativo, ma diventa una necessità strutturale.

Che cos’è il sistema di gestione ISO 42001 per l’intelligenza artificiale e perché è rilevante per la sicurezza informatica?

La norma ISO 42001 è il primo standard internazionale per i sistemi di gestione dell’IA. Pubblicata nel dicembre 2023, definisce un quadro di riferimento che consente alle organizzazioni di pianificare, controllare, monitorare e migliorare l’uso responsabile dell’IA. Lo standard segue la nota High Level Structure (HLS) ed è compatibile con le norme ISO 27001, ISO 9001 e ISO 22301.

Per i responsabili IT delle PMI, ciò diventa rilevante non appena si verifica uno dei seguenti scenari:

• Utilizzano strumenti di intelligenza artificiale per il rilevamento delle minacce (SIEM, EDR, MDR con componenti di apprendimento automatico)
• Utilizzano analisi dei backup basate sull'intelligenza artificiale o trigger di ripristino automatizzati
• Sono soggetti alla normativa NIS2 o DORA: entrambi i quadri normativi fanno esplicito riferimento alla governance dell’IA come parte integrante della gestione dei rischi

La norma ISO 42001 richiede, tra l’altro: una valutazione dei rischi per i sistemi di intelligenza artificiale, ruoli e responsabilità ben definiti, misure volte a garantire l’integrità dei dati e la conservazione della documentazione. È proprio quest’ultimo aspetto a rendere fondamentali il backup e il ripristino.

Il legame tra gestione dell'IA e resilienza informatica

Uno scenario possibile: un’azienda industriale con 180 dipendenti utilizza da due anni un sistema di rilevamento delle anomalie basato sull’intelligenza artificiale. Il sistema apprende costantemente, addestrandosi sui dati della propria rete. Nel marzo 2024, un gruppo APT si infiltra nella rete. Obiettivo: non la crittografia immediata, bensì la graduale contaminazione dei dati di addestramento del sistema di IA. Quattro mesi dopo, il modello non è più in grado di rilevare in modo affidabile gli attacchi reali.

Questo schema di attacco – noto come Data poisoning – non è uno scenario futuro. È un fenomeno documentato e in aumento. Per la norma ISO 42001 ciò significa che l’integrità dei modelli di IA e dei relativi dati di addestramento costituisce un obiettivo di protezione da perseguire attivamente.

La resilienza informatica è il quadro organizzativo che permette proprio questo. Comprende:

• Identifica: Quali sistemi di intelligenza artificiale esistono, dove vengono eseguiti e quali dati utilizzano?
• Proteggi: I modelli e i dati di addestramento sono protetti contro la manipolazione?
• Rilevamento: Esistono meccanismi in grado di rilevare le modifiche apportate al modello?
• Risposta: Cosa succede se un modello di IA viene compromesso?
• Recover: È possibile ripristinare il modello a uno stato convalidato e pulito?

Proprio quest'ultimo punto – il recupero – costituisce il collegamento tra il backup e il cyber recovery. Ed è proprio quello che, nella pratica, viene trascurato più spesso.

Le normative UE come NIS2 e DORA richiedono entrambe una capacità di ripristino dimostrabile per i sistemi IT critici. A partire da ottobre 2024, per le aziende interessate ciò non sarà più solo una best practice, ma un obbligo di legge, con sanzioni che possono arrivare fino a 10 milioni di euro o al 2 % del fatturato annuo globale.

In che modo il backup e il cyber recovery supportano il sistema di gestione dell’IA ISO 42001

Le strategie di backup tradizionali erano pensate per far fronte alla perdita di dati: guasti dei dischi rigidi, cancellazioni accidentali, arresti anomali del sistema. Il ransomware e il data poisoning giocano in un altro campionato e richiedono una risposta diversa. Il backup immutabile non è un optional, ma un obbligo. Una copia di backup immutabile – archiviata secondo il principio WORM (Write Once, Read Many) – non può essere né crittografata dal ransomware né sovrascritta da un sistema di intelligenza artificiale compromesso. Rappresenta l’ultima istanza affidabile.

In concreto, ciò significa per un’azienda di medie dimensioni che sta implementando la norma ISO 42001:

1. Backup dei modelli di IA stessi: Non solo i dati di produzione, ma anche i modelli di IA, le configurazioni e i set di dati di addestramento devono essere salvati in snapshot regolari e con controllo delle versioni. Solo così è possibile ripristinare un modello compromesso all’ultima versione convalidata.
2. Ambiente di ripristino isolato (Clean Room): Il ripristino di un sistema compromesso non deve avvenire sulla stessa rete in cui si è verificato l'attacco. Un ambiente isolato fisicamente o logicamente – il cosiddetto «Cyber Recovery Vault» – garantisce che anche i sistemi ripristinati non siano immediatamente esposti a nuovi attacchi.
3. Convalida automatizzata: La norma ISO 42001 richiede il monitoraggio e il miglioramento continuo. Tradotto nella pratica del backup: ogni copia di backup deve essere verificata automaticamente per accertarne l’integrità e l’assenza di malware. Un backup senza convalida non è un backup: è solo una falsa sensazione di sicurezza.
4. Processo di ripristino documentato: Le autorità di vigilanza ai sensi della direttiva NIS2 e del regolamento DORA richiedono prove documentali. Un runbook che documenti la procedura di ripristino e venga testato regolarmente costituisce al contempo l’elemento centrale di un piano di risposta agli incidenti conforme alla norma ISO 42001 per i sistemi di intelligenza artificiale.

Applicazione pratica per le PMI

La domanda più frequente durante i primi colloqui è: «Da dove cominciamo?» La risposta è di natura metodologica, non tecnica.

Fase 1: Creare un inventario dell'IA

Registrate tutti i sistemi che contengono componenti di intelligenza artificiale, comprese le soluzioni acquistate esternamente come i servizi MDR, le piattaforme SIEM o le analisi intelligenti dei backup. La norma ISO 42001 richiede un quadro completo.

Fase 2: Valutazione dei rischi per ciascun sistema

Quali dati vengono trattati dal sistema di intelligenza artificiale? Quali decisioni prende in modo autonomo? Cosa succede se commette un errore o viene manipolato? La valutazione dei rischi costituisce la base di tutte le ulteriori misure.

Fase 3: Ampliare la strategia di backup con le risorse di IA

Verificate se la vostra attuale soluzione di backup includa i modelli di IA e i dati di addestramento. In caso contrario: questa è la vostra principale lacuna attuale.

Fase 4: Documentare i test di ripristino

Almeno una volta all'anno, meglio se ogni trimestre: verificate se è possibile ripristinare un sistema di intelligenza artificiale a uno stato convalidato. Registrate il risultato, la durata e le persone coinvolte.

Fase 5: Mappatura della conformità

Documentate quali misure della vostra implementazione della norma ISO 42001 soddisfano i requisiti NIS2 e DORA. Ciò consente di risparmiare tempo in occasione degli audit e delle richieste delle autorità.

Lista di controllo: ISO 42001, backup e resilienza informatica nelle PMI

• Inventario di tutti i sistemi e componenti di intelligenza artificiale (compresi i servizi acquistati)
• Valutazione dei rischi documentata per ogni sistema di intelligenza artificiale
• Modelli di IA e dati di addestramento integrati nella strategia di backup
• Backup immutabile con protezione WORM implementato
• È disponibile un ambiente di ripristino isolato (Cyber Recovery Vault)
• Controllo automatico dell'integrità di ogni copia di backup attivo
• Test di recupero degli ultimi 12 mesi documentati e registrati

Conclusione: il sistema di gestione ISO 42001 basato sull’intelligenza artificiale non è una semplice carta straccia – a patto che si tenga conto del backup e del ripristino

La norma ISO 42001 non è l’ennesimo documento di conformità da archiviare in un cassetto. È il quadro strutturale che rende l’utilizzo dell’IA in azienda dimostrabilmente sicuro – nei confronti di hacker, autorità di vigilanza e assicuratori. Ma lo standard produce i suoi effetti solo se il livello operativo collabora: con backup immutabili, processi di ripristino convalidati e un ambiente di ripristino isolato. Senza queste basi, qualsiasi strategia di governance dell’IA rimane vulnerabile.

Fonte: Cristie Data GmbH. L'azienda affianca le medie imprese in tutto il percorso, dalla prima analisi della situazione attuale fino all'implementazione pronta per l'audit.

Questo articolo è apparso originariamente su m-q.ch - https://www.m-q.ch/de/iso-42001-ki-management-system-ein-papiertiger/