Système de gestion de l'IA ISO 42001 : un tigre de papier ?

Qui est responsable lorsqu'un système de sécurité basé sur l'IA ne détecte pas une attaque ? Qui assume la responsabilité lorsque, à la suite d'un incident lié à un rançongiciel, les modèles d'IA eux-mêmes sont compromis ? Et comment le prouver auprès d’une autorité de contrôle ? C’est précisément là qu’intervient la norme ISO 42001 – et c’est précisément là que le lien avec la sauvegarde, la cyber-récupération et la cyber-résilience n’est plus une option, mais une nécessité structurelle.

Qu'est-ce que le système de gestion de l'IA ISO 42001, et en quoi est-il pertinent pour la sécurité informatique ?

La norme ISO 42001 est la première norme internationale relative aux systèmes de gestion de l'IA. Publiée en décembre 2023, elle définit un cadre permettant aux organisations de planifier, de piloter, de surveiller et d'améliorer l'utilisation responsable de l'IA. Cette norme suit la célèbre structure de haut niveau (HLS) – compatible avec les normes ISO 27001, ISO 9001 et ISO 22301.

Cela concerne les responsables informatiques des PME dès lors que l'un de ces scénarios se présente :

• Ils utilisent des outils d'IA pour la détection des menaces (SIEM, EDR, MDR intégrant des composants d'apprentissage automatique)
• Vous utilisez des analyses de sauvegarde basées sur l'IA ou des déclencheurs de restauration automatisés
• Vous êtes soumis à la directive NIS2 ou à la réglementation DORA – ces deux cadres réglementaires font explicitement référence à la gouvernance de l'IA dans le cadre de la gestion des risques

La norme ISO 42001 exige notamment : une évaluation des risques liés aux systèmes d'IA, la définition des rôles et des responsabilités, des mesures visant à garantir l'intégrité des données – ainsi que la conservation des preuves. C'est sur ce dernier point que la sauvegarde et la restauration entrent en jeu.

Le lien entre la gestion de l'IA et la cyber-résilience

Scénario possible : une entreprise industrielle comptant 180 employés utilise depuis deux ans un système de détection des anomalies basé sur l'IA. Ce système apprend en permanence, en s'entraînant sur les données de son propre réseau. En mars 2024, un groupe APT s'infiltre dans le réseau. Son objectif : non pas le chiffrement immédiat, mais la contamination progressive des données d'entraînement du système d'IA. Quatre mois plus tard, le modèle ne détecte plus de manière fiable les attaques réelles.

Ce type d'attaque – connu sous le nom de Empoisonnement des données – Ce n'est pas un scénario futuriste. C'est un phénomène avéré qui prend de l'ampleur. Pour la norme ISO 42001, cela signifie que l'intégrité des modèles d'IA et de leurs données d'entraînement constitue un objectif de protection qu'il convient de poursuivre activement.

La cyber-résilience est le cadre organisationnel qui permet justement d'atteindre cet objectif. Elle comprend :

• Identifier : Quels sont les systèmes d'IA existants, où fonctionnent-ils, quelles données utilisent-ils ?
• Protect : Les modèles et les données d'entraînement sont-ils protégés contre toute manipulation ?
• Détecter : Existe-t-il des mécanismes permettant de détecter les modifications apportées au modèle ?
• Réponse : Que se passe-t-il lorsqu'un modèle d'IA est compromis ?
• Récupérer : Est-il possible de réinitialiser le modèle à un état validé et propre ?

C'est précisément ce dernier point – la restauration – qui fait le lien entre la sauvegarde et la cyber-restauration. Et c'est celui qui est le plus souvent négligé dans la pratique.

Les réglementations européennes telles que NIS2 et DORA exigent toutes deux une capacité de reprise démontrable pour les systèmes informatiques critiques. Depuis octobre 2024, cela ne constitue plus seulement une bonne pratique pour les entreprises concernées, mais une obligation légale, passible d’amendes pouvant atteindre 10 millions d’euros ou 2 % du chiffre d’affaires annuel mondial.

Comment la sauvegarde et la cyber-récupération soutiennent le système de gestion de l'IA conforme à la norme ISO 42001

Les stratégies de sauvegarde classiques étaient conçues pour faire face aux pertes de données : panne de disque dur, suppression accidentelle, plantage du système. Les ransomwares et l’empoisonnement des données jouent dans une autre catégorie – et exigent une réponse différente. La sauvegarde immuable n’est pas ici une option, mais une obligation. Une copie de sauvegarde immuable – stockée selon le principe WORM (Write Once, Read Many) – ne peut être ni chiffrée par un rançongiciel, ni écrasée par un système d’IA compromis. Elle constitue la dernière instance fiable.

Concrètement, cela signifie pour une PME qui met en œuvre la norme ISO 42001 :

1. Sauvegarde des modèles d'IA eux-mêmes : Il faut sauvegarder non seulement les données de production, mais aussi les modèles d'IA, les configurations et les ensembles de données d'entraînement dans des instantanés réguliers et versionnés. C'est la seule façon de rétablir un modèle corrompu à sa dernière version validée.
2. Environnement de récupération isolé (« Clean Room ») : La restauration d'un système compromis ne doit pas s'effectuer sur le même réseau que celui où l'attaque a eu lieu. Un environnement isolé physiquement ou logiquement – appelé « Cyber Recovery Vault » – garantit que les systèmes restaurés ne soient pas immédiatement la cible d'une nouvelle attaque.
3. Validation automatisée : La norme ISO 42001 exige un suivi et une amélioration continue. Concrètement, en matière de sauvegarde : chaque copie de sauvegarde doit faire l'objet d'un contrôle automatique visant à vérifier son intégrité et l'absence de logiciels malveillants. Une sauvegarde sans validation n'est pas une sauvegarde – ce n'est qu'un faux sentiment de sécurité.
4. Processus de reprise documenté : Les autorités de surveillance relevant de la directive NIS2 et de la réglementation DORA exigent des justificatifs. Un « runbook » qui documente la procédure de reprise et qui est testé régulièrement constitue également l'élément central d'un plan de réponse aux incidents conforme à la norme ISO 42001 pour les systèmes d'IA.

Mise en œuvre pratique pour les PME

La question qui revient le plus souvent lors des premiers entretiens est : « Par où commencer ? » La réponse est d'ordre méthodologique, et non technique.

Étape 1 : Créer un inventaire IA

Répertoriez tous les systèmes contenant des composants d'IA, y compris les solutions achetées telles que les services MDR, les plateformes SIEM ou les analyses intelligentes de sauvegarde. La norme ISO 42001 exige une vue d'ensemble complète.

Étape 2 : Évaluation des risques par système

Quelles données le système d'IA traite-t-il ? Quelles décisions prend-il de manière autonome ? Que se passe-t-il s'il se trompe – ou s'il est manipulé ? L'évaluation des risques constitue la base de toutes les mesures ultérieures.

Étape 3 : Intégrer les ressources d'IA à la stratégie de sauvegarde

Vérifiez si votre solution de sauvegarde actuelle inclut les modèles d'IA et les données d'entraînement. Si ce n'est pas le cas, c'est là votre principale lacune à l'heure actuelle.

Étape 4 : Consigner les tests de reprise

Au moins une fois par an, voire tous les trimestres : vérifiez s'il est possible de réinitialiser un système d'IA à un état validé. Consignez les résultats, la durée et les personnes impliquées.

Étape 5 : Cartographie de la conformité

Indiquez quelles mesures de votre mise en œuvre de la norme ISO 42001 répondent à quelles exigences de la directive NIS 2 et de la directive DORA. Cela vous permettra de gagner du temps lors des audits et des demandes des autorités.

Liste de contrôle : ISO 42001, sauvegarde et cyber-résilience dans les PME

• Inventaire de tous les systèmes et composants d'IA (y compris les services externalisés)
• Évaluation des risques documentée pour chaque système d'IA
• Modèles d'IA et données d'entraînement intégrés dans la stratégie de sauvegarde
• Sauvegarde immuable avec protection WORM mise en œuvre
• Environnement de récupération isolé (Cyber Recovery Vault) disponible
• Vérification automatique de l'intégrité de chaque copie de sauvegarde activée
• Test de récupération des 12 derniers mois : documentation et enregistrement

Conclusion : le système de gestion ISO 42001 dédié à l'IA n'est pas un simple « tigre de papier » – à condition de prendre en compte la sauvegarde et la restauration

La norme ISO 42001 n'est pas un simple document de conformité destiné à finir au fond d'un tiroir. Il s'agit du cadre structurel qui garantit, de manière vérifiable, la sécurité de l'utilisation de l'IA au sein de l'entreprise – vis-à-vis des pirates, des autorités de contrôle et des assureurs. Mais cette norme ne déploie pleinement ses effets que si le niveau opérationnel suit le mouvement : avec des sauvegardes immuables, des processus de reprise validés et un environnement de restauration isolé. Sans ces fondements, toute stratégie de gouvernance de l’IA reste vulnérable.

Source : Cristie Data GmbH. L'entreprise accompagne les PME tout au long du processus, depuis le premier état des lieux jusqu'à la mise en œuvre prête à être auditée.

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/iso-42001-ki-management-system-ein-papiertiger/