ISO 42001 KI-Management-System: Ein Papiertiger?

Wer haftet, wenn ein KI-gestütztes Sicherheitssystem einen Angriff übersieht? Wer trägt die Verantwortung, wenn nach einem Ransomware-Vorfall die KI-Modelle selbst kompromittiert sind? Und wie weisen Sie das gegenüber einer Aufsichtsbehörde nach? Genau hier setzt ISO 42001 an – und genau hier wird die Verbindung zu Backup, Cyber Recovery und Cyber Resilience nicht optional, sondern strukturell notwendig.

Was ist das ISO 42001 KI-Management-System – und warum ist es für IT-Sicherheit relevant?

ISO 42001 ist der erste internationale Standard für KI-Management-Systeme. Veröffentlicht im Dezember 2023, definiert er einen Rahmen, mit dem Organisationen den verantwortungsvollen Einsatz von KI planen, steuern, überwachen und verbessern können. Der Standard folgt der bekannten High Level Structure (HLS) – kompatibel mit ISO 27001, ISO 9001 und ISO 22301.

Für IT-Verantwortliche in KMU ist das dann relevant, sobald eines dieser Szenarien zutrifft:

• Sie setzen KI-Tools zur Bedrohungserkennung ein (SIEM, EDR, MDR mit ML-Komponenten)
• Sie nutzen KI-gestützte Backup-Analysen oder automatisierte Recovery-Trigger
• Sie unterliegen NIS2 oder DORA – beide Regelwerke verweisen explizit auf KI-Governance als Teil des Risikomanagements

ISO 42001 verlangt unter anderem: eine Risikobeurteilung für KI-Systeme, definierte Rollen und Verantwortlichkeiten, Massnahmen zur Wahrung von Datenintegrität – und Nachweisführung. Letzteres ist der Punkt, an dem Backup und Recovery ins Spiel kommen.

Die Verbindung zwischen KI-Management und Cyber Resilience

Ein mögliches Szenario: Ein Industrieunternehmen mit 180 Mitarbeitern setzt seit zwei Jahren ein KI-gestütztes Anomalieerkennungssystem ein. Das System lernt permanent dazu – trainiert auf den eigenen Netzwerkdaten. Im März 2024 infiltriert eine APT-Gruppe das Netzwerk. Ziel: nicht die sofortige Verschlüsselung, sondern die schrittweise Vergiftung der Trainingsdaten des KI-Systems. Vier Monate später erkennt das Modell echte Angriffe nicht mehr zuverlässig.

Dieses Angriffsmuster – bekannt als Data Poisoning – ist kein Zukunftsszenario. Es ist dokumentiert und nimmt zu. Für ISO 42001 bedeutet das: Die Integrität von KI-Modellen und deren Trainingsdaten ist ein Schutzziel, das aktiv zu verfolgen ist.

Cyber Resilience ist der organisatorische Rahmen, der genau das leistet. Sie umfasst:

• Identify: Welche KI-Systeme existieren, wo laufen sie, welche Daten nutzen sie?
• Protect: Sind Modelle und Trainingsdaten gegen Manipulation geschützt?
• Detect: Gibt es Mechanismen, die Modellveränderungen erkennen?
• Respond: Was passiert, wenn ein KI-Modell kompromittiert wird?
• Recover: Kann das Modell auf einen validierten, sauberen Stand zurückgesetzt werden?

Genau dieser letzte Punkt – Recover – ist die Brücke zu Backup und Cyber Recovery. Und er ist in der Praxis der am häufigsten vernachlässigte.

EU-Regulierungen wie NIS2 und DORA fordern beide eine nachweisbare Wiederherstellungsfähigkeit für kritische IT-Systeme. Seit Oktober 2024 gilt das für betroffene Unternehmen nicht nur als Best Practice, sondern als Rechtspflicht – mit Bussgeldern bis zu 10 Millionen Euro oder 2 % des weltweiten Jahresumsatzes.

Wie Backup und Cyber Recovery das ISO 42001 KI-Management-System unterstützen

Klassische Backup-Strategien waren auf Datenverlust ausgelegt: Festplattenausfall, versehentliches Löschen, Systemabsturz. Ransomware und Data Poisoning spielen in einer anderen Liga – und erfordern eine andere Antwort. Immutable Backup ist dabei keine Kür, sondern Pflicht. Eine unveränderliche Backup-Kopie – gespeichert nach dem WORM-Prinzip (Write Once, Read Many) – kann weder von Ransomware verschlüsselt noch von einem kompromittierten KI-System überschrieben werden. Sie ist die letzte vertrauenswürdige Instanz.

Konkret bedeutet das für ein mittelständisches Unternehmen, das ISO 42001 implementiert:

1. Backup der KI-Modelle selbst: Nicht nur Produktionsdaten, sondern auch KI-Modelle, Konfigurationen und Trainingsdatensätze müssen in regelmässigen, versionierten Snapshots gesichert werden. Nur so lässt sich ein vergiftetes Modell auf den letzten validierten Stand zurücksetzen.
2. Isolierte Recovery-Umgebung (Clean Room): Die Wiederherstellung eines kompromittierten Systems darf nicht im selben Netzwerk erfolgen, in dem der Angriff stattfand. Eine physisch oder logisch isolierte Umgebung – ein sogenannter Cyber Recovery Vault – stellt sicher, dass auch die wiederhergestellten Systeme nicht sofort erneut angegriffen werden.
3. Automatisierte Validierung: ISO 42001 verlangt Monitoring und kontinuierliche Verbesserung. Translated in Backup-Praxis: Jede Backup-Kopie muss automatisch auf Integrität und Schadsoftware geprüft werden. Eine Datensicherung ohne Validierung ist keine Datensicherung – sie ist ein Sicherheitsgefühl.
4. Dokumentierter Recovery-Prozess: Aufsichtsbehörden unter NIS2 und DORA verlangen Nachweise. Ein Runbook, das den Recovery-Ablauf dokumentiert und regelmässig getestet wird, ist gleichzeitig das Kernelement eines ISO-42001-konformen Incident-Response-Plans für KI-Systeme.

Praktische Umsetzung für KMU

Die häufigste Frage in Erstgesprächen lautet: «Wo fangen wir an?» Die Antwort ist methodisch, nicht technisch.

Schritt 1: KI-Inventar erstellen

Erfassen Sie alle Systeme, die KI-Komponenten enthalten – auch zugekaufte Lösungen wie MDR-Services, SIEM-Plattformen oder intelligente Backup-Analysen. ISO 42001 setzt ein vollständiges Bild voraus.

Schritt 2: Risikobewertung je System

Welche Daten verarbeitet das KI-System? Welche Entscheidungen trifft es autonom? Was passiert, wenn es falsch liegt – oder manipuliert wird? Die Risikobewertung ist die Grundlage aller weiteren Massnahmen.

Schritt 3: Backup-Strategie um KI-Assets erweitern

Prüfen Sie, ob Ihre bestehende Backup-Lösung KI-Modelle und Trainingsdaten einschliesst. Wenn nicht: Das ist Ihre grösste aktuelle Lücke.

Schritt 4: Recovery-Tests dokumentieren

Mindestens einmal jährlich, besser quartalsweise: Testen Sie, ob ein KI-System auf einen validierten Stand zurückgesetzt werden kann. Protokollieren Sie Ergebnis, Dauer und beteiligte Personen.

Schritt 5: Compliance-Mapping

Dokumentieren Sie, welche Massnahmen Ihrer ISO-42001-Implementierung welche NIS2- und DORA-Anforderungen erfüllen. Das spart Zeit bei Audits und Behördenanfragen.

Checkliste: ISO 42001, Backup und Cyber Resilience im Mittelstand

• Alle KI-Systeme und -Komponenten inventarisiert (inkl. zugekaufte Services)
• Risikobeurteilung für jedes KI-System dokumentiert
• KI-Modelle und Trainingsdaten in Backup-Strategie integriert
• Immutable Backup mit WORM-Schutz implementiert
• Isolierte Recovery-Umgebung (Cyber Recovery Vault) vorhanden
• Automatische Integritätsprüfung jeder Backup-Kopie aktiv
• Recovery-Test der letzten 12 Monate dokumentiert und protokolliert

Fazit: ISO 42001 KI-Management-System ist kein Papiertiger – wenn Backup und Recovery mitgedacht werden

ISO 42001 ist kein weiteres Compliance-Dokument für die Schublade. Es ist der strukturelle Rahmen, der den KI-Einsatz im Unternehmen erst nachweisbar sicher macht – gegenüber Angreifern, Aufsichtsbehörden und Versicherern. Aber der Standard entfaltet seine Wirkung nur, wenn die operative Ebene mitgeht: mit Immutable Backups, validierten Recovery-Prozessen und einer isolierten Wiederherstellungsumgebung. Ohne diese Grundlage bleibt jede KI-Governance-Strategie angreifbar.

Quelle: Cristie Data GmbH. Das Unternehmen begleitet mittelständische Unternehmen auf dem Weg von der ersten Bestandsaufnahme bis zur auditfähigen Implementierung.

Dieser Beitrag erschien ursprünglich auf m-q.ch - https://www.m-q.ch/de/iso-42001-ki-management-system-ein-papiertiger/