KI-Agenten: Die unterschätzte Insider-Bedrohung
KI-Agenten sind längst fester Bestandteil der digitalen Belegschaft – doch ihr Sicherheitsrisiko wird in vielen Unternehmen noch immer unterschätzt. Erich Kron, CISO Advisor bei Knowbe4, erklärt, warum autonome KI-Systeme zur neuen Insider-Bedrohung werden und was Unternehmen dagegen tun müssen.
Sprechen Unternehmen von digitalen Identitäten, meinen sie damit schon lange nicht mehr nur ihre menschlichen Angestellten, ihre Dienstkonten, Automatisierungsplattformen und Bots. Denn vor knapp zwei Jahren ist eine neue, ganz andere Art von digitaler Identität hinzugekommen: KI-Agenten. Anders als traditionelle maschinelle Identitäten folgen KI-Agenten keiner starren Befehlsabfolge. Sie operieren eigenständig und autonom. Sie können planen, Tools auswählen, APIs aufrufen, Code generieren und Aufgaben sogar delegieren.
Erhebliches Schadenspotential – kaum wahrgenommen
Die Bandbreite ihrer Einsatzmöglichkeiten, ihre Eigenständigkeit und ihre häufig sehr weitreichenden Zugriffsrechte machen KI-Agenten zu einem Risikoherd mit erheblichem Schadenspotential. Zu einem Sicherheitsrisiko, über dessen wahres Ausmass man sich in den meisten Unternehmen gerade erst klar zu werden beginnt. Laut einer Studie der Cloud Security Alliance kommen derzeit in 82 Prozent aller Unternehmen KI-Agenten zum Einsatz, von deren Existenz die entsprechenden Cybersicherheits-Teams nicht wissen. Nur 32 Prozent aller Unternehmen haben gemäss einer aktuellen Cyberark-Studie Kontrollen zum Management ihrer KI-bedingten Risiken implementiert. Und nur 28 Prozent gehen laut einer Keyfactor-Studie davon aus, verhindern zu können, dass ein KI-Agent in ihrem Ökosystem Schaden anrichtet.
Kein Wunder, dass fast zwei Drittel aller befragten Unternehmen im vergangenen Jahr mindestens einen Sicherheitsvorfall zu beklagen hatten, der mit KI-Agenten in Zusammenhang stand. Die Folgen waren teils erheblich: 61 Prozent der Vorfälle führten zu Datenlecks, 43 Prozent zu Betriebsstörungen und 35 Prozent sogar zu finanziellen Einbussen.
Neue Angriffsvektoren etablieren sich rasant
Eine zentrale Ursache dieser Sicherheitsvorfälle ist die Kompromittierung von KI-Agenten durch Angreifer. Weltweit haben sich Prompt Injection, Goal Hijacking, Privilege Escalation und Memory Poisoning innerhalb kürzester Zeit zu beliebten Angriffsvektoren entwickelt. Für die Cybersicherheit eines Unternehmens ist es schwer, solche Attacken rechtzeitig zu erfassen und abzuwehren. Der Angreifer muss keine Zugangsdaten stehlen. Es reicht völlig aus, wenn es ihm gelingt, die Eingaben, die dem KI-Agenten seine Aufgaben zuweisen, zu manipulieren – etwa über präparierte E-Mails, Support-Tickets oder Websites.
Erschwerend kommt hinzu: Die API-Schlüssel der KI-Agenten sind meist zeitlich unbefristet, ihre Zugangsberechtigungen viel zu weitreichend und ihre Überwachung in aller Regel ungenügend. Damit bieten KI-Agenten ideale Voraussetzungen, zur nächsten Insider-Bedrohung zu werden.
Transparenz als erster Schritt zur Absicherung
Um dieses Risiko erfolgreich in den Griff zu bekommen, müssen Unternehmen zunächst vor allem eines tun: Transparenz schaffen. Ein Inventar aller im IT-Ökosystem eingesetzten KI-Agenten ist dabei eine zwingende Notwendigkeit. Dann muss das Prinzip Zero Trust konsequent auf sämtliche KI-Agenten angewandt werden. Ein Agent zur Ticket-Zusammenfassung darf keinen Zugriff auf vertrauliche Kundendatenbanken erhalten. Darüber hinaus sollten dauerhafte durch temporäre Zugriffsrechte ersetzt werden.
Um ungewöhnliche KI-Aktivitäten möglichst frühzeitig zu erkennen, sollten Sicherheitsteams von der Überprüfung der Identität eines Agenten zur Überwachung seines Verhaltens übergehen. Entsprechende Lösungen – wie etwa Agent Risk Manager –, die Cybersicherheitsteams bei Massnahmen zur Minimierung der Risiken ihrer KI-Agenten effektiv unterstützen können, sind bereits am Markt erhältlich.
Die Cybersicherheit muss sich klar werden, dass KI-Agenten längst einen festen Bestandteil der digitalen Belegschaft ihres Unternehmens bilden. Sie müssen anders abgesichert werden als menschliche und Maschinenidentitäten. Leicht können sie manipuliert und zu einem Insider Threat umfunktioniert werden. Hiergegen gilt es sich zu schützen – mit guten Policies und einer umfassenden Digital Workforce Security, die hilft, alle Teile der neuen digitalen Belegschaft abzusichern.
Weitere Informationen: www.knowbe4.com
Dieser Beitrag erschien ursprünglich auf m-q.ch - https://www.m-q.ch/de/ki-agenten-die-unterschaetzte-insider-bedrohung/
