Les agents IA : la menace interne sous-estimée

Lorsque les entreprises parlent d’identités numériques, elles ne font plus depuis longtemps référence uniquement à leurs employés, à leurs comptes de service, à leurs plateformes d’automatisation et à leurs bots. En effet, il y a un peu moins de deux ans, un nouveau type d’identité numérique, très différent, a fait son apparition : les agents IA. Contrairement aux identités machines traditionnelles, les agents IA ne suivent pas une séquence d’instructions rigide. Ils opèrent de manière indépendante et autonome. Ils sont capables de planifier, de choisir des outils, d’appeler des API, de générer du code et même de déléguer des tâches.

Un risque de préjudice considérable – à peine pris en compte

L'étendue de leurs possibilités d'utilisation, leur autonomie et leurs droits d'accès souvent très étendus font des agents IA une source de risque présentant un potentiel de dommages considérable. Un risque de sécurité dont la véritable ampleur commence tout juste à être prise en compte dans la plupart des entreprises. Selon une étude de la Cloud Security Alliance, 82 % des entreprises utilisent actuellement des agents IA dont l’existence est inconnue des équipes de cybersécurité concernées. Seules 32 % des entreprises ont mis en place des contrôles pour gérer leurs risques liés à l’IA, selon une étude récente de Cyberark. Et seules 28 % d’entre elles estiment pouvoir empêcher un agent d’IA de causer des dommages au sein de leur écosystème, d’après une étude de Keyfactor.

Il n'est donc pas étonnant que près des deux tiers des entreprises interrogées aient déploré, l'année dernière, au moins un incident de sécurité lié aux agents d'IA. Les conséquences ont parfois été considérables : 61 % des incidents ont entraîné des fuites de données, 43 % des perturbations opérationnelles et 35 % ont même causé des pertes financières.

De nouveaux vecteurs d'attaque se développent à un rythme effréné

L'une des causes principales de ces incidents de sécurité réside dans la compromission d'agents d'IA par des attaquants. Partout dans le monde, l’injection de prompts, le détournement d’objectifs, l’escalade de privilèges et l’empoisonnement de mémoire sont rapidement devenus des vecteurs d’attaque très répandus. Pour les services de cybersécurité d’une entreprise, il est difficile de détecter et de contrer ces attaques à temps. L’attaquant n’a pas besoin de voler des identifiants. Il lui suffit de parvenir à manipuler les entrées qui attribuent leurs tâches aux agents d’IA, par exemple via des e-mails, des tickets d’assistance ou des sites web piégés.

À cela s'ajoute un facteur aggravant : les clés API des agents IA sont généralement valables à durée indéterminée, leurs droits d'accès sont bien trop étendus et leur surveillance est, en règle générale, insuffisante. Les agents IA offrent ainsi les conditions idéales pour devenir la prochaine menace interne.

La transparence, première étape vers la sécurité

Pour maîtriser efficacement ce risque, les entreprises doivent avant tout faire une chose : instaurer la transparence. Un inventaire de tous les agents d'IA utilisés dans l'écosystème informatique est à cet égard une nécessité absolue. Ensuite, le principe du « Zero Trust » doit être appliqué de manière systématique à tous les agents d'IA. Un agent chargé de regrouper les tickets ne doit en aucun cas avoir accès aux bases de données confidentielles des clients. De plus, les droits d’accès permanents devraient être remplacés par des droits d’accès temporaires.

Afin de détecter le plus tôt possible toute activité inhabituelle liée à l'IA, les équipes de sécurité devraient passer de la vérification de l'identité d'un agent à la surveillance de son comportement. Des solutions adaptées – telles qu’Agent Risk Manager –, capables d’aider efficacement les équipes de cybersécurité à mettre en place des mesures visant à minimiser les risques liés à leurs agents IA, sont déjà disponibles sur le marché.

Les responsables de la cybersécurité doivent prendre conscience que les agents d'IA font depuis longtemps partie intégrante du personnel numérique de leur entreprise. Ils doivent être protégés différemment des identités humaines et des identités machine. Ils peuvent facilement être manipulés et transformés en menace interne. Il faut s’en prémunir grâce à des politiques efficaces et à une sécurité globale de la main-d’œuvre numérique, qui contribue à protéger tous les éléments de cette nouvelle main-d’œuvre numérique.

Plus d'informations : www.knowbe4.com

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/ki-agenten-die-unterschaetzte-insider-bedrohung/