Les systèmes d'IA restituent des données : un risque de sécurité sous-estimé

Pendant des années, les responsables de la sécurité se sont concentrés sur les données que leur entreprise transmettait aux systèmes d'IA. Le rapport 2026 de Netskope Threat Labs sur l'IA montre désormais que cette perspective est trop restrictive : le véritable risque provient de plus en plus de la direction opposée. Les systèmes d’IA renvoient des données sensibles à des utilisateurs ou à des agents qui ne devraient absolument pas y avoir accès.

Les infractions en aval ont plus que doublé

Ces infractions dites ’ en aval ’ ont plus que doublé en l'espace d'un an, passant d'une moyenne de 12 à 31 par semaine et par entreprise. Parmi les 25 % d’organisations les plus touchées, ce chiffre est même passé de 72 à 206. Les infractions ’ en aval ’ constituent ainsi déjà la deuxième catégorie de risques liés à l’IA la plus fréquente : sur 10 000 alertes liées à l’IA, 924 correspondent à ce type de cas, soit près d’une sur dix. Seules les infractions « en amont », dans lesquelles les utilisateurs envoient des données sensibles à des services d’IA, sont plus fréquentes (8 752 sur 10 000). Viennent ensuite les infractions liées au filtrage de contenu (154), les tentatives d’injection de prompt et de « jailbreak » (129), ainsi que les demandes ciblées de données sensibles (28). Le code malveillant, avec cinq alertes pour 10 000, constitue la catégorie la plus restreinte, mais aussi la plus critique : un agent autonome peut l’exécuter directement ou l’intégrer dans une base de code plus vaste.

Le MCP, moteur principal de la croissance

L'une des principales raisons de cette évolution est l'essor fulgurant du Model Context Protocol (MCP), grâce auquel les modèles d'IA et les agents se connectent à des sources de données et à des outils externes. En seulement dix semaines, les transactions MCP ont augmenté de 375 %, tandis que le nombre d'utilisateurs a progressé de 250 %. Parmi les principaux clients MCP figurent les agents de codage Claude Code et Codex.

Le codage autonome devient la norme

Claude Code est aujourd'hui la plateforme de codage la plus utilisée et est déployée dans 75 % des entreprises ; Codex suit avec 58 %. Il y a un an, ces deux plateformes affichaient encore un taux d'adoption inférieur à 1 %. La part des entreprises utilisant des applications de codage basées sur l'IA est passée de 42 % à 84 %. Alors que les assistants basés sur des IDE, tels que Github Copilot et Cursor, stagnent, le marché s'oriente vers des outils capables de générer et d'exécuter du code de manière autonome.

L'IA « fantôme » est là pour rester – la tendance s'est inversée

Contrairement aux prévisions du secteur, l'utilisation de l'IA ne se concentre pas sur les plateformes ouvertes. Le recul des applications privées a pris fin en mars 2026 et s'est depuis légèrement inversé : 56 % des utilisateurs s'appuient exclusivement sur des applications gérées, 30 % exclusivement sur des applications privées, et 14 % utilisent les deux. Plutôt que de migrer chaque cas d'utilisation, les entreprises s'appuient de plus en plus sur des lignes directrices. Parallèlement, le champ d'application s'est élargi : des chatbots privés aux agents IA, en passant par les serveurs MCP et les infrastructures IA locales.

Souveraineté des données : deux entreprises sur cinq exploitent leurs modèles en local

41 % des entreprises exploitent des modèles d’IA en local via le framework open source Ollama afin de garder le contrôle sur le lieu de traitement et de réduire les coûts liés au cloud. Gemma4 de Google arrive en tête (42 %), suivi de Qwen d’Alibaba et de Llama de Meta. Exploiter des modèles en local permet de contrôler le lieu de traitement, mais pas automatiquement les interactions. C'est pourquoi l'infrastructure d'IA locale doit elle aussi être rattachée à une passerelle IA centrale.

Autres conclusions clés du rapport

Les données réglementées et le code source représentent chacun 35 % des violations en amont, suivis par la propriété intellectuelle (20 %) ainsi que les mots de passe et les clés d'accès (10 %), qui apparaissent le plus souvent intégrés dans le code source ou les fichiers de configuration. Au niveau des plateformes, le nombre d’utilisateurs est passé de 51 % à 92 % de l’ensemble des entreprises. La plateforme Claude d’Anthropic a détrôné OpenAI en tant que premier fournisseur ; Amazon Bedrock suit de loin à la troisième place. Le volume de prompts a triplé en moyenne, passant de 1 498 à 4 731 par semaine et par entreprise, avec un minimum de 19 292 dans le quartile supérieur. La proportion d’utilisateurs hebdomadaires de l’IA a grimpé en médiane de 34 à 59 %. Par ailleurs, les attaques visant la chaîne d’approvisionnement de l’IA se multiplient : les leurres d’IA contrefaits – notamment les faux programmes d’installation et les outils de développement infectés par des chevaux de Troie – ont connu une forte augmentation en mars 2026 et se maintiennent depuis à un niveau élevé.

« Risques bidirectionnels liés aux agents »

« Le paysage des menaces en 2026 a dépassé le stade de la simple détection de l'IA fantôme pour entrer dans une phase de risques bidirectionnels liés aux agents », explique Ray Canzanese, directeur de Netskope Threat Labs. « Nous ne nous contentons plus depuis longtemps de surveiller les invites que les collaborateurs envoient à des modèles externes. Désormais, nous contrôlons l’intégrité de la chaîne d’approvisionnement de l’IA. L’adoption rapide du Model Context Protocol relie directement les référentiels de données internes aux agents externes, tandis que l’essor fulgurant des outils de codage autonomes tels que Claude Code et Cursor a considérablement abaissé le seuil d’exécution automatisée de code malveillant. Pour les équipes de sécurité, cela marque un tournant : il ne s’agit plus d’un simple contrôle des données, mais d’une inspection bidirectionnelle. Nous devons considérer chaque interaction avec un agent comme un vecteur d’exécution potentiel, et non plus comme une simple requête de données. »

L'analyse présentée dans ce rapport repose sur des données d'utilisation agrégées issues de la plateforme Netskope One, concernant une partie des clients de Netskope, pour la période allant de juin 2025 à juillet 2026.

Plus d'informations : www.netskope.com

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/ki-systeme-geben-daten-zurueck-ein-unterschaetztes-sicherheitsrisiko/