Ce n'est pas l'IA qui représente le plus grand risque, mais ses identités
Des modèles d'IA qui accèdent sans contrôle à des données réelles : ce n'est pas un scénario de science-fiction, mais bien la réalité. Elmar Eperiesi-Beck, PDG de Bare.ID, explique pourquoi les identités non humaines sont devenues un risque de sécurité sous-estimé et ce que les entreprises peuvent faire pour y remédier.
À partir d'un environnement de test, des modèles d'IA développés par Anthropic ont obtenu un accès non autorisé à des données réelles provenant de systèmes réels d'organisations. Le plus choquant dans cette affaire : une analyse de sécurité a révélé que des identités insuffisamment sécurisées permettaient d'accéder à des systèmes de production, qui ont ainsi été compromis.
De l'IoT à l'IA : le principe reste le même
Il y a encore quelques années, les entreprises veillaient scrupuleusement à ce que les machines ou appareils difficiles à sécuriser – tels que les systèmes IoT – ne soient pas connectés au réseau, et encore moins à Internet. Aujourd’hui, en revanche, l’expansion de l’intelligence artificielle et des identités numériques non humaines entraîne notamment une prolifération rapide et incontrôlée de situations potentiellement dangereuses. Ce que les entreprises considéraient autrefois comme dangereux pour leurs systèmes IoT n’intéresse plus guère personne aujourd’hui, compte tenu du nombre croissant d’identités non humaines. Les avantages de l’IA semblent reléguer au second plan les risques liés aux nouvelles technologies.
« Qu'il s'agisse de l'IoT classique ou de l'IA avec des identités non humaines, le principe reste le même. Les identités numériques, quelles qu'elles soient, doivent être soigneusement vérifiées, dotées de droits aussi restrictifs que possible ou totalement limitées sur le réseau », explique Eperiesi-Beck.
La gestion manuelle atteint ses limites
Le nombre considérable d'identités ne permet plus aux organisations de procéder à leur enregistrement et à leur gestion manuellement. Une solution moderne de gestion des identités et des accès (IAM) peut apporter une aide décisive dans ce domaine : elle recense toutes les identités, gère leurs droits et bloque complètement tout accès en cas d'identités inconnues ou compromises.
« Si même des entreprises comme Anthropic, dont on peut supposer qu’elles connaissent parfaitement les risques potentiels liés aux identités numériques, commettent de telles erreurs, comment une entreprise commerciale classique, dont l’activité principale n’est pas l’IA, pourrait-elle faire mieux ? », demande Eperiesi-Beck, avant d’apporter lui-même la réponse : « C’est très simple. En mettant en œuvre une solution IAM éprouvée et, dans l’idéal, même autonome, qui réduit les risques liés aux voies d’accès non identifiées et mal gérées, et en recourant systématiquement aux normes existantes en matière de gestion des identités pour l’IA et l’IoT, qui existent déjà. »
Source et informations complémentaires : www.bare.id
Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/nicht-ki-ist-das-groesste-risiko-sondern-ihre-identitaeten/
