Conformité à l'ère de l'IA : ce à quoi les DBA doivent veiller

Pendant longtemps, les bases de données ont été considérées comme des systèmes fiables mais relativement statiques : stocker, interroger, fournir des résultats. Mais avec le triomphe de l'intelligence artificielle, l'architecture et l'exploitation évoluent rapidement. L'optimisation des requêtes et l'indexation assistées par l'IA ainsi que les modèles d'apprentissage automatique intégrés pour les analyses prédictives deviennent de plus en plus la norme. Conséquence : les exigences en matière de gouvernance et de conformité augmentent - et avec elles le champ d'action des administrateurs de bases de données. Du point de vue de Redgate, ces derniers devraient prendre quatre mesures pour pouvoir profiter des avantages des nouvelles fonctions d'IA sans tomber dans des pièges réglementaires :

1. Établir une gouvernance des données. Un bon cadre pour les données est la base de toute stratégie d'IA réussie. Les DBA doivent définir des politiques qui garantissent la qualité, l'intégrité et la sécurité des données. Cela implique de définir clairement les responsabilités en matière de données, de réglementer les droits d'accès et de mettre en œuvre des procédures pour une gestion rigoureuse du cycle de vie des données. Les catalogues de données facilitent la classification et la gestion des métadonnées et garantissent un flux de données transparent. L'utilisation de techniques de masquage des données est en outre indispensable. Elles rendent anonymes les informations sensibles avant qu'elles ne soient utilisées dans le développement, les tests ou d'autres environnements. Les données sont modifiées de manière à ce que les personnes non autorisées ne puissent pas accéder aux informations personnelles, mais que les données puissent toujours être utilisées pour des tests et des analyses. Cela est particulièrement important pour se conformer à des réglementations telles que le RGPD ou la loi américaine HIPAA.
2. Réaliser des audits de données réguliers. Les audits sont aussi essentiels pour les banques de données que les examens préventifs pour la santé. Ils ne se contentent pas de vérifier le respect des exigences réglementaires, mais révèlent également les potentiels d'optimisation. Les outils spéciaux d'observabilité des données sont particulièrement utiles à cet égard. Ils rendent les processus transparents et compréhensibles, enregistrent chaque entrée et sortie de modèles d'IA, détectent les éventuelles distorsions et veillent à ce que les données utilisées pour un modèle puissent être retracées à tout moment. C'est justement dans le contexte des bases de données que l'IA est souvent perçue comme une „boîte noire“. Lorsque des modèles d'apprentissage automatique sont directement intégrés - par exemple pour l'analyse prédictive ou l'optimisation automatique -, les DBA doivent s'assurer que les décisions et les résultats restent explicables. 
3. Sécuriser l'accès de manière conséquente. L'IA n'apporte pas seulement de l'efficacité, mais aussi de nouvelles menaces : l'injection à l'invite, l'empoisonnement des données ou l'exploitation ciblée des points faibles des modèles d'apprentissage automatique peuvent affecter directement les bases de données. Des concepts de protection proactifs et une surveillance continue sont donc plus importants que jamais. Afin d'empêcher au mieux tout accès non autorisé, les concepts de sécurité à plusieurs niveaux sont obligatoires. L'authentification multifactorielle (MFA), le contrôle d'accès basé sur les rôles (RBAC) et les contrôles réguliers des autorisations garantissent que seuls les utilisateurs autorisés disposant des droits minimaux requis travaillent sur les bases de données. Des protocoles d'accès transparents facilitent en outre l'établissement de preuves lors d'audits et réduisent le risque de coûteuses violations de données. 
4. Automatiser le reporting. Pour prouver la conformité, il faut une documentation complète. Les DBA devraient consigner en détail d'où proviennent les données, comment elles sont traitées et comment les modèles d'IA ont été développés. L'idéal est une documentation automatisée et actualisée en permanence par les outils utilisés. Parallèlement, le cadre réglementaire de l'IA évolue de manière dynamique, raison pour laquelle les DBA devraient également rechercher l'échange dans des forums spécialisés et des associations. Ce n'est qu'ainsi qu'ils pourront adapter à temps les nouvelles réglementations et les meilleures pratiques. 

„Avec l'utilisation croissante de l'intelligence artificielle, le profil des administrateurs de bases de données évolue également. Les spécialistes du réglage des requêtes deviennent des spécialistes qui, en plus de leurs tâches traditionnelles, doivent prendre en compte les aspects de la gouvernance, de la surveillance des modèles et de la sécurité. Des connaissances en Machine Learning et une compréhension approfondie des directives de protection des données seront à l'avenir tout aussi importantes que l'expertise classique en matière de bases de données“, explique Oliver Stein, directeur général DACH chez Redgate. „Il est donc indispensable de disposer de règles de gouvernance claires. Cela va des concepts de rôles et de droits aux pistes d'audit pour les plans de requête générés par la machine et les modèles ML, jusqu'à une IA explicable pour répondre aux exigences réglementaires - par exemple celles du RGPD ou des obligations spécifiques au secteur de la finance et de la santé“.“

Source : www.red-gate.com/de/

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/compliance-im-ki-zeitalter-worauf-dbas-achten-muessen/