{"id":34078,"date":"2024-11-27T09:02:46","date_gmt":"2024-11-27T08:02:46","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=20744"},"modified":"2024-11-28T08:54:40","modified_gmt":"2024-11-28T07:54:40","slug":"ki-qualitaetssicherung-verifikation-und-validierung-am-puls-der-zeit","status":"publish","type":"post","link":"https:\/\/www.organisator.ch\/fr\/operational-excellence\/2024-11-27\/ki-qualitaetssicherung-verifikation-und-validierung-am-puls-der-zeit\/","title":{"rendered":"Assurance qualit\u00e9 IA : v\u00e9rification et validation au c\u0153ur de l'actualit\u00e9"},"content":{"rendered":"
\"\"\r\n
Le processus de d\u00e9veloppement en forme de W est un flux de travail V&V non lin\u00e9aire qui garantit la pr\u00e9cision et la fiabilit\u00e9 des mod\u00e8les d'IA. (Image : The MathWorks, Inc.)<\/figcaption>\r\n<\/figure>\r\n

Ces r\u00e8gles et r\u00e9glementations ont un impact consid\u00e9rable, en particulier pour les syst\u00e8mes critiques en termes de s\u00e9curit\u00e9 qui comportent des composants d'intelligence artificielle. Les techniques de V&V (v\u00e9rification et validation) sont utilis\u00e9es pour garantir que les sorties d'un mod\u00e8le d'IA respectent les directives et les sp\u00e9cifications. La v\u00e9rification consiste \u00e0 v\u00e9rifier qu'un mod\u00e8le d'IA a \u00e9t\u00e9 cr\u00e9\u00e9 et d\u00e9velopp\u00e9 conform\u00e9ment aux exigences sp\u00e9cifi\u00e9es. La validation consiste \u00e0 v\u00e9rifier si le produit r\u00e9pond aux exigences et aux attentes du client. Les m\u00e9thodes V&V permettent en outre une d\u00e9tection pr\u00e9coce des bugs et des strat\u00e9gies de traitement des donn\u00e9es d\u00e9form\u00e9es (data bias).<\/p>\r\n

Christoph Stockhammer, Senior Application Engineer chez MathWorks, explique comment les ing\u00e9nieurs peuvent mettre en place de tels processus de V&V et quels avantages ils apportent lors du d\u00e9veloppement de mod\u00e8les d'IA dans des syst\u00e8mes critiques pour la s\u00e9curit\u00e9.<\/p>\r\n

V\u00e9rification et validation : Pourquoi les syst\u00e8mes d'IA en b\u00e9n\u00e9ficient-ils ? <\/strong><\/h3>\r\n

L'un des avantages de l'utilisation de l'IA dans les syst\u00e8mes critiques pour la s\u00e9curit\u00e9 r\u00e9side dans le fait que les mod\u00e8les d'IA permettent d'approximer les syst\u00e8mes physiques et de valider la conception. Les ing\u00e9nieurs simulent des syst\u00e8mes avec des composants d'IA et testent, \u00e0 l'aide des donn\u00e9es, le comportement dans diff\u00e9rents sc\u00e9narios, y compris en cas d'\u00e9v\u00e9nements aberrants. L'ex\u00e9cution de la R&D garantit qu'un syst\u00e8me critique pour la s\u00e9curit\u00e9 bas\u00e9 sur l'IA peut maintenir le niveau requis de performances et de fonctionnalit\u00e9s dans diff\u00e9rentes conditions.<\/p>\r\n

La plupart des secteurs dans lesquels des produits contenant des composants d'IA sont d\u00e9velopp\u00e9s obligent leurs ing\u00e9nieurs \u00e0 respecter des normes de s\u00e9curit\u00e9 avant que les produits ne soient mis sur le march\u00e9. Il s'agit notamment de l'industrie automobile et des v\u00e9hicules, ainsi que de l'industrie a\u00e9ronautique, spatiale et de la d\u00e9fense. Les processus de certification garantissent l'int\u00e9gration de certains \u00e9l\u00e9ments dans ces produits. Les ing\u00e9nieurs testent la fonctionnalit\u00e9 de ces \u00e9l\u00e9ments \u00e0 l'aide de la V&V, ce qui leur permet d'obtenir plus facilement des certifications, voire de les obtenir tout court.<\/p>\r\n

De la planification \u00e0 la pratique : les \u00e9l\u00e9ments constitutifs des processus D+A<\/strong><\/h3>\r\n

Lors de la r\u00e9alisation de la R&D, les ing\u00e9nieurs doivent s'assurer que le composant d'IA r\u00e9pond aux exigences sp\u00e9cifi\u00e9es, qu'il reste fiable dans toutes les conditions de fonctionnement et qu'il est s\u00fbr et donc pr\u00eat \u00e0 \u00eatre utilis\u00e9. Le processus de V&V pour l'IA comprend la r\u00e9alisation d'activit\u00e9s d'assurance logicielle. Il s'agit d'une combinaison d'analyses statiques et dynamiques, de tests, de m\u00e9thodes formelles et de surveillance de l'exploitation en situation r\u00e9elle. Les processus de R&D peuvent varier l\u00e9g\u00e8rement en fonction du secteur, mais ils comprennent toujours les m\u00eames \u00e9tapes g\u00e9n\u00e9rales :<\/p>\r\n