{"id":34078,"date":"2024-11-27T09:02:46","date_gmt":"2024-11-27T08:02:46","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=20744"},"modified":"2024-11-28T08:54:40","modified_gmt":"2024-11-28T07:54:40","slug":"ki-qualitaetssicherung-verifikation-und-validierung-am-puls-der-zeit","status":"publish","type":"post","link":"https:\/\/www.organisator.ch\/de\/operational-excellence\/2024-11-27\/ki-qualitaetssicherung-verifikation-und-validierung-am-puls-der-zeit\/","title":{"rendered":"KI-Qualit\u00e4tssicherung: Verifikation und Validierung am Puls der Zeit"},"content":{"rendered":"
\"\"\r\n
Der W-f\u00f6rmige Entwicklungsprozess ist ein nicht-linearer V&V-Workflow, der die Genauigkeit und Zuverl\u00e4ssigkeit von KI-Modellen gew\u00e4hrleistet. (Bild: The MathWorks, Inc.)<\/figcaption>\r\n<\/figure>\r\n

Diese Vorschriften und Regelungen haben insbesondere f\u00fcr sicherheitskritische Systeme mit KI-Komponenten erhebliche Auswirkungen. Um sicherzustellen, dass die Ausgaben eines KI-Modells Vorgaben und Spezifikationen erf\u00fcllen, kommen V&V-Techniken (Verifikation & Validierung) zum Einsatz. Bei der Verifikation wird \u00fcberpr\u00fcft, ob ein KI-Modell gem\u00e4ss den angegebenen Anforderungen erstellt und entwickelt wurde. Bei der Validierung wird \u00fcberpr\u00fcft, ob das Produkt die Anforderungen und Erwartungen des Kunden erf\u00fcllt. V&V-Methoden erm\u00f6glichen dar\u00fcber hinaus eine fr\u00fchzeitige Erkennung von Bugs und Strategien zum Umgang mit verzerrten Daten (Data Bias).<\/p>\r\n

Christoph Stockhammer, Senior Application Engineer bei MathWorks, erl\u00e4utert, wie Ingenieure solche V&V-Prozesse aufsetzen k\u00f6nnen und welchen Nutzen sie bei der Entwicklung von KI-Modellen in sicherheitskritischen Systemen bringen.<\/p>\r\n

Verifizieren und Validieren: Warum KI-Systeme davon profitieren <\/strong><\/h3>\r\n

Ein Vorteil des Einsatzes von KI in sicherheitskritischen Systemen besteht darin, dass KI-Modelle physikalische Systeme approximieren und den Entwurf validieren k\u00f6nnen. Ingenieure simulieren Systeme mit KI-Komponenten und testen anhand der Daten das Verhalten in unterschiedlichen Szenarien, darunter auch bei Ausreisser-Ereignissen. Mit der Durchf\u00fchrung von V&V wird sichergestellt, dass ein KI-gest\u00fctztes sicherheitskritisches System das geforderte Niveau f\u00fcr Leistung und Funktionen unter verschiedenen Bedingungen beibehalten kann.<\/p>\r\n

Die meisten Branchen, in denen Produkte mit KI-Komponenten entwickelt werden, verpflichten ihre Ingenieure zur Einhaltung von Sicherheitsstandards, bevor die Produkte auf dem Markt eingef\u00fchrt werden. Hierzu geh\u00f6ren die Automobil- und Fahrzeugindustrie sowie die Luftfahrt-, Raumfahrt- und R\u00fcstungsindustrie. Mit Zertifizierungsprozessen wird die Integration bestimmter Elemente in diese Produkte sichergestellt. Ingenieure testen mithilfe von V&V die Funktionalit\u00e4t dieser Elemente, was es ihnen erleichtert bzw. \u00fcberhaupt erst erm\u00f6glicht, Zertifizierungen zu erhalten.<\/p>\r\n

Von der Planung zur Praxis: Die Bausteine von V+V-Prozessen<\/strong><\/h3>\r\n

Bei der Durchf\u00fchrung von V&V m\u00fcssen Ingenieure sicherstellen, dass die KI-Komponente die angegebenen Anforderungen erf\u00fcllt, unter allen Betriebsbedingungen zuverl\u00e4ssig bleibt sowie sicher und somit bereit f\u00fcr den Einsatz ist. Der V&V-Prozess f\u00fcr KI umfasst die Durchf\u00fchrung von Software-Assurance-Aktivit\u00e4ten. Diese bestehen aus einer Kombination aus statischen und dynamischen Analysen, Tests, formalen Methoden und Betriebs\u00fcberwachung im realen Einsatz. V&V-Prozesse k\u00f6nnen sich je nach Branche geringf\u00fcgig unterscheiden, umfassen jedoch immer die gleichen allgemeinen Schritte:<\/p>\r\n