PXL Vision et l'Idiap mettent au point un détecteur de failles profondes

PXL Vision, fournisseur suisse haut de gamme de vérification de l'identité numérique, et l'Idiap Research Institute, l'une des principales institutions européennes en matière d'intelligence artificielle et de biométrie, ont achevé avec succès leur projet de recherche commun visant à améliorer la détection des fakes profonds. La collaboration, qui a débuté au printemps 2024, s'est concentrée sur l'identification de visages synthétiques lors de la vérification de l'identité numérique.

Ces images générées par l'IA de personnes supposées réelles se répandent de plus en plus et représentent un énorme défi pour la vérification de l'identité. En effet, il est désormais difficile de les distinguer des images réelles. Le projet de recherche a été soutenu par Innosuisse, l'agence suisse pour la promotion de l'innovation.

Trois types de manipulations identifiables

Le détecteur de fraude profonde est désormais une nouvelle technologie clé intégrée dans la solution logicielle PXL Ident de PXL Vision et disponible pour tous les clients. Le détecteur PXL Deepfake complète les technologies de prévention de la fraude déjà existantes et a été développé pour identifier trois types de manipulations : L'échange de visages, c'est-à-dire le remplacement du visage d'une personne par celui d'une autre, les faux visages, la manipulation des expressions faciales ou des mouvements d'une personne réelle, et les visages entièrement synthétiques, c'est-à-dire les images générées par l'IA de personnes qui n'existent pas dans la réalité.

La technologie est disponible pour tous les clients depuis le début de l'année. Elle est basée sur des architectures d'apprentissage en profondeur avancées et a été entraînée à l'aide d'un ensemble de données variées et étendues d'images faciales réelles et manipulées. Le détecteur Deepfake représente une étape importante dans la mission de l'entreprise visant à garantir la confiance, l'authenticité et la conformité dans la vérification de l'identité numérique.

Le défi des documents d'identité

Sébastien Marcel, responsable du groupe de sécurité biométrique et de protection des données et membre de l'équipe de direction intérimaire de l'Idiap, déclare : «Dans le cadre de ce projet, nous avons développé des technologies avancées basées sur l'IA pour détecter et contrer les deepfakes et autres formes de fraude à l'identité. Cette réalisation reflète la longue expertise de l'Idiap dans les domaines de la biométrie, de la sécurité par IA et de l'identité numérique de confiance. Notre collaboration avec PXL Vision a été à la fois productive et inspirante. Nous sommes impatients de continuer à repousser les limites d'une vérification d'identité robuste et respectueuse de la vie privée».»

Le plus grand défi de Sébastien Marcel et de son équipe a été de mettre à profit leur savoir-faire en matière de biométrie pour résoudre un problème nouveau et ambitieux : Les documents d'identité. «Nous n'avions qu'une expérience limitée des documents d'identité et nous avons pu nous appuyer sur la solide expertise de PXL dans ce domaine», poursuit Marcel. «Le résultat obtenu a dépassé nos attentes initiales».»

«La collaboration avec l'équipe de l'Idiap a été extrêmement enrichissante», déclare Nevena Shamoska, CTO de PXL Vision. «Grâce à son expertise de premier ordre dans les domaines de la biométrie et de l'IA générative, nous avons pu accélérer considérablement nos progrès dans l'intégration des fonctionnalités de détection de pointe de deepfake dans notre plateforme».»

D'autres investissements prévus

PXL Vision continuera à investir dans la recherche sur la sécurité biométrique, l'IA forensique et la résilience deepfake afin de protéger efficacement les clients des secteurs de la finance, des télécommunications et du gouvernement contre les attaques d'identités numériques de nouvelle génération. L'Idiap lui-même traitera scientifiquement les connaissances acquises dans le cadre du projet de recherche et les utilisera comme contenu pour des livres blancs et des conférences spécialisées.

Plus d'informations : www.pxl-vision.com

Cet article est paru initialement sur m-q.ch - https://www.m-q.ch/de/pxl-vision-und-idiap-entwickeln-deepfake-detektor/