PXL Vision und Idiap entwickeln Deepfake-Detektor

PXL Vision, Schweizer Premiumanbieter für digitale Identitätsprüfung, und das Idiap Research Institute, eines der europaweit führenden Institutionen für künstliche Intelligenz und Biometrie, haben ihr gemeinsames Forschungsprojekt zur besseren Erkennung von Deepfakes erfolgreich abgeschlossen. Der Schwerpunkt der im Frühjahr 2024 begonnenen Zusammenarbeit lag bei der Identifikation von synthetischen Gesichtern bei der digitalen Identitätsprüfung.

Diese KI-generierten Bilder von vermeintlich echten Personen verbreiten sich immer mehr und stellen eine enorme Herausforderung für die Identitätsprüfung dar. Denn sie sind mittlerweile kaum noch von realen Bildern zu unterscheiden. Das Forschungsprojekt wurde unterstützt von der Schweizerischen Agentur für Innovationsförderung Innosuisse.

Drei Arten von Manipulationen erkennbar

Der sogenannte Deepfake-Detektor ist nun als neue Schlüsseltechnologie in die Software-Lösung PXL Ident von PXL Vision integriert und für alle Kunden verfügbar. Der PXL Deepfake-Detektor ergänzt die bereits existierenden Technologien zur Betrugsprävention und wurde entwickelt, um drei Arten von Manipulationen zu identifizieren: Gesichtstausch, also das Ersetzen des Gesichts einer Person durch das einer anderen Person, Gesichtsnachstellungen, die Manipulation von Gesichtsausdrücken oder Bewegungen einer realen Person, sowie vollständig synthetische Gesichter, also KI-generierte Bilder von Personen, die in der Realität nicht existieren.

Die Technologie ist seit Beginn des Jahres für alle Kunden verfügbar. Sie basiert auf fortschrittlichen Deep-Learning-Architekturen und wurde anhand eines vielfältigen, umfangreichen Datensatzes aus echten und manipulierten Gesichtsbildern trainiert. Der Deepfake-Detektor stellt einen wichtigen Meilenstein in der Mission des Unternehmens dar, Vertrauen, Authentizität und Compliance bei der digitalen Identitätsprüfung sicherzustellen.

Herausforderung Ausweisdokumente

Sébastien Marcel, Leiter der Gruppe für biometrische Sicherheit und Datenschutz und Mitglied des Interims-Managementteams bei Idiap, sagt: «Im Rahmen des Projekts haben wir fortschrittliche KI-basierte Technologien entwickelt, um Deepfakes und andere Formen des Identitätsbetrugs zu erkennen und abzuwehren. Diese Errungenschaft spiegelt die langjährige Expertise von Idiap in den Bereichen Biometrie, KI-Sicherheit und vertrauenswürdige digitale Identität wider. Unsere Zusammenarbeit mit PXL Vision war sowohl produktiv als auch inspirierend. Wir freuen uns darauf, auch künftig die Grenzen einer robusten, datenschutzkonformen Identitätsprüfung zu erweitern.»

Die grösste Herausforderung für Sébastien Marcel und sein Team bestand darin, ihr Know-how im Bereich Biometrie zu nutzen, um ein neues, anspruchsvolles Problem zu lösen: Ausweisdokumente. «Wir verfügten nur über begrenzte Erfahrung mit Ausweisdokumenten und konnten auf das fundierte Fachwissen von PXL in diesem Bereich aufbauen», fährt Marcel fort. «Das erzielte Ergebnis hat unsere ursprünglichen Erwartungen übertroffen.»

«Die Zusammenarbeit mit dem Idiap-Team war äusserst bereichernd», sagt Nevena Shamoska, CTO von PXL Vision. «Dank dessen erstklassigen Expertise in den Bereichen Biometrie und generativer KI konnten wir unsere Fortschritte bei der Integration modernster Deepfake-Erkennungsfunktionen in unsere Plattform erheblich beschleunigen.»

Weitere Investitionen geplant

PXL Vision wird auch künftig in die Forschung zu biometrischer Sicherheit, KI-Forensik und Deepfake-Resilienz investieren, um Kunden aus den Bereichen Finanzwesen, Telekommunikation und Behörden wirksam vor Angriffen auf digitale Identitäten der nächsten Generation zu schützen. Idiap selbst wird die gewonnenen Erkenntnisse aus dem Forschungsprojekt wissenschaftlich aufbereiten und sie als Inhalt für Whitepaper und Fachkonferenzen nutzen.

Weitere Informationen: www.pxl-vision.com

Dieser Beitrag erschien ursprünglich auf m-q.ch - https://www.m-q.ch/de/pxl-vision-und-idiap-entwickeln-deepfake-detektor/