PXL Vision e Idiap sviluppano un rilevatore di deepfake

PXL Vision, fornitore svizzero premium per la verifica dell'identità digitale, e l'Idiap Research Institute, una delle istituzioni leader in Europa per l'intelligenza artificiale e la biometria, hanno completato con successo il loro progetto di ricerca congiunto per migliorare il riconoscimento dei deepfake. La collaborazione, iniziata nella primavera del 2024, si è concentrata sull'identificazione di volti sintetici nella verifica dell'identità digitale.

Queste immagini generate dall'intelligenza artificiale di persone presumibilmente reali stanno diventando sempre più diffuse e rappresentano un'enorme sfida per la verifica dell'identità. Questo perché sono ormai quasi indistinguibili dalle immagini reali. Il progetto di ricerca è stato sostenuto dall'Agenzia svizzera per l'innovazione Innosuisse.

Sono riconoscibili tre tipi di manipolazione

Il cosiddetto deepfake detector è ora integrato come nuova tecnologia chiave nella soluzione software PXL Ident di PXL Vision ed è disponibile per tutti i clienti. Il PXL Deepfake Detector integra le tecnologie di prevenzione delle frodi esistenti ed è progettato per identificare tre tipi di manomissione: Face swapping, ovvero la sostituzione del volto di una persona con quello di un'altra, face impersonation, ovvero la manipolazione delle espressioni facciali o dei movimenti di una persona reale, e volti completamente sintetici, ovvero immagini generate dall'intelligenza artificiale di persone che non esistono nella realtà.

La tecnologia è disponibile per tutti i clienti dall'inizio dell'anno. Si basa su architetture avanzate di deep learning ed è stata addestrata su un ampio set di dati di immagini facciali reali e manipolate. Il rilevatore di deepfake rappresenta un'importante pietra miliare nella missione dell'azienda di garantire fiducia, autenticità e conformità nella verifica dell'identità digitale.

La sfida dei documenti d'identità

Sébastien Marcel, responsabile del Gruppo Sicurezza Biometrica e Privacy e membro del team di gestione ad interim di Idiap, afferma: «Nell'ambito del progetto, abbiamo sviluppato tecnologie avanzate basate sull'intelligenza artificiale per individuare e difendere dai deepfakes e da altre forme di frode d'identità. Questo risultato riflette la lunga esperienza di Idiap nella biometria, nella sicurezza dell'intelligenza artificiale e nell'identità digitale affidabile. La nostra collaborazione con PXL Vision è stata produttiva e stimolante. Non vediamo l'ora di continuare a spingere i confini della verifica dell'identità robusta e conforme alla privacy in futuro».»

La sfida più grande per Sébastien Marcel e il suo team è stata quella di utilizzare la propria esperienza nel campo della biometria per risolvere un problema nuovo e impegnativo: I documenti d'identità. «Avevamo un'esperienza limitata con i documenti d'identità e siamo stati in grado di basarci sulla profonda competenza di PXL in questo settore», continua Marcel. «Il risultato ottenuto ha superato le nostre aspettative iniziali».»

«Lavorare con il team di Idiap è stato estremamente gratificante», afferma Nevena Shamoska, CTO di PXL Vision. «Grazie alle loro competenze di livello mondiale nel campo della biometria e dell'IA generativa, siamo stati in grado di accelerare in modo significativo i nostri progressi nell'integrazione di capacità di rilevamento deepfake all'avanguardia nella nostra piattaforma.»

Ulteriori investimenti previsti

PXL Vision continuerà a investire nella ricerca sulla sicurezza biometrica, sull'AI forense e sulla resilienza ai deepfake per proteggere efficacemente i clienti dei settori finanziario, delle telecomunicazioni e governativo dagli attacchi alle identità digitali di prossima generazione. Idiap stessa analizzerà scientificamente i risultati del progetto di ricerca e li utilizzerà come contenuti per white paper e conferenze specialistiche.

Ulteriori informazioni: www.pxl-vision.com

Questo articolo è apparso originariamente su m-q.ch - https://www.m-q.ch/de/pxl-vision-und-idiap-entwickeln-deepfake-detektor/