Un chercheur de l’Idiap décroche une subvention BRIDGE « Proof of Concept » pour la création d’un détecteur de deepfakes audio
Le projet d’Ajinkya, intitulé « Proof-of-Voice (PoV) », vise à développer un détecteur de deepfakes audio capable de fonctionner directement sur des smartphones, des navigateurs web ou des ordinateurs portables. L’objectif est de permettre aux particuliers, aux PME et aux communautés numériques de vérifier des contenus audio suspects en temps réel, sans envoyer de données biométriques sensibles vers des serveurs externes.
Le projet s’appuie sur des travaux en IA de détection de voix synthétiques, avec l’objectif de les transformer en outils simples à utiliser et de les tester en conditions réelles pour identifier les appels frauduleux directement sur les appareils. Ces premiers déploiements permettront d’évaluer à la fois la robustesse technique et le potentiel commercial de la solution dans divers contextes.
Le projet vise à aboutir à un système de détection validé, respectueux de la vie privée et fonctionnant directement sur les appareils, ainsi qu’à une boîte à outils prête pour des applications industrielles, visant ainsi à un impact concret dans le monde réel.
Interrogé sur son projet, Ajinkya explique l’origine de son idée: « Là où il y a du contenu généré par l’IA, il y a des deepfakes — et donc le besoin de détecteurs. »
Au-delà de la détection des deepfakes, le projet jette les bases d’une nouvelle génération de modèles vocaux légers capables de prendre en charge des tâches telles que la vérification de l’identité du locuteur, les contrôles d’authenticité et les interactions vocales sécurisées entre humains et IA. Ce faisant, il positionne la recherche et l’industrie suisses comme des acteurs clés dans le développement de technologies vocales fiables et sécurisées basées sur l’intelligence artificielle.
Nous nous réjouissons de suivre l’évolution de ce projet !