«La détection de Deepfakes, c'est une course à l'armement»

Peter Grönquist and Yufan Ren in Singapore © AI Singapore / EPFL 2022
Deux spécialistes en informatique de l’EPFL ont remporté un prix important dans le cadre du Trusted Media Challenge de Singapour, une compétition de cinq mois visant à déchiffrer le code des deepfakes.
Apparus il y a seulement quatre ans, les deepfakes sont désormais omniprésents. Alors que cette technologie a ouvert d’incroyables possibilités dans le domaine du cinéma et de la publicité, elle est également connue pour les fake news et les fraudes. Son utilisation soulève des questions quant au danger que ce type de trucage pourrait représenter aujourd’hui et demain.
Peter Grönquist et Yufan Ren du Laboratoire d’images et représentation visuelle (IVRL) de la Faculté informatique et communications, ont récemment participé à un défi mondial visant à améliorer l’identification des deepfakes. Ayant accès à des ensembles de données de vidéos originales et de vidéos truquées avec audio – environ 4000 vrais clips et 8000 clips truqués – sur lesquels les participantes et participants ont pu entraîner et tester leurs modèles, Peter Grönquist et Yufan Ren ont créé un modèle d’intelligence artificielle qui estime la probabilité qu’une vidéo soit truquée.
«Notre approche a consisté à créer un algorithme qui sépare la vidéo, l’audio et la synchronisation des deux et à examiner tous ces aspects séparément. En procédant étape par étape, il a été beaucoup plus facile d’examiner les données et de les analyser», déclare Peter Grönquist. «Mais il y avait des obstacles. Nous avions une limite de temps de 9 secondes par clip vidéo pour prédire s’il s’agissait d’un deepfake ou non. Il était donc impossible de regarder l’ensemble des 90 secondes de la vidéo image par image. Nous avons dû améliorer notre algorithme pour qu’il soit très efficace», poursuit-il.
«Cette expérience a vraiment été intéressante. Nous avons été en tête pendant toute la première partie du défi. À mi-parcours, nous avons dû garder un œil sur le classement pour voir si une autre équipe allait pouvoir nous rattraper. Et en plus de la limite de temps, il y avait une limite de remise, ce qui signifie que nous ne pouvions pas simplement tester et essayer notre algorithme encore et encore, nous avons vraiment dû réfléchir à ce que nous voulions tester dans la limite de temps et de budget», ajoute Yufan Ren.
Peter Grönquist et Yufan Ren ont finalement décroché la deuxième place, remportant un prix de plus de 100 000 CHF, qu’ils consacreront à de nouvelles recherches et éventuellement à la création d’une start-up axée sur la détection des deepfakes. Ils sont déjà en discussion avec plusieurs entreprises pour explorer les différentes possibilités qui existent.
«Ce sujet nous passionne. Il s’agit d’une course à l’armement permanente entre la création et la détection. Nous devons continuer à développer de nouvelles technologies de détection chaque fois que quelqu’un conçoit une nouvelle technologie de création de deepfakes. La technologie évolue si rapidement en matière de création que même si nous disposons aujourd’hui d’une solution pour détecter, disons, 98% des vidéos truquées, nous ne sommes pas certains que nos solutions fonctionneront pour les technologies de demain», explique Peter Grönquist.
Lors d’une cérémonie de remise de prix à Singapour, Yufan Ren a confié que l’équipe était ravie du résultat et très reconnaissante du soutien de la professeure Sabine Süsstrunk, responsable du Laboratoire d’images et représentation visuelle. «Cela n’aurait jamais été possible sans elle ou sans l’IVRL. Elle nous a tout de suite proposé de participer. Elle nous a motivés à nous lancer et à le faire, et nous a également fourni un retour d’information technique en cours de route. Je suis certain que notre réussite n’aurait jamais été possible sans Sabine et nous lui en sommes très reconnaissants. Au début, nous nous attendions à échouer, alors nous avons eu du mal à croire que nous avions réussi lorsque le résultat final est tombé», conclut-il.