L'IA et les deepfakes sur le devant de la scène à Davos

Le Forum économique mondial se tient chaque année, en janvier, dans la station de villégiature suisse de Davos. Cette année, cet événement a rassemblé près de 3 000 délégués, dont plus de 60 dirigeants mondiaux. En 2024, l’un des quatre principaux thèmes était l’intelligence artificielle, moteur de l’économie et de la société.

Les deepfakes: une course à la rivalité

Alors que plus de 60 pays, dont les États-Unis, le Royaume-Uni et l’Inde, ainsi que l’Union européenne, s’apprêtent à organiser des élections nationales, le Forum économique mondial a considéré la désinformation comme la principale menace pour 2024. Certains commentateurs et commentatrices politiques ont déjà alerté sur le risque que les deepfakes perturbent les élections en 2024.

Accueillis à Davos par le WSL Institute for Snow and Avalanche Research SLF, des chercheuses et chercheurs du Laboratoire d’images et représentation visuelle (IVRL) de l'EPFL, dirigé par la professeure Sabine Süsstrunk, ont proposé aux délégués du Forum économique mondial, dont le conseiller fédéral suisse Guy Parmelin, de faire l’expérience des deepfakes et de découvrir comment l’EPFL travaille sur leur détection.

«Il est toujours difficile d’expliquer nos recherches très techniques sur les deepfakes au grand public. Le labyrinthe a donc permis de limiter la recherche aux aspects fondamentaux et de vraiment souligner les capacités des technologies. J’espère qu’ils n’oublieront pas cette expérience et qu’ils réfléchiront à deux fois à l’authenticité d’une vidéo paraissant réelle, montrant un pape qui danse. Il est vraiment facile de se faire piéger. C’est pourquoi les deepfakes représentent une si grande menace», déclare Peter Grönquist, ingénieur chercheur à l’IVR de la Faculté informatique et communications (IC) .

On peut se protéger des fausses informations et de la désinformation diffusées par les deepfakes. «Il faut vérifier la source et avoir conscience des capacités des technologies. Les gens doivent avoir la possibilité de s’informer sur les technologies existantes et sur celles qui sont envisageables à l’avenir. Une fois que l’on connaît les méthodes de deepfake, il devient beaucoup plus difficile de se faire piéger», poursuit Peter Grönquist.

De Lausanne à Davos et peut-être au-delà, le labyrinthe a été conçu à l’origine par la responsable communication de la Faculté IC, Deirdre Rochat, comme une manière ludique de sensibiliser l’opinion publique.

«Je pense que les rires provoqués par chaque faux miroir ont vraiment marqué les esprits. Le labyrinthe montre vraiment ce que les deepfakes peuvent faire. C’est une installation qui a été mise en service lors d’une Journée portes ouvertes sur le campus et qui est maintenant utilisée lors d’autres événements pour faire connaître les recherches majeures en matière de désinformation. Nous sommes fiers de l’impact qu’elle a déjà eu», affirme Deirdre Rochat.

La recherche suisse s’associe à l’IA au niveau national

Pour relever des défis tels que ceux du contenu généré par l’IA, l’AI House Davos a organisé un vaste programme sur la manière d’utiliser l’IA au profit de tous, d’équilibrer l’innovation et les risques et d’assurer l’interface avec d’autres technologies émergentes telles que l’informatique quantique et la biotechnologie.

L’un des nouveaux partenariats présentés était la Swiss AI Initiative. Il s’agit d’un regroupement des ressources de recherche suisses en matière d’IA au niveau national, qui comprend les centres d’IA de l’EPFL et de l’ETH Zurich, pour la souveraineté suisse en matière d’IA.

Cette initiative fera de la Suisse un pôle mondial de premier plan pour le développement et la mise en œuvre d’une intelligence artificielle transparente et fiable. Le nouveau superordinateur ALPS, basé au Centre suisse de calcul scientifique, fournit l’infrastructure de classe mondiale nécessaire. Cet ordinateur, l’un des plus performants au monde, permet aux scientifiques suisses de bénéficier d’une puissance de calcul réservée aux plus grandes entreprises technologiques mondiales.

L’objectif de cette initiative est de développer et d’entraîner de nouveaux grands modèles de langage (LLM) transparents et open source, en indiquant clairement comment les modèles ont été entraînés, quelles données ont été utilisées et comment les résultats ont été récupérés. Beaucoup d’enseignantes et d’enseignants de la Faculté IC codirigent des projets à l’aide d’ALPS, y compris sur les modèles de fondation pour la santé, la médecine et l’éducation.

Par ailleurs, les chercheuses et chercheurs se pencheront sur des questions fondamentales relatives au développement et à l’utilisation des LLM, telles que: Quelle forme prendront les interactions entre les êtres humains et l’IA à l’avenir? Quel est le cadre éthique adapté? Comment gérons-nous la sécurité et la confidentialité des données? Quelles nouvelles approches peuvent être utilisées pour développer les modèles et les rendre plus performants sur le plan énergétique?

Une IA plus sûre pour le bien commun

Annoncée à Davos, une autre initiative conjointe, menée par le Département fédéral des affaires étrangères, l’EPFL et l’ETH Zurich, est le Pilot Gen AI Redteaming Network. Ce réseau vise à réunir des leaders des technologies, des spécialistes de l’IA et des décisionnaires politiques pour explorer les tests de sécurité de l’IA et la gestion des risques.

La professeure Carmela Troncoso, en charge du Laboratoire d’ingénierie de la sécurité et de la confidentialité (SPRING) de la Faculté IC, est l’une des responsables universitaires de la Swiss Call for Trust and Transparency in AI, qui dirige le Pilot Gen AI Redteaming Network. C’est dans le cadre de ce réseau que les chercheuses et chercheurs travailleront avec les géants de l’IA, notamment Microsoft, IBM, Google, Amazon, AlephAlpha et HuggingFace.

«Ce réseau est sans précédent à l’échelle mondiale. Notre objectif est de rendre les LLM, derrière tous les systèmes d’IA que nous utilisons, aussi sûrs que possible. Ce type de collaboration est très important pour que le milieu universitaire et l’industrie puissent partager leur expertise, explorer les problèmes actuels et trouver des moyens de les atténuer afin de créer une IA plus sûre pour le bien commun. Mais soyons clairs, cette initiative ne remplace pas la réglementation, mais la complète», explique Carmela Troncoso.

L’IA au service des objectifs mondiaux des Nations unies

Lors du Forum économique mondial, le Département fédéral des affaires étrangères, l’EPFL et l’ETH Zurich ont également lancé le Réseau international de calcul et d’IA (ICAIN) pour développer des technologies d’IA durables, accessibles à tous et profitant à l’ensemble de la société, en contribuant aux objectifs mondiaux des Nations unies.

Un premier projet pilote est la collaboration entre l’ICAIN et Data Science Africa (DSA). Cette dernière est une organisation panafricaine de scientifiques des données issus de tout le continent, offrant des programmes de formation et soutenant des projets de recherche à but non lucratif dans le domaine de l’apprentissage machine et des sciences des données. Le premier projet commun vise à utiliser l’IA pour rendre l’agriculture plus résiliente aux effets négatifs du changement climatique.