Vinitra Swamy reçoit le Prix Patrick Denantes 2025

Lorsque Vinitra Swamy travaillait comme ingénieure en intelligence artificielle chez Microsoft AI aux États-Unis, elle a remarqué quelque chose d'inattendu : les grandes entreprises choisissaient d'utiliser des modèles d'IA moins performants alors que des modèles plus performants étaient disponibles.

« Nous avons compris qu'ils voulaient savoir pourquoi une certaine décision avait été prise, et que cela était plus important que d'être plus précis », explique Vinitra Swamy. « Cela m'a surpris. Je savais qu'il devait y avoir un moyen de profiter des avantages des architectures de réseaux neuronaux modernes sans sacrifier l'interprétabilité, en particulier dans ces environnements centrés sur l'humain. »

Cette prise de conscience l'a conduite à l'EPFL et au groupe ML4ED nouvellement créé par Tanja Käser, où elle a rédigé sa thèse de doctorat intitulée A Human-Centric Approach to Explainable AI for Personalized Education.

Swamy a commencé ses recherches en examinant des millions d'interactions entre étudiants dans le cadre de cours en ligne. L'objectif était de proposer des interventions pédagogiques personnalisées aux étudiants en ligne qui rencontraient des difficultés dans un cours, afin de les remettre sur la bonne voie, même pour un nouveau cours ou un cours dont le budget dédié aux interventions était limité. Vinitra Swamy s'est concentré sur l'explication de ces modèles d'IA de manière à faciliter la mise en place d'interventions efficaces.

Il existait plusieurs modèles d'explication populaires que les ingénieurs en IA utilisaient dans des domaines centrés sur l'humain. Les ingénieurs entraînaient d'abord le modèle, puis utilisaient l'un de ces modèles d'explication pour comprendre pourquoi le modèle avait fait telle ou telle prédiction. Vinitra Swamy a découvert que, en particulier dans le domaine de l'éducation, les cinq modèles d'explication les plus populaires étaient systématiquement en désaccord les uns avec les autres.

« Imaginez qu'un étudiant suive un cours, qu'un modèle prédise qu'il va échouer et que chaque explicateur donne une raison complètement différente pour justifier cette prédiction. Le résultat était choquant », explique Vinitra Swamy. « Cela a marqué un tournant dans mon doctorat, car nous avons réalisé que ces explicateurs n'apportaient pas une réponse complète au problème de l'interprétabilité. »

Cela a convaincu Vinitra Swamy de l'importance de concevoir des architectures de réseaux neuronaux qui intègrent l'interprétabilité dans la conception elle-même, où l'explication est utilisée directement dans la prédiction. Cela l'a amenée à concevoir de nouvelles architectures d'IA, MultiModN et InterpretCC, ainsi qu'un pipeline d'explication LLM, iLLuminaTE, qui intègrent tous une interprétation et une compréhensibilité en temps réel grâce à des approches modulaires et mixtes d'experts.

« Nous avons démontré qu'il existe de nouvelles architectures de réseaux neuronaux interprétables qui sont non seulement aussi performantes que leurs homologues, mais qui fournissent également des explications en temps réel cohérentes, exploitables et compréhensibles », explique Vinitra Swamy.

Ses recherches étaient également uniques en raison de l'importance qu'elle accordait aux études sur les utilisateurs, notamment l'évaluation par les enseignants d'architectures de réseaux neuronaux interprétables par conception, la mesure des perceptions des éducateurs concernant l'incohérence de l'IA explicable et la réalisation d'évaluations à grande échelle auprès des étudiants.

Le modèle MultiModN de son équipe est désormais utilisé pour des essais cliniques de diagnostic de la pneumonie et de la tuberculose dans des environnements à faibles ressources à travers l'Afrique, en raison de ses atouts en matière d'interprétabilité et de robustesse face aux données manquantes. Elle a contribué à la conception d'études de rétroaction pour les étudiants en matière d'IA avec des centaines d'étudiants dans les salles de classe de l'EPFL et à une évaluation mondiale des médecins pour le modèle de langage médical ouvert Meditron.

« Tanja [Käser] place l'aspect humain au cœur de toutes les activités de ML4ED. Nous observons concrètement comment l'IA peut être utilisée sur des données réelles et complexes, et nous veillons à écouter les apprenants et les enseignants lors de sessions de co-conception avant de mener une étude à grande échelle, ce qui augmente considérablement les chances que cette recherche puisse être appliquée immédiatement. »

En plus d'avoir reçu le prestigieux prix Patrick Denantes, Swamy a remporté le prix GResearch PhD Prize, qui a servi de base à la création de sa récente start-up Scholé, spécialisée dans l'IA pour l'éducation, cofondée avec Paola Mejia-Domenzain, diplômée du ML4ED. Elles collaborent déjà avec des entreprises telles que Decathlon et Swisscom afin de proposer des formations personnalisées aux employés dans le domaine de l'IA et de la science des données, basées sur une architecture modulaire agentique. Swamy enseigne désormais dans le cadre de la nouvelle série de cours intensifs sur l'IA proposés par Harvard aux apprenants du monde entier, en partenariat avec Scholé.

« Je n'aurais jamais imaginé que ces recherches pourraient être mises à la disposition des étudiants si peu de temps après l'obtention de mon doctorat. Je suis extrêmement reconnaissant envers mes collaborateurs. Ce n'est pas quelque chose que je prends à la légère », déclare Vinitra Swamy.

« Ce prix signifie beaucoup pour moi. Je n'en serais pas là sans mes formidables conseillers Tanja Käser et Martin Jaggi, mes collègues de laboratoire et amis ici en Suisse qui m'ont toujours soutenue, et ma famille aimante en Californie qui m'a inspiré à chaque étape de mon parcours. »

Patrick Denantes était doctorant de la faculté IC. Il a trouvé la mort dans un accident en montagne en 2009. Le prix annuel qui porte son nom honore sa mémoire. Un jury remet ce prix à la lauréate ou au lauréat lors de la cérémonie de fin d’année de l’école. Un soutien financier est apporté par la famille Denantes et le centre de recherche Nokia. La lauréate ou le lauréat reçoit la somme de 5 000 CHF.