«Donner des outils pour identifier les questions éthiques»

En 2023, Johan Rochel a reçu une bourse DRIL (Digital Resources for Instruction and Learning) afin de réaliser une série de vidéos sur l’éthique de l’IA. Il a également commencé à dispenser un nouveau cours intitulé The Ethics and Law of Artificial Intelligence.

Pouvez-vous nous parler de vos vidéos sur l’éthique de l’IA?

Ce projet consistait à réaliser quatre vidéos d’environ huit minutes chacune destinées à la communauté étudiante de l’EPFL. Elles traitent de l’éthique numérique. Sur la forme, elles sont divertissantes et un peu plus informelles et familières qu’un cours classique. Nous avons travaillé avec l’objectif d’une sorte de podcast visuel avec Adrien Miqueu, qui est dimplomé en physique et doctorant en sciences humaines et sociales et illustrateur talentueux. Le soutien de l’équipe du CEDE a aussi été impressionnant.

D’où vous est venue l’idée de ce projet?

Le programme d’enseignement en sciences humaines et socialesde l’EPFL est très intéressant avec 150 cours sur presque tout ce que l’on peut imaginer en termes de sciences humaines. Mais les enseignantes et enseignants vont et viennent, et dès qu’ils s’en vont, le contenu du cours est perdu. Afin de conserver ces connaissances, nous testons une méthode qui consiste à enregistrer de courtes vidéos sans investir beaucoup de temps et d’énergie. Si une ou un enseignant quitte l’EPFL, nous disposons toujours de sa vidéo et conservons ainsi une partie de ses connaissances. A long terme, nous pourrions viser une sorte de Netflix des sciences humaines, une trace numérique facilement accessible des cours du programme d’enseignement en sciences humaines et sociales. Ces courtes vidéos sur l’éthique de l’IA visent à tester et concrétiser cette idée.

Quel est le public ciblé par ces vidéos?

Ces vidéos ont été préparées pour la communauté étudiante de l’EPFL. J’ai tenté de m’adresser à ces futurs ingénieurs, dans toutes les disciplines, qui seront confrontés aux questions liées à l’éthique des technologies numériques, et notamment à l’éthique de l’IA. Au-delà de la communauté étudiante de l’EPFL, les vidéos intéresseront toutes les personnes qui développent des solutions d’IA ou qui en font l’acquisition pour les intégrer dans leurs processus d’entreprise. L’idée était de réaliser des vidéos totalement différentes d’un cours traditionnel. Nous nous sommes inspirés des youtubeuses et youtubeurs scientifiques qui utilisent des moyens créatifs pour rendre leurs connaissances accessibles. J’espère que le côté légèrement décalé et humoristique des vidéos contribuera à sensibiliser le public à ce sujet.

Quels retours avez-vous reçus?

Jusqu’à présent, les retours sont très positifs. L’approche décalée et l’utilité du contenu permettent aux personnes qui visionnent les vidéos de comprendre rapidement le sujet. Après avoir regardé les quatre vidéos, elles devraient avoir un bon aperçu des questions soulevées et pourront ensuite approfondir les points qui les intéressent.

Vous dispensez également un nouveau cours sur l’éthique de l’IA depuis l’automne 2023. Qu’est-ce qui vous a amené à proposer ce cours?

Certaines personnes pensent que pour être un bon ingénieur, il faut maîtriser exclusivement les aspects techniques. Selon ce point de vue, l’éthique est au mieux un «avantage». Mais si on adopte une perspective plus réaliste, les ingénieurs sont des personnes qui travaillent dans un cadre spécifique – une entreprise ou une organisation du secteur public, par exemple – où ils interagissent avec des collègues, sont liés par des obligations légales et doivent prendre en compte les valeurs de la société. Tout cela est lié à l’éthique. C’est pourquoi l’éthique est au cœur de la formation d’un bon ingénieur. Les personnes diplômées doivent être capables d’identifier les questions et les défis éthiques, dans la conception de leurs outils technologiques, puis de savoir où chercher les ressources nécessaires pour y répondre.

Les étudiant-e-s reconnaissent d'ailleurs qu’un bon ingénieur doit posséder à la fois des compétences techniques et des compétences éthiques. Pour moi et mes collègues, il s’agit d’un changement important en termes de contenu enseigné et de méthode d’enseignement des ingénieurs de demain. C’est un mouvement profond et dynamique, aussi parce qu’il s’inscrit dans un effort plus important pour une meilleure durabilité.

Le nouLe nouveau cours de master en droit et éthique de l’IA est proposé par la Section des Humanités digitales et est ouvert aux étudiant-e-s de nombreuses autres sections. Il couvre des sujets d’ordre général et s’adresse aux personnes qui s’intéressent à la technologie numérique et plus particulièrement à l’IA. Une grande partie du programme porte sur les défis éthiques associés à la conception de systèmes d’IA, qui est l’une des compétences de base enseignées dans une université comme l’EPFL.

Comment s’est passé le cours donné en automne 2023?

C’était une excellente expérience. Plus de 80 étudiantes et étudiants se sont inscrits et leurs retours étaient très bons. Ils attendaient un cours comme celui-ci! Nous avons abordé de nombreuses questions liées aux défis éthiques et juridiques de l’IA. Lors de la séance d’exercices, qui durait 45 minutes par semaine, nous avons utilisé les cadres d’analyse éthique évoqués en classe pour examiner des études de cas réels et participer à des débats sociaux et politiques. Nous avions des jeunes en master issus d’au moins cinq programmes différents, ce qui a permis des discussions très intéressantes et instructives. J'ai parfois dû limiter la durée des échanges car, lorsque l’on parle des mesures à prendre pour contrôler les systèmes d’armes autonomes, par exemple, les débats peuvent durer des heures! Bien entendu, les étudiantes et étudiants qui ont choisi de s’inscrire à ce cours sont très motivés et en savent déjà beaucoup sur les questions que nous abordons. Le grand défi est d’atteindre les personnes les moins motivées.

Quels sont vos souhaits pour le cours?

N’importe quelle personne étrangère à l’EPFL vous dira qu’aujourd’hui, il est impensable d’obtenir un diplôme d’ingénieur supérieur sans avoir de solides bases en matière d’éthique. Nous devons nous atteler à adapter les cours de sciences humaines conventionnels aux besoins des étudiantes et étudiants en ingénierie. Et c’est là où le CDH possède une véritable expertise. Nous sommes à l’interface, et nous devons prendre ce rôle au sérieux. Il faut aussi garder à l’esprit que les enseignantes et enseignants de sciences humaines ont beaucoup à apprendre des étudiantes et étudiants en ingénierie.

L’un de mes principaux messages dans ce cours est que nous n’amenons pas l’éthique dans les systèmes d’IA car l’éthique est déjà présente, et nous devons la rendre explicite. Lorsque vous concevez un logiciel – un chatbot par exemple – l’éthique fait déjà partie du processus, mais vous ne la voyez pas. C’est là que vous faites des choix, que vous puisez dans vos valeurs et vos objectifs et que vous évaluez les compromis. Je veux donner à la communauté étudiante des outils pour identifier ces étapes comme des questions éthiques. C’est une bonne façon d’engager la conversation. Je leur dis: «Je ne vais pas vous apprendre quelque chose de nouveau; je vais simplement vous aider à mieux faire votre travail.»