D'ici cinq ans, nous aurons peut-être une IA qui fera de la science

Aujourd’hui, la plupart des universitaires partagent leurs recherches en ligne. Le grand public, les journalistes et les responsables politiques s’appuient de plus en plus sur les médias numériques comme principale source d’information scientifique.

Dans un contexte où la science est souvent mal comprise, politisée ou présentée de manière sensationnaliste, comment les chercheuses et chercheurs valorisent-ils au mieux leur travail et comment l’essor de l’IA transforme-t-il la diffusion et la production des connaissances scientifiques?

Robert West, professeur associé de l’EPFL et responsable du Laboratoire de science des données, et Ágnes Horvát, professeure associée de communication et d’informatique à l’Université Northwestern, où elle dirige le laboratoire (LINK), ont accepté de discuter de la communication scientifique à l’ère numérique.

Vous vous intéressez de plus en plus à la manière dont la science est transmise dans les espaces en ligne. Quelle est votre observation?

Ágnes Horvát: Nous nous penchons sur la manière dont l’information se perd au cours de ce processus et dont la désinformation s’insinue. L’une des choses qui nous préoccupe beaucoup est la façon dont ce contenu est sensationnalisé et exagéré à bien des égards. Un autre problème majeur est la désinformation, qui touche l’ensemble de notre écosystème d’actualités et d’information. Enfin, nous voyons de plus en plus l’IA envahir cet espace.

Si la majeure partie des gens s’informent sur les réseaux sociaux et les chaînes vidéo, n’est-il pas essentiel de s’en servir pour diffuser les avancées scientifiques, mais en même temps, le clickbait est la méthode par laquelle la plupart des contenus sur ces chaînes attirent l’attention des gens, donc c’est un peu à double tranchant?

Ágnes Horvát: C’est une excellente question. Nous pouvons montrer sur une période de sept ans que la participation des scientifiques aux réseaux sociaux apporte un gain tangible en termes de citations, qui sont sans doute la mesure traditionnelle de la réussite scientifique. Il est intéressant de noter que le gain a tendance à baisser au fil des ans, ce à quoi il faut réfléchir. Deux défis majeurs dans l’utilisation des réseaux sociaux pour communiquer sur les progrès scientifiques sont la compression extrême du contenu et le nouveau contexte de l’IA. Nous nous sommes penchés sur la question au cours de l’année écoulée, en nous concentrant sur l’évolution des résumés en sciences biomédicales en 2024 par rapport à avant, et nous avons trouvé des traces évidentes de LLM. Nous avons identifié près de 500 mots qui révèlent l’utilisation de LLM et nous pouvons affirmer qu’au moins 13 % des articles ont été modifiés par des LLM.

Bob West: Ce qui est amusant, car ce nombre est à peu près celui que nous avons trouvé pour les comptes rendus d’articles rédigés par des LLM également. Nous l’avons fait pour la 2024 International Conference on Learning Representations et au moins 16 % des comptes rendus ont été écrits au moins avec l’aide de LLM, ce qui crée ce scénario absurde où l’IA rédige des articles qu’elle révise ensuite et où des personnes demandent des résumés IA des articles.

Ágnes Horvát: Le plus triste selon moi, c’est que nous accueillons si favorablement ces outils et je suis sûr qu’il y a une sorte d’homogénéisation des idées que nous n’avons pas encore réussi à quantifier. Je m’inquiète également du fait que ces outils aient tendance à privilégier la certitude, parce qu’ils doivent simplement donner une réponse et je pense que c’est un problème lorsque les résumés, les articles de recherche ou les comptes rendus semblent plus sûrs qu’ils ne le devraient. Sans oublier que la communication scientifique ne porte pas seulement sur les faits, mais aussi sur la façon de les présenter, ce qui influe sur les idées qui paraissent attrayantes et sur le type de recherche qui en découlera. En cédant une partie de cette capacité d’action aux LLM, nous renonçons dans une certaine mesure à ces choix sans en connaître les conséquences.

Bob West: Mais ce n’est pas si clair, ça peut aller dans les deux sens. La base de référence est faible parce que beaucoup d’articles rédigés par les êtres humains sont mal écrits, même s’ils ont de bonnes idées. Il s’agit donc d’un exemple où l’IA pourrait en fait être un égaliseur, plutôt qu’un catalyseur des inégalités.

On sait qu’il y avait un problème de désinformation avant l’IA et qu’aujourd’hui, sur les plateformes de réseaux sociaux, il y a très peu de modération et les fausses informations se propagent très rapidement. L’IA contribue-t-elle à cette désinformation?

Ágnes Horvát: L’ensemble du système est vulnérable, car une grande partie du contenu des réseaux sociaux provient d’autres sources dont la provenance est inconnue. Le seul mécanisme qui est très clair est que l’IA peut produire plus rapidement n’importe quel type de contenu et que, s’il y a plus de robots qui produisent de fausses informations, celles-ci se propagent plus rapidement.

Bob West: Ce que nous savons, c’est que l’IA est très persuasive. Donc, quand vous lui demandez de prendre position et de défendre cette position, elle peut le faire à un niveau qui est essentiellement surhumain, et donc maintenant vous avez une machine de propagande parfaite et gratuite. Avant, il fallait verser beaucoup d’argent aux conseillers en communication pour faire ça. Les chiffres que nous calculons à l’aide d’outils de détection IA sous-estiment généralement largement ce qui se passe réellement.

Si vous aviez tous les deux une boule de cristal et que vous pouviez regarder vers la fin de la décennie, comment verriez-vous ce défi de la communication scientifique évoluer, à la fois d’un point de vue scientifique et d’un point de vue plus public?

Ágnes Horvát: Actuellement, toutes les discussions portent sur la manière dont nous présentons des idées qui ont été étudiées par des personnes avec l’IA. Peut-être que l’IA a aidé à rédiger le travail, peut-être qu’elle a aidé avec le code, peut-être qu’elle a aidé avec la collecte de données, la revue de la littérature, etc. Je pense que la prochaine étape est que l’IA trouve les idées que nous étudions et peut-être qu’un délai de cinq ans est raisonnable pour cela. C’est un domaine très différent parce que l’IA fournit alors l’hypothèse qui doit être étudiée. C’est un nouveau problème qui est bien plus compliqué que tout ce que nous avons vu jusqu’à présent.

Bob West: Exactement. Je conviens que c’est un scénario très réaliste que, d’ici cinq ans, nous aurons une IA capable de faire de la science. Serons-nous même en mesure de suivre la science faite par l’IA à ce moment-là? C’est l’une des raisons pour lesquelles nous nous tournons vers les réseaux sociaux pour la science, parce que c’est aussi une sorte de filtre. Que devrions-nous regarder? Quelles sont les tendances? L’IA n’a pas ce problème parce qu’elle peut juste lire tous les articles.

Si l’IA propose des hypothèses et pose des questions, formule-t-elle les bonnes?

Ágnes Horvát: En tant qu’êtres humains nous pensions que nous voulions avoir notre mot à dire sur ce qui est étudié. Je ne sais pas comment l’IA négocierait des valeurs concernant la recherche importante pour l’avenir de l’humanité.

Bob West: Et l’IA se préoccupe-t-elle de ce qui est important pour l’avenir de l’humanité en premier lieu? L’une des choses les plus difficiles en science est de savoir quelles questions poser et j’ai souvent beaucoup de mal avec cela. Pourquoi faisons-nous cela? Que faut-il faire ensuite? Donc, je pense que la question n’est pas de savoir si une IA peut le faire parfaitement, mais si elle peut le faire mieux que nous. Je ne suis pas si pessimiste dans le sens où l’IA en est incapable. Ce qui pourrait être pessimiste à un niveau supérieur: si en apparence elle le fait mieux que nous mais qu’elle se contrefiche de savoir si cela compte pour un avenir meilleur de l’humanité? Dans cinq ans, on en reparlera!