Un grave décalage de l'IA en mathématiques

Au cours des derniers mois, les capacités mathématiques des grands modèles de langage (LLM) se sont considérablement améliorées, au point qu’ils peuvent résoudre d’importants problèmes restés ouverts dans de nombreux domaines des mathématiques. Cependant, les efforts des entreprises d’IA pour résoudre des problèmes mathématiques à des fins d’évaluation des performances sont préjudiciables à la science mathématique et à la communauté mathématique. Les objectifs des entreprises d’IA et ceux de la communauté mathématique divergent profondément. Nous considérons que ces divergences s’inscrivent dans des problèmes plus larges d’alignement qui touchent d’autres professions scientifiques et créatives, ainsi que la société tout entière.

La recherche mathématique vise à comprendre les structures fondamentales des formes, des nombres et des phénomènes naturels. Au fil des générations, elle a constitué un vaste corpus d’idées, de méthodes, d’abstractions et d’autres outils élaborés pour appréhender le paysage mathématique. À leur tour, les technologies et les sciences modernes reposent sur des outils mathématiques.

Les problèmes célèbres ont souvent servi de points de repère et de phares permettant de mesurer les progrès dans la compréhension de ce paysage. Résoudre l’un de ces problèmes a été un signe certain de nouvelles perspectives et de méthodes intéressantes, qui étaient ensuite étudiées par une communauté de mathématiciens, au fil d’un long et ardu processus d’exposés, de discussions et de simplifications. À l’issue de ce processus, on trouve idéalement une présentation des résultats sous forme de manuel, que tout étudiant de master ou de doctorat, voire de licence, peut étudier. Certaines idées mathématiques poursuivent encore leur chemin pour devenir, des décennies ou des siècles plus tard, des outils compris et utilisés par l’ensemble de la population.

La communauté mathématique fonctionne, à bien des égards, comme une version miniature de l’humanité. Elle se compose d’individus qui emploient des approches très diverses et que rassemblent des valeurs fondamentales. Les ressources les plus précieuses de notre profession sont les étudiants et les idées, que nous cultivons avec le plus grand soin. Nous nous sentons responsables de leur permettre de développer pleinement leur potentiel, jusqu’à ce qu’ils puissent mener leur propre vie dans le monde mathématique. Nous proposons souvent aux étudiants des problèmes dont l’objectif premier est de développer des compétences qui les préparent au mieux à faire progresser la recherche et à avancer dans d’autres domaines. Nous diffusons nos idées dans des exposés, des discussions privées et des textes soigneusement rédigés, en les reliant aux idées antérieures d’autres personnes. Ces processus prennent invariablement du temps et reposent sur les interactions humaines.

Ces derniers mois, les succès de l’IA dans la résolution de problèmes mathématiques majeurs ont fait la une, même en dehors des cercles mathématiques. Mais la résolution de problèmes n’est qu’un outil et un indicateur indirect pour atteindre l’objectif premier : la compréhension conceptuelle et les éclairages nouveaux. Oublier cela dans le monde de l’IA risque de retourner l’outil contre cet objectif premier. En effet, la production en masse, à un rythme toujours plus rapide, d’énoncés « vrai/faux » pourrait détruire un terreau fertile au lieu d’insuffler la vie à de nouvelles idées.

Souvent, ces solutions sont annoncées dans la précipitation, sans laisser le temps de les rédiger convenablement, de dégager les nouvelles méthodes et idées, et de citer les travaux antérieurs pertinents d’autres personnes. Comme dans toutes les professions créatives, cela soulève de graves questions d’attribution et de plagiat. En outre, sans les mathématiciens volontaires qui doivent se charger de leur développement et de leur intégration au corpus des connaissances mathématiques, les idées conçues par l’IA ne prendraient jamais pleinement vie, et la chaîne humaine essentielle de transmission entre mathématiciens serait perdue.

Nous assistons à une menace générale pesant sur le travail intellectuel, avec un décalage entre les résultats de l’utilisation de l’IA et sa finalité initiale. Dans de nombreux domaines et activités, des années de formation ont traditionnellement servi non seulement à produire une réponse ou un produit final, mais aussi à développer la compréhension et la capacité à formuler de nouvelles questions et idées. Cependant, en s’appuyant sur un vaste ensemble de travaux humains antérieurs, les systèmes d’IA deviennent de plus en plus capables de produire directement les résultats de ce travail, et ces objectifs cessent de converger. Les problèmes auxquels la communauté mathématique est aujourd’hui confrontée sont semblables à ceux que rencontrent d’autres professions scientifiques et créatives, et annoncent des problèmes auxquels l’humanité tout entière pourrait être confrontée : comment faire en sorte que, alors que l’IA transforme la manière dont le travail est accompli, nous ne perdions pas de vue ce que ce travail était censé réaliser au départ.

L’IA offre la possibilité d’enrichir et d’accélérer une véritable étude et une véritable compréhension des mathématiques. La profession mathématique devra s’adapter à ces changements de plusieurs manières. Toutefois, la question de savoir si ces changements bénéficieront en définitive à la discipline ou auront un effet destructeur dépendra en grande partie des décisions des êtres humains qui contrôlent cette nouvelle technologie.

Ces problèmes doivent être traités de toute urgence au sein de la communauté mathématique, par les entreprises qui développent ces technologies et, plus largement, par une société qui sera confrontée à des problèmes semblables dans de nombreuses autres formes de travail intellectuel.

Artur Avila (Fields Medal 2014)
Manjul Bhargava (Fields Medal 2014)
Caucher Birkar (Fields Medal 2018)
Pierre Deligne (Fields Medal 1978)
Yu Deng (Fields Medal 2026)
Simon Donaldson (Fields Medal 1986)
Vladimir Drinfeld (Fields Medal 1990)
Hugo Duminil-Copin (Fields Medal 2022)
Alessio Figalli (Fields Medal 2018)
Martin Hairer (Fields Medal 2014)
June Huh (Fields Medal 2022)
Maxim Kontsevich (Fields Medal 1998)
Elon Lindenstrauss (Fields Medal 2010)
Pierre-Louis Lions (Fields Medal 1994)
James Maynard (Fields Medal 2022)
Curtis McMullen (Fields Medal 1998)
Shigefumi Mori (Fields Medal 1990)
David Mumford (Fields Medal 1974)
Ngô Bảo Châu (Fields Medal 2010)
Andrei Okounkov (Fields Medal 2006)
Peter Scholze (Fields Medal 2018)
Stanislav Smirnov (Fields Medal 2010)
Terence Tao (Fields Medal 2006)
Maryna Viazovska (Fields Medal 2022)
Cédric Villani (Fields Medal 2010)
Wendelin Werner (Fields Medal 2006)
Efim Zelmanov (Fields Medal 1994)