L’assaut soudain des preuves générées par l’IA, dont certaines résolvent des questions anciennes et très médiatisées, apparaît aux mathématiciens comme une occupation par une puissance étrangère. Nous, les autochtones, sommes tout à coup confrontés à une force étrangère, marchant dans nos propres rues, brandissant de nouvelles armes terrifiantes et abritant des valeurs culturelles très différentes et souvent opposées. Cette force réquisitionne nos ressources et menace nos moyens de subsistance. Ses objectifs sont exploiteurs, extraire de la valeur de nos champs et la restituer à la métropole. Dans ses déclarations publiques, il ressemble à une puissance coloniale traditionnelle, affirmant que toute opposition est arriérée, primitive et antiprogressiste – et que la résistance est vaine. L’avenir leur appartient. Comme toute force d’occupation, elle s’empare des fruits les plus faciles à trouver et, avec le temps, elle passera à autre chose ; elle n’a aucun intérêt à développer l’économie locale ou à la durabilité.
Mardi, OpenAI a publié des centaines de nouvelles découvertes mathématiques, suivant de près la résolution par les robots d'OpenAI du problème du Prix du Millénaire concernant les équations de Navier-Stokes. Ce fut un véritable blitz : 10 000 agents internes ont passé 88 heures et ont produit une preuve satisfaisant apparemment aux critères de ce défi, lancé par le Clay Mathematics Institute il y a environ 25 ans. On pense que l’entreprise a dépensé des millions pour cette opération. La communauté mathématique qui convergeait vers cet exemple – et ce n’est que cela, un exemple – a digéré ce nouveau travail avec un intérêt professionnel.
Normalement, les efforts et les dépenses nécessaires pour atteindre un grand objectif sont récompensés par une célébration sociétale du résultat. Mais nous pouvons voir quelle communauté a apprécié la résolution annoncée du défi Navier-Stokes. Il ne s'agissait pas de la communauté mathématique : les mathématiciens ont plutôt exprimé de manière générale leurs inquiétudes quant à l'utilisation potentielle inadmissible et non reconnue de travaux récents par des mathématiciens humains. Non, c'était la communauté de l'IA. Du point de vue d'un mathématicien, dépenser ne serait-ce qu'une fraction de cet argent pour la communauté mathématique humaine aurait été bien plus digne d'être célébré.
L’avènement des nouvelles technologies conduit invariablement à une réévaluation des valeurs. Lorsque, par exemple, les conférences vidéo sont devenues faciles à produire – suite au COVID-19, même prévu – nous avons repensé la valeur de l’expérience en classe. Notre réaction face à l’avènement de l’IA doit être similaire : quelle est la valeur de la découverte humaine des vérités mathématiques ? Nous avons traditionnellement imaginé que la principale valeur d’une réflexion approfondie et d’un enregistrement d’une preuve est que nous apportons une contribution à l’édifice de la connaissance mathématique. Maintenant qu’un grand nombre de ces contributions peuvent être transférées aux machines, nous devons réévaluer la valeur réelle de la pensée mathématique humaine.
L’intégration des LLM en tant qu’élément de routine de la recherche universitaire est une force de marée qui agit désormais sur la communauté mathématique. Les institutions riches comme le Massachusetts Institute of Technology peuvent se permettre des licences pour des modèles pionniers sophistiqués, tandis que les institutions moins bien dotées ne le peuvent pas. Il s’agit d’une question d’équité analogue à la disponibilité des abonnements aux revues dans les institutions riches mais pas dans les institutions plus pauvres. Cette disparité a été quelque peu atténuée, mais en aucun cas éliminée, par des serveurs de préimpression comme arXiv. Le gouvernement fédéral a insisté pour que la recherche biomédicale financée par le gouvernement fédéral soit accessible au public, dans le but de surmonter le même type d'inégalité d'accès. De même, puisque l’IA générative est là pour rester, l’accès équitable à des LLM performants devrait être un droit garanti par le gouvernement. Dans la mesure où ce n’est pas le cas, notre utilisation de cette technologie est d’une moralité discutable. Bien entendu, les entreprises technologiques bénéficient actuellement d’un autre avantage injuste.
Cette occupation est susceptible de se poursuivre sous une forme ou une autre indéfiniment. Il semble probable que la violence de la phase initiale actuelle s’atténuera avec le temps, à mesure que la force d’occupation finira de balayer les précieuses ressources qui se trouvent près de la surface. Cela entraînera-t-il une sorte de régime colonial, dans lequel les employés des grandes technologies seront de plus en plus reconnus pour leurs progrès et accueillis dans les départements universitaires ? Il y aura des réfugiés fuyant ce nouvel ordre ; en fait, les étudiants diplômés en mathématiques se sentent extrêmement incertains quant à leurs perspectives d’emploi à long terme et même quant à la continuité de l’entreprise mathématique elle-même.
Les LLM et leurs attaques contre les mathématiques sont des créations de grandes entreprises. Les dirigeants de ces entreprises ont des motivations pour leur comportement. Ils ont organisé une invasion, consacrant leurs immenses ressources à une attaque concertée contre les mathématiques. Ils nous proposent des copies convenablement entravées de leur arsenal, se réservant les « modèles frontières ». Ils nous invitent à servir de « conseillers ». Est-ce une forme de collaboration, au sens politique du terme ? De tels comités consultatifs fournissent à ces entreprises une couverture utile, une preuve d'acceptation par la culture locale. Mais l’enjeu est bien plus important. Les mathématiques ne sont pas le seul pays à connaître cette invasion et cette occupation : l’ensemble du monde universitaire vit la même chose, et de nombreux autres pans de l’économie sont menacés. Plus important encore, l’infrastructure physique sur laquelle repose l’armement de l’IA inflige d’importants dégâts. Nous, mathématiciens sans prétention, nous sommes soudainement retrouvés plongés dans la bataille, pions dans un jeu beaucoup plus vaste.
