Pensez à placer des points sur une surface plane. Vous voulez que autant de paires que possible soient séparées par la même distance. Pour un nombre quelconque de points, quel est le plus grand nombre possible de paires pouvant être exactement aussi éloignées les unes des autres ?
La question, que les mathématiciens appellent le problème de la distance unitaire, semble simple. La réponse est délicate. Il y a quatre-vingts ans, en 1946, le célèbre mathématicien Paul Erdős proposait ce qu'il pensait être la réponse, mais personne n'avait été en mesure de prouver ou de réfuter sa conjecture. Du moins, pas jusqu'à présent.
Les chercheurs d'OpenAI ont donné la conjecture d'Erdős à un modèle d'IA et sont repartis. À leur retour, ils ont découvert une avancée majeure : le modèle avait réfuté la conjecture dans une preuve mathématique publiée le 20 mai sur OpenAI.com.
« C'est un bel élément mathématique qui a été découvert », déclare Melanie Matchett Wood de l'Université Harvard, qui a contribué à un article d'accompagnement dans lequel des experts extérieurs ont examiné les résultats de l'IA. Cette découverte renforce l’espoir que l’IA puisse contribuer à la compréhension scientifique.
Mais la preuve de l’IA reposait sur la persévérance plutôt que sur la créativité et a soulevé des inquiétudes quant à la manière dont les mathématiques seront réalisées à l’avenir. Le 2 juin, un groupe d’experts a publié une déclaration appelant à des garde-fous stricts autour de l’IA dans la recherche mathématique. Au 5 juin, la déclaration comptait 1 590 signatures.
Une avancée pour les mathématiques, mais peut-être pas pour l'IA
Le modèle d'IA qui a produit ce résultat n'est pas encore accessible au public, mais Open AI affirme qu'il s'agit d'un grand modèle de langage à usage général, entraîné au raisonnement. Il n’a utilisé aucun outil ou logiciel spécifique aux mathématiques. Et « nous n'avons pas orienté le modèle d'une manière particulière », explique Sébastien Bubeck, chercheur à OpenAI.
L'invite originale, composée par AI, décrivait la conjecture et indiquait au modèle qu'une solution complète devait la prouver ou la réfuter. Les mathématiciens croyaient que la conjecture était vraie. Pourtant, le modèle a plutôt tenté de le réfuter.
Wood considère le résultat comme une avancée majeure pour les mathématiques. L’IA a trouvé un contre-exemple en utilisant des outils issus de deux des domaines mathématiques les plus anciens et les plus fondamentaux : l’algèbre et la théorie des nombres. Il semble que ces zones ne devraient rien avoir à voir avec cette question de géométrie, dit Wood. Mais le résultat « montre que les outils d’une partie des mathématiques peuvent être appliqués de manière très fructueuse dans cet autre domaine des mathématiques ». Elle pense que ce résultat incitera les mathématiciens à réfléchir à de nouvelles façons d’appliquer ces mêmes outils.
Elle n’est cependant pas convaincue qu’il s’agisse d’une avancée majeure dans le domaine de l’intelligence artificielle. Lorsqu’elle a lu la solution, il lui a semblé que les derniers modèles d’IA accessibles au public auraient pu la proposer. (En fait, un chercheur a posté sur X qu'il avait reproduit la preuve en utilisant un modèle accessible au public.)
Le mathématicien Thomas Bloom de l’Université de Manchester en Angleterre a eu une réaction similaire. Il a noté dans le document d'experts extérieurs sur cette réalisation qu'il aurait été « vraiment incroyable » si l'IA avait réussi à prouver la conjecture, car ce type de solution nécessiterait une vision créative.
Bubeck concède que « cette preuve n’est pas exactement l’étincelle de génie que l’on voit parfois en mathématiques ». L’IA a encore du mal à faire des progrès en matière de découverte. Mais la technologie peut patiemment mettre en œuvre un grand nombre de stratégies improbables.
Qui vérifiera le travail d’IA ?
Pourtant, comme le souligne la déclaration appelant à des garde-fous, la technologie de l’IA menace également notre capacité à produire des mathématiques responsables, vérifiables et éthiques.
D’une part, le raisonnement de l’IA peut ne pas être fiable. Dans ce cas, la preuve du modèle d’IA s’est avérée relativement facile à vérifier pour un expert humain, explique Bloom. Mais il a vu des gens sur Internet prétendre avoir une solution à un problème ouvert. Ces personnes ont utilisé l’IA pour générer des centaines de pages de mathématiques qu’elles ne peuvent ni comprendre ni même lire. « Cela pourrait être vrai. Cela pourrait être absurde. Qui va pouvoir vérifier cela? » dit Bloom.
Si les mathématiciens connaissaient la probabilité qu’une preuve générée par l’IA soit correcte, cela aiderait. Mais comme le note Wood, OpenAI ne partage pas toutes les fois où son modèle interne n'a pas réussi à résoudre un problème ouvert en mathématiques ou, pire encore, a produit une solution incorrecte avec un raisonnement erroné.
Bubeck d'OpenAI affirme que l'équipe a exécuté plusieurs fois son invite sur la conjecture d'Erdős à travers le même modèle et a produit la solution correcte dans 50 % de ces essais. Sa collègue Lijie Chen affirme que le nouveau modèle est meilleur que les modèles actuels pour générer une réponse « Je ne peux pas le résoudre » lorsqu'il rencontre des difficultés sur un problème. Mais les données étayant ces affirmations n’ont pas été publiées ni examinées par des pairs. Et OpenAI ne révélera pas combien de temps le modèle a passé à travailler sur sa solution.
Wood, Bloom et ceux qui ont signé la déclaration ont également d’autres préoccupations. À l’heure actuelle, l’IA génère un raisonnement mathématique sans montrer quel travail a inspiré les idées. Cela entre en conflit avec la pratique habituelle des mathématiciens consistant à accorder du crédit au travail qui a inspiré une percée.
« Les LLM ont lu TOUS les articles. Ils ont lu tous les commentaires et notes, et tout ce qui est en ligne…. Il n'est pas clair qu'il y ait un moyen pour [AI] pour attribuer raisonnablement la source des idées », dit Wood.
L'accès est une autre préoccupation, dit Bloom. Si les outils les plus puissants sont coûteux et privés, les mathématiques pourraient devenir moins ouvertes et moins démocratiques, et certaines personnes pourraient se demander pourquoi elles devraient apprendre les mathématiques, dit-il.
Wood, Bloom et quelques autres mathématiciens se montrent toutefois prudemment optimistes. «Je pense [AI] va devenir un outil indispensable en mathématiques », déclare Wood.