OpenAI a publié aujourd’hui sur GitHub une vaste série de travaux en mathématiques. L’entreprise parle de plus de 370 nouveaux résultats; d’autres informations évoquent 722 manuscrits couvrant 372 résultats. D’après les documents mis en ligne, ces textes touchent à l’algèbre, à l’informatique théorique et à la logique mathématique, et ils viendraient d’un modèle avancé qui n’a toujours pas été rendu public.
Cette mise en ligne arrive dans un climat déjà tendu. OpenAI s’était attiré de vives critiques après avoir affirmé avoir résolu les équations de Navier-Stokes, l’un des problèmes du prix du millénaire du Clay Mathematics Institute, assorti d’une récompense de 1 million de dollars. Depuis, chaque annonce de l’entreprise est examinée de très près par la communauté mathématique.
La critique principale vise la manière de faire. Plutôt que d’emprunter les voies habituelles de validation, OpenAI a choisi de déposer ces travaux sur GitHub. Pour beaucoup de chercheurs, le problème est là. En mathématiques, un résultat ne prend vraiment corps qu’après relecture, vérification et, si besoin, contestation par les pairs. Plusieurs experts jugent aussi qu’OpenAI n’a pas montré assez de rigueur avant de tout mettre en ligne.
Le danger ne se limite pas au fait de laisser passer des erreurs. Il y a aussi le risque de faire énormément de bruit autour de résultats que la communauté n’a pas encore eu le temps d’examiner, de reproduire ou de situer par rapport à l’état de l’art. À l’heure où nous écrivons ces lignes, ce travail collectif reste très partiel. Mieux vaut donc avancer avec prudence. Nous continuerons à suivre l’affaire.
Autre sujet de crispation: d’après plusieurs comptes rendus, ces travaux auraient été obtenus à partir de systèmes internes auxquels les mathématiciens extérieurs n’ont pas accès. Pour les détracteurs, cela ferme la porte à toute reproduction indépendante et rend la vérification beaucoup plus difficile. Et sur le fond, certains y voient le début possible d’une recherche à deux vitesses, où quelques acteurs privés auraient des outils hors de portée du reste de la communauté.
L’Institute for Advanced Study a d’ailleurs fait savoir qu’il ne soutenait pas l’usage, pour des recherches mathématiques avancées, de modèles propriétaires auxquels personne ne peut accéder. L’institution rappelle une idée assez simple: la compréhension humaine, la vérification et la responsabilité doivent rester au centre de la production scientifique.
Sous le feu des critiques, OpenAI a dit vouloir travailler avec le groupe consultatif de l’Institute for Advanced Study consacré aux mathématiques et aux technologies de génération automatisée, afin de définir de bonnes pratiques et de faire une plus large place à la parole des mathématiciens. En revanche, l’entreprise n’a pas annoncé qu’elle arrêterait d’utiliser ces systèmes sur des problèmes avancés.
Selon plusieurs comptes rendus, OpenAI n’aurait pas non plus appliqué jusqu’au bout certaines recommandations. Sont notamment cités la divulgation du modèle exact utilisé, celle des prompts, ainsi que la puissance de calcul mobilisée.
Le débat ne porte pas seulement sur la méthode. Des questions d’originalité et d’attribution s’y ajoutent. Certains chercheurs soupçonnent que certains raisonnements prolongent ou réemploient des travaux antérieurs sans crédit suffisant; un exemple avancé rapprocherait l’un des arguments d’un article publié en 2016. D’autres se demandent aussi si des interactions passées avec des utilisateurs ont pu influencer une partie de ces résultats.
De son côté, OpenAI présente cette publication comme la démonstration qu’un tel outillage peut accélérer la découverte mathématique à grande échelle. Fait assez révélateur, même parmi les observateurs les plus favorables à cette idée, un point revient: aller vite ne suffit pas si les démonstrations restent difficiles à lire et à interpréter pour des humains. D’après plusieurs rapports, chaque résultat aurait demandé en moyenne environ trois heures de calcul.
