Sam Altman, PDG d’OpenAI, dit comprendre la frustration des mathématiciens face au flot de résultats produits par l’IA, mais il n’a pas l’intention de ralentir. Il laisse aussi entendre que l’entreprise dispose de nombreuses autres découvertes, qu’elle n’a pas encore rendues publiques.
- Sam Altman comprend la frustration des mathématiciens face aux résultats de l’IA.
- Il affirme qu’OpenAI ne ralentira pas et que le public mérite des connaissances fondamentales.
- Des mathématiciens critiquent des annonces mal attribuées, peu contextualisées et difficiles à vérifier.
- OpenAI retient certains résultats, comme celui lié à Yang-Mills, et dit disposer d’autres preuves.
Lors d’un épisode du podcast Cheeky Pint diffusé jeudi, il déclare : « Je pense que, dans l’ensemble, le monde mérite de comprendre le fonctionnement de l’univers. Mais j’ai de l’empathie pour la méthode. » Selon lui, le droit du public à de nouvelles connaissances scientifiques « l’emporte » sur la gêne causée par les annonces d’OpenAI, même s’il reconnaît que l’entreprise doit améliorer sa communication sur ses résultats.
« Je suis catégorique sur ce point : l’humanité mérite des connaissances fondamentales, et nous ne devrions pas garder une découverte scientifique fondamentale majeure pour nous », affirme-t-il encore.
Les mathématiciens interrogés par The Verge critiquent depuis plusieurs mois la façon dont OpenAI annonce ses résultats, qu’ils jugent insuffisamment attribués, peu contextualisés et insuffisamment vérifiés. Ils doivent ensuite eux-mêmes contrôler et déchiffrer ces travaux. OpenAI a publié des centaines de résultats mathématiques, souvent accompagnés de brèves notes que des chercheurs décrivent comme mal rédigées et difficiles à suivre.
Un choix de publication critiqué
OpenAI est aujourd’hui critiquée pour ce que Sam Altman dit justement qu’elle ne devrait pas faire : garder des résultats potentiellement importants. Des mathématiciens et des scientifiques interrogés par The Verge cette semaine disent être frustrés par ce qu’ils perçoivent comme une mise sous contrôle de la recherche. Ces critiques font suite à l’annonce de trois grandes avancées, en mathématiques, en physique et en informatique.
Les détails de l’un de ces résultats, lié à la théorie de Yang-Mills, qui constitue le socle mathématique de la physique moderne des particules, n’ont pas été rendus publics. OpenAI explique cette décision par les recommandations d’un groupe d’experts choisis à la main, consultés sur la meilleure façon de le diffuser. Cette pratique va directement à l’encontre des conseils d’un groupe de mathématiciens consulté auparavant par l’entreprise, mais elle s’inscrit, selon OpenAI, dans une nouvelle approche de communication de ses découvertes.
Des moyens considérables
Interrogé sur l’existence de preuves supplémentaires, au-delà des centaines déjà publiées, Sam Altman répond : « Nous en avons. Bien sûr. » Il reconnaît aussi que la recherche de problèmes mathématiques a « échappé à tout contrôle » pendant une courte période, un choix qu’il présente comme délibéré et nécessaire pour tester les limites de ses modèles. Il décrit un canal Slack interne baptisé « Model Name-Hold My Beer », où des employés « lançaient ça sur les problèmes les plus difficiles qu’ils pouvaient trouver » pour observer les performances des modèles.
Sam Altman estime par ailleurs qu’OpenAI a dépensé de l’ordre de plusieurs centaines de millions de dollars pour s’attaquer à des problèmes mathématiques. Il évoque notamment environ 10 millions de dollars, « peut-être un peu plus », consacrés à sa solution du problème de Navier-Stokes, l’un des légendaires problèmes du prix du millénaire en mathématiques. Ces montants donnent une idée des ressources que les laboratoires d’IA mobilisent sur des questions scientifiques, et suscitent chez certains chercheurs la crainte de se trouver écartés de leurs propres domaines.
Il semble que les mathématiciens et les autres chercheurs qui espéraient une accalmie ne vont pas l’obtenir.
