Les laboratoires d’IA de pointe, au premier rang desquels OpenAI et Anthropic, font travailler des milliers d’agents simultanément pour améliorer leurs processus et leur production. Dans une analyse publiée sur la newsletter Interconnects, l’auteur s’interroge sur la manière dont ce rythme modifie les attentes des salariés et sur l’idée que les risques liés à l’IA pourraient mener à une extinction de l’humanité, qu’il juge « très religieuse ».
- Les laboratoires d’IA font travailler des milliers d’agents pour améliorer leurs processus.
- L’auteur doute d’une auto-amélioration récursive rapide de l’IA.
- Il estime que les gains viendront surtout de l’efficacité et de la réduction des coûts.
- Les experts donnent des échéances très différentes pour les capacités futures de l’IA.
Selon lui, la culture très concurrentielle de la scène de San Francisco amplifie toute inquiétude liée à l’IA. Il rappelle les nombreux débats sur la sécurité de l’IA, et sur la viabilité de l’IA open source, qui ont animé les années 2023 et 2024. Les principaux risques alors annoncés ne se sont pas produits dans les délais prévus. Il cite aussi des incidents comme « OpenAI-HuggingFace » et estime que la montée de l’anxiété, notamment depuis que les agents ont gagné en efficacité au début de 2026, pourrait encore s’accentuer.
Une communauté tournée vers un avenir proche
L’auteur reprend le résumé de Richard Ngo, qui observe qu’une grande partie de la communauté de sécurité de l’IA s’oriente vers des scénarios d’explosion de l’intelligence dans les prochaines années. Selon Ngo, ces anticipations seront « justes dans leur direction, mais fausses sur les faits ». Il écrit notamment : « nous n’aurons pas de superintelligence dans les 8 prochaines années, mais les choses avanceront tellement vite que cela donnera l’impression que ceux qui défendaient des échéances courtes avaient raison. »
L’auteur rapproche cette position de sa propre hypothèse, qu’il appelle « lossy self-improvement », soit une auto-amélioration « avec pertes », par opposition à l’auto-amélioration récursive de l’IA (RSI), où une IA contribue à améliorer sa propre conception. Il estime que la recherche automatisable reste trop étroite pour accélérer fortement les progrès, que les rendements décroissants liés à l’ajout d’agents en parallèle sont réels et que les contraintes de ressources et les facteurs politiques pèsent lourdement.
Des calendriers très différents selon les experts
L’auteur s’appuie sur des podcasts de Dwarkesh avec Noam Brown, puis avec John Schulman, Beren Millidge et Charlie O’Neill. Dans ces échanges, les intervenants donnent des échéances pour plusieurs capacités. Pour un « drop-in remote worker » capable d’accomplir un travail de bureau généraliste sur un mois, John Schulman évoque environ un an pour une version « correcte », Charlie O’Neill environ un an avec accès programmatique aux outils, et deux ans s’il faut passer par un navigateur, tandis que Beren Millidge parle d’environ trois ans pour une généralité complète.
Pour une productivité multipliée par dix des chercheurs en IA, John Schulman avance environ deux ans, Charlie O’Neill entre cinq et dix ans, et Beren Millidge juge l’estimation de deux ans plausible sans en proposer une autre. Pour une IA dépassant les meilleurs experts humains sur l’ensemble des travaux informatiques, y compris les projets pluriannuels (« ASI »), John Schulman parle de trois à quatre ans, Beren Millidge d’environ cinq ans pour les domaines visés par les laboratoires, et Charlie O’Neill de cinq à dix ans.
Des gains surtout dans l’efficacité
L’auteur souligne que les progrès ne franchissent pas des seuils nets, car l’intelligence des modèles reste inégale selon les tâches. Il estime que la boucle expérimentale pourrait devenir dix fois plus rapide, mais pas la formulation d’hypothèses. Selon lui, l’auto-amélioration devrait surtout aider à rendre les modèles moins coûteux et à améliorer les systèmes multi-agents, car les métriques de service des LLM sont mesurables.
Il reste toutefois prudent sur les coûts, car les lois d’échelle montrent qu’il faut des ressources exponentielles pour obtenir des gains linéaires d’intelligence. Il cite John Schulman sur le post-entraînement, dont il juge la tâche difficile à automatiser : « il est très facile de gâcher le post-entraînement d’une manière qui n’apparaît pas dans les benchmarks ». Il rapporte enfin un passage de la Claude Fable 5.1 & Mythos 5.1 System Card : « Nous pensons que l’usage interne de modèles d’IA récents a été un facteur clé pour maintenir le rythme actuel de progrès, mais nous ne voyons pas encore de signes clairs d’une accélération spectaculaire au-delà de ce rythme. » Pour l’instant, l’auteur considère que sa propre hypothèse reste sa référence.
