Interdire les modèles à poids ouverts afin de limiter les risques cyber pourrait, selon l’auteur d’une tribune publiée sur Substack, aller à l’encontre de la compétitivité américaine et accroître les risques à long terme. Il estime que le débat est bloqué faute de prendre en compte les arbitrages et les réalités difficiles.
- L’auteur juge qu’interdire les modèles à poids ouverts pourrait nuire à la compétitivité américaine.
- Il reproche au débat d’ignorer les arbitrages et les effets réels d’une interdiction.
- Les attaques documentées visent surtout des modèles fermés accessibles par API.
- Il estime que GLM-5.3 franchit désormais le seuil de capacité cyber évoqué.
Trois positions dans le débat
L’auteur distingue trois courants. Le premier juge que les modèles à poids ouverts, c’est-à-dire dont les paramètres sont publiés et peuvent être téléchargés, font peser un risque inacceptable sur le fonctionnement de la société. Il rassemble la direction de certains laboratoires d’IA de pointe et la communauté de la sécurité nationale américaine. Le deuxième, dans lequel il se range, soutient que ces modèles sont nécessaires à la défense et qu’en interdire l’usage rendrait le monde moins sûr. Il réunit des voix occidentales modérées, dont celle de Hugging Face après l’incident impliquant OpenAI, ainsi que Joshua Saxe. Le troisième regroupe les entreprises chinoises, qui continuent de publier des modèles à poids ouverts aux fortes capacités cyber, sur la base de leur propre évaluation des risques.
Le texte reproche au rapport d’Anthropic sur les risques du modèle GLM-5.3, utilisable comme outil de cyberattaque offensive, de ne pas aborder les questions transversales. Les travaux techniques sont jugés raisonnables, mais l’auteur relève qu’aucune analyse ne porte sur les effets d’une interdiction des modèles ouverts ni sur les raisons pour lesquelles des entreprises chinoises jugent ces modèles sûrs à publier.
Des données, des arbitrages et une gouvernance différente
Pour l’auteur, les attaques documentées à ce jour sont surtout liées à des modèles fermés, accessibles par interface de programmation (API), et il cite en particulier de nombreuses attaques attribuées à des modèles d’OpenAI. Il avance plusieurs explications possibles, sans trancher : les modèles ouverts comme les API fermées pourraient être tous deux faciles à détourner, ou les acteurs malveillants prêts à viser des infrastructures critiques pourraient être peu nombreux. Il souligne aussi que, dans certains domaines sensibles, les modèles ouverts sont les seuls utilisables sur des réseaux isolés d’internet.
Selon lui, la Chine aborde la sécurité de l’IA de manière propre à sa culture et à ses structures de pouvoir. D’après sa compréhension, les entreprises chinoises doivent déclarer chaque grande sortie de modèle au gouvernement, y compris les évaluations, mais il n’est pas clair que ce dispositif s’étende aux risques cyber ou biologiques. Il estime également que des évaluations de sécurité complètes sur un modèle comme Kimi K3 pourraient coûter des dizaines de millions de dollars en calcul.
Lors de son annonce, Claude Mythos a été présenté comme une nouvelle classe d’arme cyber. L’auteur estime que cette présentation était erronée, et qu’une diffusion accidentelle de ce modèle en poids ouverts aurait surtout accéléré les incidents plutôt que créé une rupture. Selon lui, GLM-5.3 franchit désormais le seuil de capacité évoqué, et, plus d’un mois après sa publication en poids ouverts, peu de preuves publiques indiquent que la situation a beaucoup changé.
