La start-up de cybersécurité Cathedral affirme avoir identifié, en moins de 12 heures, des failles dans des logiciels tiers utilisés par Anthropic, l’éditeur du modèle Claude. L’entreprise confirme un accès limité à certains systèmes internes, mais assure que les conversations des utilisateurs et les composants de ses modèles n’ont pas été consultés.
- Cathedral affirme avoir trouvé des failles chez Anthropic en moins de 12 heures.
- Anthropic confirme un accès limité à certains systèmes internes.
- Les conversations et les modèles n’ont pas été consultés.
- Les deux sociétés divergent sur la gravité de l’incident.
Les agents IA, c’est-à-dire des programmes capables d’enchaîner plusieurs tâches de façon automatisée, peuvent accélérer aussi bien la recherche de vulnérabilités que les capacités d’attaque. Selon un rapport préliminaire de Cathedral, une jeune société de cybersécurité, ses chercheurs ont trouvé des voies d’accès à plusieurs systèmes internes d’Anthropic en moins de 12 heures. Consulté par le Washington Post, ce document évoque des informations potentiellement accessibles, notamment des comptes rendus de réunions, des données salariales et des échanges sur Slack relatifs aux modèles d’IA avancés de l’entreprise.
Anthropic précise que les chercheurs avaient passé plusieurs jours à tenter, sans succès, de pénétrer directement ses logiciels. Ils se seraient ensuite tournés vers des applications professionnelles tierces vulnérables. Les « moins de 12 heures » ne correspondent donc qu’à la phase de recherche fructueuse, et non à l’ensemble des tentatives. Selon les informations publiées, l’accès n’aurait pas été obtenu en attaquant directement Claude ou son infrastructure d’entraînement, mais en exploitant des logiciels utilisés pour les activités commerciales et administratives. Les éditeurs de ces logiciels n’ont pas été identifiés publiquement.
Un programme de divulgation au cœur de l’affaire
Cathedral a été fondée par d’anciens membres du Department of Government Efficiency (DOGE), l’organisme de l’administration Trump chargé de réduire les dépenses publiques. La société développe des capacités de cybersécurité reposant sur l’IA, notamment pour des usages gouvernementaux. Elle affirme avoir mené ses recherches dans le cadre du programme de divulgation de vulnérabilités d’Anthropic, qui autorise des chercheurs externes à tester certaines protections et à signaler les failles découvertes, et indique avoir communiqué ses résultats à l’éditeur et aux fournisseurs concernés.
Une ampleur contestée
Anthropic reconnaît que les chercheurs ont atteint un périmètre limité de ses systèmes commerciaux, de ressources humaines et informatiques. Des coordonnées professionnelles de clients et de partenaires, ainsi que des informations élémentaires sur certains comptes utilisateurs, étaient accessibles. En revanche, l’entreprise affirme que les conversations des utilisateurs avec Claude, les réponses du modèle, le code source et les paramètres entraînés n’ont pas été consultés. Elle indique que ses mécanismes de surveillance avaient détecté une partie de l’activité de Cathedral avant le signalement des chercheurs, qu’elle a coupé les accès le jour même et désactivé les logiciels concernés dans l’attente de corrections par leurs fournisseurs. Elle affirme enfin ne disposer d’aucun élément montrant que d’autres acteurs ont exploité les mêmes vulnérabilités.
Les deux sociétés divergent sur l’interprétation de l’incident. Cathedral présente ses résultats comme un avertissement sur les capacités offensives émergentes de l’IA. Anthropic estime au contraire que la start-up a exagéré les implications de ses découvertes pour la sécurité nationale, et lui reproche de ne pas avoir déclaré l’ensemble de ses activités conformément aux règles du programme de recherche. Les informations publiées ne permettent pas, à ce stade, de conclure à une compromission des modèles d’Anthropic. Elles établissent néanmoins qu’un accès limité à des applications professionnelles peut exposer des informations sensibles.
