Anthropic avait jugé Mythos trop sensible pour être rendu public, mais l’accès a tout de même été obtenu en combinant des identifiants tiers et des schémas d’infrastructure exposés. Qu’est-ce que cela révèle du fossé qui existe entre la conception de systèmes d’IA avancés et leur contrôle effectif dans la pratique ? Tribune Tanium.
Harman Kaur : “L’accès à Mythos n’a nécessité aucun vecteur d’attaque sophistiqué. Il s’agissait simplement d’une défaillance de contrôle. L’URL de l’endpoint a été déduite de la syntaxe de nomenclature d’Anthropic, qui avait déjà fait l’objet d’une fuite lors de la précédente fuite de données sur Mercor, et les identifiants légitimes d’un sous-traitant ont permis de mener à bien l’opération. Pas de vulnérabilités zero-day, pas d’exploits inédits. Juste deux lacunes de gouvernance ordinaires qui se sont superposées. Et c’est vraiment la leçon à retenir ici. Au rythme où nous développons ces systèmes, la gouvernance et les contrôles sont faciles à négliger, et ils parviennent rarement à suivre la vitesse de l’innovation.”
Cet incident a mis en évidence à la fois des problèmes liés à l’accès de tiers et à des failles dans l’infrastructure. Comment les organisations devraient-elles aborder la sécurisation de l’écosystème global autour de l’IA (et pas seulement des modèles eux-mêmes) ?
Harman Kaur :“L’incident Mythos nous rappelle que le modèle lui-même est rarement le maillon faible. La surface d’attaque autour de l’IA est bien plus vaste que ce que la plupart des gens pensent. Elle inclut chaque fournisseur en contact avec le système, chaque sous-traitant disposant d’un accès, chaque composant middleware et chaque identifiant permettant d’atteindre l’une de ces couches. Mythos n’a pas été piraté en cassant l’infrastructure centrale d’Anthropic. Il a été piraté via un fournisseur de données d’entraînement, un sous-traitant et un modèle d’URL prévisible. Cela ressemble à la façon dont le secteur s’est appuyé sur des outils de sécurité sophistiqués comme dernière ligne de défense, tout en laissant des vulnérabilités non corrigées à la vue de tous. L’IA amplifie ce problème. Les enjeux sont plus importants, le rythme est plus rapide et le rayon d’action d’un seul fournisseur compromis est bien plus vaste qu’auparavant. Nous devons maîtriser les bases, car aucun outil, aussi avancé soit-il, ne pourra nous sauver si la porte d’entrée reste ouverte.”
Pour les entreprises qui adoptent des systèmes d’IA plus avancés ou autonomes, quelles leçons doivent-elles tirer de cet incident en matière de gouvernance, de visibilité et de contrôle ?
Harman Kaur :“Mythos n’a pas été piraté par un moyen sophistiqué. Les identifiants d’un sous-traitant étaient toujours actifs et ont été réutilisés en dehors du cadre prévu. L’URL de la ressource était facile à deviner car les conventions de nomenclature d’Anthropic avaient fuité lors d’une autre fuite de données chez l’un de ses fournisseurs. Chacun de ces problèmes a une solution bien connue : l’authentification multifactorielle (MFA) résistante au phishing, le principe du moindre privilège, la suppression rapide des droits d’accès, la supervision des fournisseurs et une mentalité de « présomption de violation ». Rien de tout cela n’est nouveau. Nous devons simplement faire preuve d’encore plus de rigueur aujourd’hui, compte tenu de la rapidité à laquelle les choses évoluent.”
Considérez-vous les stratégies d’accès restreint comme un moyen de contrôle viable à long terme pour les systèmes d’IA puissants, ou cela met-il en évidence la nécessité de mettre en place des mesures de protection plus systémiques ?
Harman Kaur :“L’accès restreint est utile, mais ce n’est pas une solution à long terme, et Mythos en montre la raison. La surface d’attaque augmente proportionnellement au nombre d’utilisateurs autorisés. Quarante organisations, cela semble peu jusqu’à ce que l’on compte les sous-traitants et les fournisseurs derrière chacune d’elles. L’accès restreint permet de gagner du temps. Il ne garantit pas la sécurité. Mythos montre que le temps gagné se mesure en jours, et non en années. Les administrateurs doivent réussir à chaque fois. Les attaquants n’ont besoin de réussir qu’une seule fois.”
