Ci-dessous les commentaires et l’analyse de Melissa Bischoping, Senior Director, Security and Product Design Research chez Tanium, à propos de la mise à disposition du grand public par Anthropic de Claude Fable 5, un modèle de nouvelle génération basé sur Mythos, assorti de garde-fous de sécurité limitant les requêtes sur des sujets tels que les armes biologiques et l’exploitation de failles logicielles. Tribune.
Les barrières de sécurité suffiront-elles ?
« Les barrières de sécurité ne sont que des barrières. Tout comme celles que l’on trouve sur l’autoroute, elles peuvent empêcher la plupart des gens de dévier accidentellement de leur trajectoire, mais un véhicule suffisamment déterminé et performant peut les enfoncer ou les franchir. Nous devons considérer les barrières de sécurité comme un niveau de défense parmi d’autres, et continuer à élaborer nos stratégies de défense en profondeur en gardant cela à l’esprit. Pour les défenseurs, partez du principe que les garde-fous empêcheront les utilisateurs honnêtes de commettre facilement des erreurs graves, mais ne croyez pas qu’ils rendent un modèle intrinsèquement « sûr ». Ces outils permettent d’exécuter des logiques et des tâches complexes plus rapidement que jamais, mais en fin de compte, la visibilité nécessaire pour déterminer quand quelque chose ne va pas dans votre environnement n’a pas changé : vous avez besoin d’une télémétrie robuste et de playbooks de réponse aux incidents capables d’agir tout aussi rapidement. »
L’accès généralisé à des informations de niveau « Mythos » va-t-il entraîner une accélération massive du nombre de vulnérabilités signalées ? Et les entreprises sont-elles prêtes à faire face au rythme de correction qui s’ensuivra ?
« Nous constatons déjà une augmentation du nombre de vulnérabilités signalées, et ce problème était déjà un casse-tête pour toutes les organisations, même avant l’ère de l’IA. La plupart des organisations utilisaient des outils tels que les scores CVSS pour évaluer la gravité et établir des priorités, mais l’adoption généralisée de l’IA de classe Mythos signifie que les bugs auparavant considérés comme présentant « une faible menace/faible probabilité d’exploitation » sont désormais plus susceptibles d’être exploités. Nous devons mener une réflexion sérieuse sur l’utilisation de données en temps réel tenant compte des menaces pour établir des priorités. Au-delà de la simple réponse aux vulnérabilités, nous devrions adopter des pratiques d’hygiène visant à réduire le nombre d’applications inutiles et les surfaces d’attaque en général, tout en améliorant la visibilité, l’application des politiques et le renforcement de la sécurité à tous les niveaux. Nous savons que la technologie et les connaissances nécessaires pour corriger efficacement les bus existent, mais chaque dirigeant, dans chaque organisation, doit examiner de près l’environnement décisionnel et l’appétit pour la modernisation et le changement – c’est souvent là le véritable obstacle à l’adoption et au déploiement. Ce ne sont pas seulement les cycles de vie des correctifs qui seront remaniés dans ce nouveau domaine technologique. »
Combien de temps faudra-t-il avant que quelqu’un ne contourne les contrôles ?
« Les principes mathématiques qui sous-tendent le fonctionnement de l’IA la rendent également vulnérable aux attaques et à la manipulation de manière quasi infinie ; ainsi, s’il est impossible de dire « combien de temps », nous devons être réalistes et admettre que cela est probable, et que des modèles tout aussi performants, mais ayant bénéficié d’un entraînement moins bienveillant, verront le jour et seront utilisés à des fins malveillantes. En résumé : une stratégie de résilience à long terme doit partir du principe que les capacités des modèles, tant pour les adversaires que pour les défenseurs, continueront de progresser, ce qui réduira encore davantage le délai entre la découverte d’une vulnérabilité et son exploitation. »
