C’est un secret de Polichinelle : l’intelligence artificielle révolutionne les opérations IT des entreprises. Optimisation des processus, meilleure prise de décision, réduction des erreurs… Mais cette efficacité accrue s’accompagne d’une exposition plus importante aux menaces cyber. Les cyberattaquants exploitent désormais l’IA pour lancer des attaques plus sophistiquées, augmenter leur portée et identifier plus rapidement les failles à exploiter.
Tribune Gigamon – Selon Gigamon, quatre risques majeurs liés à l’IA menacent aujourd’hui les organisations :
- Les attaques adversariales
Ces attaques consistent à introduire des modifications quasi indétectables dans les données ou les images utilisées par l’IA, afin de tromper les algorithmes et obtenir des résultats erronés. Par exemple, un léger changement dans une image peut induire en erreur un système de reconnaissance visuelle, ou encore permettre un accès non autorisé à des outils de cybersécurité. - L’usage malveillant de l’IA générative
Les capacités avancées de l’IA générative permettent aujourd’hui de créer des contenus falsifiés d’une grande crédibilité : deepfakes réalistes, e-mails de phishing indétectables ou codes malveillants optimisés. Comme ces modèles s’améliorent en permanence, la qualité et la sophistication de ces attaques augmentent rapidement. - L’empoisonnement et la manipulation de modèles
L’empoisonnement de données consiste à injecter de fausses informations dans les jeux de données utilisés pour entraîner un modèle d’IA, altérant ainsi sa performance et sa fiabilité. La manipulation de modèles, quant à elle, vise à modifier directement les algorithmes afin d’y introduire des vulnérabilités exploitables par la suite. - L’inversion de modèles et les fuites de données
Cette technique consiste à analyser les sorties d’un modèle pour en déduire, voire reconstituer, les données qui ont servi à l’entraîner. Elle peut exposer des informations personnelles, des données soumises à des réglementations strictes ou des secrets industriels et commerciaux.
Face à ces menaces, Gigamon préconise la mise en place de cadres de gouvernance de l’IA, la surveillance continue du trafic réseau et du comportement des modèles, la sécurisation de la chaîne de données et la formation des collaborateurs aux risques liés à l’IA.
« L’IA est un formidable levier pour l’innovation, mais elle élargit considérablement la surface d’attaque des entreprises. Sans visibilité totale sur les flux réseau, les menaces alimentées par l’IA peuvent passer inaperçues. Avec l’observabilité avancée sur les flux de données, nous donnons aux organisations les moyens de détecter ces anomalies en temps réel et de réagir avant qu’il ne soit trop tard », souligne Yann Samama, Senior Sales Engineer chez Gigamon.
Grâce à sa technologie d’observabilité avancée Gigamon offre en effet une visibilité complète sur le trafic réseau – chiffré ou non – dans les environnements hybrides et cloud, permettant aux équipes de cybersécurité de détecter les comportements anormaux liés à l’IA et de renforcer leurs politiques de protection.
