Une nouvelle étude publiée hier révèle comment les déploiements d’IA génératives (genAI) créent des risques massifs d’exposition des données : une fuite majeure d’un bot IA destiné au recrutement de collaborateurs a abouti à la révélation de 64 millions de dossiers d’utilisateurs contenant des informations personnelles. Les leaders dans les organisations sont confrontés à des vulnérabilités en matière de sécurité des données et de confidentialité lors des déploiements d’outils d’IA générative. Il est donc nécessaire de mettre en œuvre des stratégies pour une activation en toute sécurité.
Tribune – Ray Canzanese, directeur du Netskope Threat Labs, explique :
« Alors que les équipes ressentent la pression de créer de nouvelles solutions basées sur l’IA pour résoudre leurs problèmes, les organisations sont confrontées à un danger : la quantité toujours croissante d’infrastructures de shadow AI (utilisation d’applications SaaS genAI, plateformes genAI et déploiements genAI sur site) qui apparait sans surveillance appropriée. Les applications et les agents personnalisés, qu’ils soient créés à l’aide de plateformes genAI ou sur site, nécessitent une attention particulière pour s’assurer qu’ils sont correctement sécurisés et gérés. Les entreprises spécialisées dans l’informatiques et la sécurité doivent s’assurer qu’elles travaillent activement à mettre en lumière le shadow IT et qu’elles incluent les équipes de manière proactive pour s’assurer que les examens de sécurité appropriés ont été effectués et que des contrôles sont en place. »
