Les progrès de l’intelligence artificielle générative (GenAI) ont eu un impact considérable sur la création de contenu, l’innovation et la collaboration. La GenAI permet de faciliter la création des textes, des images et des vidéos, le tri des informations non structurées et la génération et l’analyse des logiciels. Pour autant, que peut apporter la GenAI en matière de sécurité ? Tribune par Estelle Villard, Head of France chez Miro.
Lorsque les termes « IA » et « sécurité » sont utilisés dans la même phrase, ils ont souvent une connotation négative. Il n’a jamais été aussi simple pour les hackers de créer rapidement et facilement du contenu imitant d’autres entreprises ou d’autres personnes à des fins d’hameçonnage. La GenAI peut même permettre de créer des codes malveillants ou rechercher des vulnérabilités de sécurité dans un code source ouvert afin de les exploiter.
Il est important que tous les utilisateurs de l’IA – et en particulier les chefs d’entreprises qui en sont dotées – soient conscients des risques de sécurité liés à cette technologie. Il existe également un certain nombre de moyens par lesquels les outils alimentés par l’IA améliorent la sécurité de l’entreprise.
Classification et identification des différents types d’informations
Grâce aux récents développements de la GenAI, il est désormais plus simple d’identifier, de classer et d’imposer des mesures de protection sur les différents types d’informations. Alors qu’auparavant les informations correspondaient à des modèles statiques, il est à présent possible de distinguer les informations non structurées sur la base d’un contexte plus large, de la même manière que l’esprit humain qui reconnaît des informations.
Ces évolutions continueront d’avoir un impact significatif sur la protection et la prévention des fuites de données, en particulier lorsqu’il s’agit de types d’informations multimodales telles que les documents, les e-mails et les canevas. Auparavant, seules les parties individuelles pouvaient être identifiées et classifiées. Désormais, Il est possible de voir comment des éléments d’information distincts peuvent être sensibles en combinaison avec d’autres informations. Cette distinction empêche la fuite de données qui pourraient être reconstituées par un hacker pour former une image complète.
L’IA peut également s’adapter aux changements dans les informations et les données en fonction des inputs, lui permettant d’apprendre quelles sont les informations sensibles. Cela constitue un avantage par rapport aux modèles qui doivent être explicités et codés en dur, rendant l’IA particulièrement bien adaptée à la protection d’ensembles d’informations très variables, fréquents au cours des processus d’innovation.
Détection d’anomalies
Le Machine Learning (ML) a permis l’apprentissage de nouveaux modèles et la capacité d’inclure un plus large éventail de données. La GenAI, permet de détecter plus efficacement des anomalies dans des données complexes (telles que des textes ou des images). Ainsi, ses modèles sont capables de traiter de plus grandes quantités de données non structurées et d’informations multimodales.
Les approches hybrides – détection d’anomalies assistée par la GenAI avec des algorithmes supervisés et non supervisés – se sont révélées plus précises et s’adaptent plus efficacement aux changements des données (alors que les approches traditionnelles doivent être recalibrées). En outre, elles peuvent ajouter davantage de dimensions et de formes d’information à la détection d’anomalies.
Ces capacités sont exploitées pour tout ce qui concerne la détection des anomalies de comportement des utilisateurs, l’identification des comptes compromis, les modèles de réseau, la détection des fraudes financières et bien d’autres.
Surveillance des menaces
La mise en place de grands modèles de langage (LLM), ainsi que les capacités d’analyse, de traduction d’images et de discours des modèles d’intelligence artificielle, permettent des avancées significatives dans le traitement du renseignement sur les menaces.
Un plus grand nombre de sources avec des contextes plus variés peuvent être traitées et synthétisées pour une consommation plus facile, rendant les ensembles de données plus importants plus viables et exploitables. À la manière de la détection d’anomalies, le filtrage de données plus nombreuses et variées permet à l’IA de déceler des schémas subtils que l’Homme pourrait facilement manquer. Une collecte efficace des menaces permet aux entreprises de se protéger contre les attaques similaires qui se sont produites ailleurs.
Détection contextuelle
La combinaison d’un flux de surveillance de menaces et d’une détection d’anomalies permet d’automatiser la détection contextuelle. En d’autres termes, la GenAI peut prendre un grand ensemble de données provenant d’un flux de surveillance et détecter dans un environnement à plus petite échelle des nuances infimes et subtiles qui pourraient autrement passer inaperçues.
Les nouveaux modèles d’IA offrent une opportunité considérable dans l’élaboration de structures de données pour rassembler les informations afin qu’elles correspondent mieux à d’autres sources, telles que les bases de données vectorielles. Les informations provenant de sources multiples peuvent être collectées et comparées à un flux de données différent, permettant à l’avenir de mieux exploiter la surveillance de menaces.
Automatisation des tâches
Un autre atout majeur de l’IA est sa capacité à automatiser les tâches fastidieuses et répétitives, libérant ainsi du temps au personnel qualifié pour des analyses plus approfondies. Ceci est particulièrement important dans le domaine de la cybersécurité, où les ressources nécessaires pour protéger les données et systèmes des entreprises sont souvent insuffisantes.
La GenAI simplifie la mise en place d’une automatisation de tâches ou d’une requête en réduisant le besoin d’expertise et d’expérience. Le langage naturel peut être utilisé pour demander à un modèle de GenAI de générer la requête et d’itérer rapidement vers le résultat souhaité. Prompter la GenAI est sans aucun doute une compétence. Cependant, elle n’est pas limitée par des abstractions de code faibles ou inexistantes pour accomplir la même tâche.
Le plus grand avantage de l’IA est probablement sa capacité d’adaptation. Tout comme les aspects contextuels peuvent être intégrés avec une plus grande efficacité, les modèles peuvent s’ajuster et s’adapter à des changements continus ou à des variations plus importantes. Cela peut à la fois accroître l’efficacité du personnel de sécurité et réduire les exigences en matière de compétences de base, tout en améliorant considérablement la couverture des mesures préventives et en réduisant les vulnérabilités et les faiblesses
Assistants
Les assistants et les copilotes ont été l’une des plus grandes évolutions de la GenAI. Maintenant que les tâches de programmation sont facilitées, la GenAI utilise ses modèles pour mieux assister les ingénieurs. Les tâches spécifiques telles que la résolution des vulnérabilités sont simplifiées parce que le modèle fournit aux développeurs un ensemble plus large de connaissances et d’expertise leur permettant de résoudre les problèmes de sécurité. Les tâches répétitives, quant à elles, sont exécutées sur un ensemble plus large de code.
Analyser et protéger le code avec l’IA
Avec le développement de la GenAI et, plus particulièrement, des grands modèles de langage (LLM), il est désormais plus facile de commenter ou résumer le code afin de le rendre plus accessible aux ingénieurs. En outre, ces modèles peuvent renforcer les capacités nécessaires pour analyser le code à la recherche de failles de sécurité et suggérer des correctifs et des mesures d’atténuation.
Le code source est généralement vaste pour la plupart des systèmes monolithiques et les fonctions peuvent être dispersées dans le code. Il peut même y avoir du code inactif, inutilisé, qui peut dérouter les ingénieurs s’il n’est pas commenté ou supprimé de manière appropriée. L’analyse assistée par l’IA permet aux ingénieurs de parcourir plus efficacement une large base de codes.
Bien que l’analyse statique du code existe depuis longtemps, elle a souvent été confrontée à un grand nombre de faux positifs et de faux négatifs. En raison de la nature variable du code source, il est également difficile de déterminer à quel endroit apparaît une faille de manière cohérente. L’IA peut passer au crible cette grande quantité de code et gérer la grande diversité des manières d’écrire la même fonction dans celui-ci. Il en résulte un taux réduit de faux positifs et une détection plus précise de vulnérabilités précédemment passées inaperçues lors de l’analyse du code.
La capacité de l’IA à traiter les informations en fait une solution intéressante pour faire face au volume et à la complexité croissants des cybermenaces. Lorsqu’on réfléchit aux prochaines étapes de la sécurisation de son entreprise, il est nécessaire d’envisager l’utilisation d’outils de sécurité alimentés par l’IA et développés par des partenaires de confiance dont les plateformes sont déjà intégrées à l’infrastructure de l’entreprise. En fin de compte, une approche équilibrée dans laquelle l’IA est déployée pour renforcer les compétences et le jugement des experts constitueront le cadre le plus efficace pour exploiter les avantages de cette technologie transformatrice.
