Les cybercriminels surfent sur l’augmentation de 400 % de l’utilisation d’applications d’IA générative par les employés

0
132

Une nouvelle étude détaille la forte croissance de l’adoption de l’intelligence artificielle générative, les risques liés aux applications en cloud, les principales menaces et les adversaires tout au long de l’année 2023.

Tribune — Netskope, spécialiste du SASE (Secure Access Service Edge), publie une nouvelle étude selon laquelle plus de 10 % des employés utilisent au moins une application d’intelligence artificielle (IA) générative chaque mois, contre seulement 2 % un an plus tôt. Annoncés dans le cadre de l’étude annuelle Cloud and Threat Report de Netskope, ces résultats soulignent la croissance rapide de l’adoption des applications d’IA générative au sein des organisations, ainsi que l’émergence de nouveaux risques pour la cybersécurité. L’étude annuelle Cloud and Threat Report de Netskope fait le point sur les principales tendances qui ont marqué l’année 2023 sur le plan de la cybersécurité du cloud, et anticipe la façon dont l’adoption du cloud, et la surface d’attaque qui en découlera, continueront d’évoluer en 2024.

2023 : l’année de l’IA générative

Selon l’étude de Netskope, plus de 10 % de l’ensemble des utilisateurs en entreprise accèdent à au moins une application d’IA générative par mois, contre seulement 2 % un an plus tôt. En 2023, ChatGPT s’est imposée comme l’application d’IA générative la plus populaire du marché, représentant 7 % des utilisations d’IA générative en entreprise.

Tandis que Netskope prévoit une hausse continue et modérée du nombre total de collaborateurs qui accèderont à des applications d’IA au cours de l’année 2024, il apparaît qu’un groupe émergent d’utilisateurs chevronnés a recours de façon croissante à ces applications. Parallèlement à l’augmentation exponentielle de cette utilisation, les 25 % d’utilisateurs qui représentent les plus importants consommateurs d’IA générative devraient accroître de façon significative leur activité en 2024, imaginant de nouvelles façons d’intégrer la technologie à leur activité quotidienne.

« Compte tenu de l’utilisation croissante des applications d’IA, les employés sont davantage susceptibles d’exposer des données sensibles, qu’il s’agisse d’identifiants, d’informations personnelles ou de propriété intellectuelle, observe Ray Canzanese, Threat Research Director, Netskope Threat Labs. Pour que les applications d’IA soient utilisées en toute sécurité, les entreprises doivent mettre en œuvre des moyens de contrôle raisonnables, ainsi que des outils avancés de sécurité des données, tout en se concentrant sur la façon dont leurs employés peuvent utiliser l’IA de manière productive. »

Hausse de l’utilisation des applications cloud

De manière générale, l’adoption des applications cloud a continué d’augmenter tout au long de l’année écoulée, les collaborateurs essayant régulièrement de nouvelles applications, tout en augmentant leur utilisation de celles les plus prisées.

Principaux enseignements de cette étude 

  • Le nombre d’applications cloud auxquelles les collaborateurs ont accédé a progressé en moyenne de 19 % par an, passant de 14 à 20 applications différentes en l’espace de seulement deux ans ;
  • La moitié des utilisateurs en entreprise interagit chaque mois avec entre 11 à 33 applications cloud, les 1 % les plus performants utilisant plus de 96 applications par mois. L’utilisation de ces applications cloud augmente à un rythme encore plus soutenu, passant d’un peu plus de 1 000 interactions par mois il y a deux ans à près de 2 000 aujourd’hui ;
  • La plupart des collaborateurs génèrent entre 600 et 5 000 interactions par mois, tandis que les 1 % d’utilisateurs les plus expérimentés génèrent plus de 50 000 activités par mois.

Les attaques par ingénierie sociale en première ligne

En 2023, l’ingénierie sociale s’est imposée comme la méthode la plus couramment utilisée par les cyberattaquants pour obtenir un accès initial ; c’est en effet le moyen le plus simple de se frayer un chemin au cœur de systèmes dont les failles de sécurité connues sont rapidement corrigées et qui limitent l’accès à distance. Au cours de l’année écoulée, les techniques les plus répandues se sont appuyées sur des méthodes telles que le phishing pour subtiliser des identifiants, et les chevaux de Troie pour inciter les victimes à télécharger et à installer des malwares.

Les utilisateurs sont tombés dans le piège du phishing trois fois plus souvent qu’ils ont téléchargé des chevaux de Troie, 29 collaborateurs en entreprise sur 10 000 en moyenne ayant cliqué sur un lien d’hameçonnage une fois par mois en 2023. Les applications cloud et les sites d’achat en ligne ont figuré parmi les principales cibles d’un bout à l’autre de l’année, tandis que les portails bancaires, les réseaux sociaux et les cibles gouvernementales enregistraient eux aussi une augmentation sensible.

Les cheveux de Troie sont le deuxième vecteur d’attaque le plus courant, les utilisateurs en ayant téléchargés en moyenne 11 par mois pour 10 000 utilisateurs. En d’autres termes, dans une entreprise qui emploie 10 000 personnes, 132 chevaux de Troie ont en moyenne été téléchargés au cours de l’année.

Acteurs de la menace et activités malveillantes

En 2023, la majorité des activités malveillantes visant des clients de Netskope ont été motivées par la criminalité, les cyberattaquants géopolitiques les plus actifs intervenant en Asie et en Amérique latine. Netskope a constaté qu’en 2023, les principaux groupes de cybercriminels étaient basés en Russie, tandis que les auteurs de menaces géopolitiques opéraient à partir de la Chine, ciblant essentiellement des victimes situées en Asie, et tout particulièrement à Singapour.

De nombreux groupes se sont largement appuyés sur le logiciel Cobalt Strike pour maintenir leur présence et déployer des applications malveillantes (ransomwares, infostealers, wipers et autres malwares) en vue d’extorquer leurs victimes. Dans son étude, le Threat Labs de Netskope présente le profil des cinq principaux adversaires observés au cours de l’année écoulée, ainsi que les campagnes et activités observées pour chaque groupe.

« En 2023, nombre de cyber-adversaires ont tiré parti de l’adoption croissante des applications cloud dans les environnements d’entreprise, notamment par le biais d’astuces liées à l’ingénierie sociale. Cette tendance devrait se poursuivre en 2024 », ajoute Ray Canzanese.

Principaux enseignements pour les entreprises

Netskope recommande aux entreprises de prendre les mesures suivantes afin de lutter efficacement contre ces tendances :

  • Limiter exclusivement l’accès aux applications qui répondent à un objectif professionnel légitime ; créer un processus d’analyse et d’approbation pour les nouvelles applications ; et mettre en œuvre un processus de surveillance continue qui informera les opérateurs de sécurité qu’une application est utilisée à des fins malveillantes ou a été compromise ;
  • Le déploiement et l’adoption d’applications d’IA en toute sécurité doivent constituer une priorité majeure pour la plupart des entreprises, notamment en identifiant les applications autorisées et en mettant en œuvre des contrôles permettant aux collaborateurs de les utiliser au maximum de leurs possibilités, tout en protégeant l’entreprise contre les risques ;
  • Les entreprises doivent continuer d’investir en vue de réduire les risques d’ingénierie sociale, notamment par le biais de formations à la cyber-sensibilisation et aux technologies anti-phishing.