Seulement quelques semaines après son lancement, l’agent conversationnel basé sur l’intelligence artificielle (IA) ChatGPT rassemblait plus d’un million d’utilisateurs. Mais des experts en cybersécurité pointent déjà du doigt comment cet outil pourrait être utilisé à mauvais escient.
Tribune – Lavi Lazarovitz, Head of Security Research du CyberArk Labs, est l’un d’entre eux :
« ChatGPT a le potentiel d’être une menace légitime pour la cybersécurité. La principale utilisation malveillante repose sur la génération de scénarios de phishing envoyés à des masses de cibles. Par exemple, cela pourrait se manifester dans la solution d’IA utilisant les données collectées lors de la récente fuite de Twitter pour envoyer directement des messages aux utilisateurs de ce réseau social. Déguisés en compte d’assistance Twitter légitime, avec une coche bleue, les cybercriminels pourraient utiliser ChatGPT pour convaincre les victimes de partager des informations sensibles ou des mots de passe.
La capacité de ChatGPT à maîtriser la conversation et la rhétorique permet ainsi aux hackers de créer des campagnes de phishing par SMS à grande échelle, ciblant les masses pour en faire des victimes via des applications de messagerie courantes. Parallèlement à cela, l’aptitude de ChatGPT pour le langage en fait un allié de taille pour aider les hackers inexpérimentés à écrire des malwares, ce qui est traditionnellement le domaine des cybercriminels plus expérimentés.
ChatGPT est déjà utilisé par les chercheurs en sécurité, pour cartographier les vulnérabilités et les bogues dans le code sur simple demande, tout en facilitant la création de programmes sécurisés pour les développeurs novices. Bien qu’il s’agisse donc d’un outil utile pour développer et surveiller le code, il est important de noter que ChatGPT n’est pas infaillible. Ses réponses sont imprévisibles et ne peuvent pas être retracées à des sources fiables, il ne faut donc pas lui faire aveuglément confiance. Au lieu de cela, les spécialistes de la sécurité et les développeurs doivent être prudents et ne l’utiliser que comme point de départ pour des recherches et développements à approfondir ensuite. »