Deepfakes audio et fausses célébrités sur les réseaux sociaux et les sites de médias : comment les cybercriminels utilisent déjà la technologie de clonage de voix

0
112

Bitdefender publie le résultat d’une recherche sur une tendance de plus en plus répandue, celle des fausses signatures audio de célébrités sur Facebook et d’autres plateformes de médias sociaux, pour tromper les consommateurs et leur faire perdre de l’argent.

Tribune – Ces campagnes cybercriminelles utilisent la technologie de clonage de voix pour reproduire le ton et les modèles de discours de personnalités en vogue telles qu’Oprah, Elon Musk, Tiger Woods, Mr. Beast et bien d’autres, et les utilisent pour cautionner de faux concours, des jeux d’argent et des opportunités d’investissement.

Nombres de ces campagnes sont liées à des sites web criminels sosies d’organisations ou média réputés tels que le New York Times, Digi24, Dyson et d’autres, afin d’accroître leur crédibilité.

Voici les principales conclusions de l’étude :

  • Les escroqueries au clonage de voix analysées ont ciblé au moins 1 million d’utilisateurs américains et européens. Une publicité en particulier a touché 100 000 utilisateurs.
  • Les campagnes portent sur de faux concours, des jeux d’argent et des opportunités d’investissement.
  • Les sites web clonés de marques populaires telles que New York Times, Digi24 et Dyson sont liés aux deepfakes pour plus de crédibilité.
  • Les fausses annonces sont diffusées sur les plateformes Meta, notamment Facebook, Instagram, Audience Network et Messenger, et ciblent la tranche d’âge des 18-65 ans.
  • Comme la plupart des escroqueries en ligne, l’objectif principal est de voler de l’argent, des identifiants et des informations personnelles.

Qu’est-ce que le clonage vocal ?

Le clonage vocal est le processus d’utilisation d’outils d’IA pour créer des copies synthétiques de la voix d’un autre individu. Cette technologie sophistiquée utilise des techniques d’apprentissage en profondeur pour reproduire le discours d’une personne et créer un son hautement réaliste et convaincant d’une voix humaine. Comparé aux voix synthétiques générées entièrement par un ordinateur à l’aide de systèmes de synthèse vocale obsolètes, le clonage vocal utilise la voix réelle d’un autre individu pour produire une interprétation réaliste de l’original.

Le clonage vocal en quelques mots :

  1. Collecte d’échantillons – La première étape dans la création d’une voix synthétique consiste à collecter des échantillons de voix auprès d’un individu. Plus les données vocales collectées sont nombreuses, plus la voix clonée sera précise. Cela ne prend que quelques secondes d’audio à partir de n’importe quelle vidéo sur les réseaux sociaux ou d’un enregistrement physique de quelqu’un qui parle.
  2. Analyse – Une fois les données vocales collectées, le logiciel de clonage vocal les analyse pour identifier les caractéristiques uniques de la voix spécifique, notamment la hauteur, le ton, le rythme, le volume et d’autres caractéristiques vocales.
  3. Formation du modèle – Les données vocales sont utilisées pour former un modèle d’apprentissage automatique. Ce processus complexe consiste à introduire les données vocales dans un algorithme qui apprend à imiter la voix originale.
  4. Synthèse – À la fin de la formation, le logiciel peut générer la parole dans la voix clonée. Ce processus transforme les entrées de texte en sorties vocales qui ressemblent à la voix originale.
  5. Raffinement – ​​Les individus peuvent améliorer continuellement le niveau de qualité de la voix synthétisée et clonée en complétant davantage de données au modèle d’apprentissage automatique et en affinant les paramètres de l’algorithme de clonage vocal.

Le clonage vocal a de nombreuses utilisations légitimes dans les domaines de l’éducation, de la santé et du divertissement, notamment : Création de voix off et d’assistants vocaux personnalisés ; Doublages vocaux pour les acteurs de films ; Aide aux personnes souffrant de troubles de la parole ; Narration de livres audio ; Création de publications sur les réseaux sociaux

Malgré ces nombreuses utilisations licites, la technologie de clonage vocal est fréquemment utilisée à mauvais escient pour des activités frauduleuses . Les escroqueries par clonage vocal utilisent l’IA pour dupliquer les voix d’individus de confiance afin de manipuler, tromper et nuire financièrement et physiquement à autrui.  Les pratiques malveillantes s’étendent à :

  • Acteurs malveillants se faisant passer pour un parent ou un être cher pour voler de l’argent. Ils utilisent le clonage vocal pour créer des messages audio ou des enregistrements afin de voler les victimes.
  • Programmes d’enlèvement virtuel : les cybercriminels extorquent de l’argent aux familles en prétendant avoir kidnappé leurs proches.
  • Cyberintimidation et chantage
  • Divers programmes d’ingénierie sociale qui utilisent des voix créées par l’IA (usurpant l’identité de personnes célèbres) pour manipuler les utilisateurs afin qu’ils accèdent à des liens malveillants ou transfèrent de l’argent.

Voici le lien vers la recherche : https://www.bitdefender.com/blog/labs/audio-deepfakes-celebrity-endorsed-giveaway-scams-and-fraudulent-investment-opportunities-flood-social-media-platforms/ (pour une version française, cliquer sur le pop-up « français » automatique de votre navigateur / Google translate).