Un nouveau reportage de la BBC révèle ce que nous soupçonnions depuis longtemps : les géants du numérique ferment les yeux sur les contenus nuisibles par appât du gain. Ces plateformes autorisent des contenus dits « limites » – misogynes, sexistes, racistes, complotistes – nuisibles mais légaux.
Selon ce reportage, basé sur les témoignages d’une douzaine de lanceurs d’alerte et d’employés, les ingénieurs de Meta auraient reçu pour instruction d’autoriser davantage de contenus limites afin de concurrencer TikTok. Parallèlement, TikTok aurait donné la priorité à plusieurs plaintes d’utilisateurs impliquant des personnalités politiques pour « éviter les menaces de réglementation ou d’interdiction ».
Sans surprise, les géants du numérique ont nié toute malversation, affirmant qu’ils ne promeuvent pas les contenus nuisibles. Les algorithmes seraient conçus pour mieux comprendre les intérêts et les besoins des utilisateurs et y répondre en conséquence. Malheureusement, la plupart des contenus « désirés » par un utilisateur se révèlent être des théories du complot, des contenus de piètre qualité générés par l’IA, des deepfakes et des contenus pro-nazis.
Du moins, c’est ce que semble croire l’algorithme, car il s’agit principalement de contenus dits « ragebait », conçus pour provoquer une forte réaction de l’utilisateur. Et comme les utilisateurs interagissent avec ces contenus, l’algorithme est trompé et « croit » que c’est ce que les gens recherchent. Les personnes qui conçoivent l’algorithme savent pertinemment que ce n’est pas le cas, mais les clics se traduisent en revenus. Alors pourquoi les géants du numérique se priveraient-ils d’une telle opportunité ?
En 2024, Meta a engrangé 16 milliards de dollars, soit 10 % de son chiffre d’affaires annuel, grâce aux publicités frauduleuses et aux produits interdits. Cette information provient non pas d’une société d’analyse tierce, mais des documents internes de Meta, ce qui prouve que le géant technologique est parfaitement conscient des dégâts qu’il peut causer – et des profits qu’il peut en tirer.
Pendant que les plateformes et les législateurs prennent leur temps pour débattre de la définition des contenus limites, les individus doivent faire face aux conséquences psychologiques de l’addiction aux réseaux sociaux. De l’incapacité à distinguer le bien du mal, le vrai du faux, à la perte de concentration, de sommeil et même de confiance en soi, en passant par la radicalisation, la dépression et l’automutilation, les conséquences de la manipulation des algorithmes par les entreprises à des fins commerciales sont désastreuses pour l’humanité.
Ce n’est pas seulement notre santé mentale qui est en jeu. Des adversaires, parfaitement conscients de la logique algorithmique, en abusent pour diffuser de la désinformation et des mensonges purs et simples, semant la division pour influencer les élections à travers le monde – ce qui nous amène à nous interroger sur les dégâts que cette conformité de façade a déjà causés à la démocratie.
Tribune par Jurgita Lapienytė, rédactrice en chef de Cybernews.
