Une nouvelle étude utilisant une série des comptes appartenant à des utilisateurs de seulement 13 ans a révélé que l’application vidéo d’influence sociale du PCC TikTok encourage fortement le suicide et la vente de drogues. (Image : Olivier Bergeron / pexels)
TikTok, la plate-forme de médias sociaux soutenue par le Parti communiste chinois (PCC), fait l’objet d’un examen de plus en plus minutieux. Une fonctionnalité récente de Vice News critique l’application pour avoir poussé des informations sur les méthodes de suicide et autorisé les comptes faisant la publicité des chaînes Telegram qui vendent de la drogue via la livraison internationale à des jeunes de 13 ans.
Le rapport de Vice News est basé sur le contenu d’un rapport de mars 2023 d’Eko, décrit comme un « groupe de responsabilisation des entreprises ».
Le rapport de 23 pages affirme qu’une vague de dépression et de comportements suicidaires en cascade chez les jeunes peut être attribuée au « rôle des plateformes de médias sociaux comme TikTok, Instagram et Snapchat » dans ce qu’il décrit comme une « crise de la santé mentale ».
Eko se concentre sur Tiktok, notant que sur son milliard d’utilisateurs mensuels, on estime qu’un tiers est âgé de 13 ans ou moins.
Le groupe a constaté que la méthodologie de collecte et d’analyse des données de TikTok « est très précise dans le suivi des actions, swipes et mouvements des utilisateurs, y compris des facteurs tels que les likes, les commentaires et le temps passé à regarder le contenu afin de calibrer son algorithme et d’acheminer le contenu vers les utilisateurs par le biais de sa page " Pour vous " ».
Les résultats sont similaires à ceux d’une enquête menée en juillet 2021 par le Wall Street Journal, qui a utilisé une série de comptes automatisés d’âges et de lieux géographiques différents pour découvrir qu’après seulement 40 minutes d’utilisation, TikTok commençait à piéger les utilisateurs dans un « trou de lapin ».
TikTok ne s’appuyait sur aucune autre information que les vidéos que les robots faisaient défiler et visionnaient afin de sélectionner des contenus tels que la pornographie et l’échec de relations amoureuses, en fonction des désirs définis en interne par les comptes.
Eko a utilisé une méthodologie similaire en faisant passer des comptes robots pour des enfants de 13 ans et a pu découvrir « un réseau de contenus nocifs sur le suicide, l’incel et la drogue facilement accessibles à un compte de 13 ans, dont certains peuvent être trouvés en seulement trois clics ».
Des contenus hautement viraux et dangereux
Les conclusions sont alarmantes. Eko a découvert que la page « For You » de l’application « servait automatiquement des contenus hautement viraux et dangereux sur le suicide, y compris des vidéos avec des armes chargées et des textes suggérant le suicide, ainsi que des commentaires énumérant les dates exactes des utilisateurs pour leur propre automutilation ou suicide ».
Le groupe a constaté que le système de hashtags était largement utilisé pour sélectionner les contenus, notant que les deux plus populaires, #sh (self harm) et #imdone, comptaient respectivement 926 000 et 230 000 vidéos qui avaient été visionnées plus de 6 millions et 2 millions de fois.
Non seulement TikTok encourage directement le suicide et l’automutilation, mais l’application a poussé l’inculcation à l’étape suivante en proposant une litanie de « vidéos promouvant des contenus et des commentaires lugubres et sans espoir autour de la mort, des relations toxiques, des abus sexuels, de la dépression et de la violence domestique », peut-être pour encourager l’état d’esprit découragé nécessaire pour commettre l’acte de s’ôter la vie.
TikTok propose également des contenus qui expliquent directement aux spectateurs comment mettre fin à leurs jours. « De nombreuses vidéos ont été trouvées sur TikTok offrant des conseils sur le suicide à domicile, avec des vidéos suggérant " 5 façons d’en finir sans ressentir de douleur " ».
L’une d’entre elles encourageait les jeunes à créer une « dose potentiellement mortelle de sel et d’eau afin de provoquer une défaillance des organes ».
Drogues contenant du fentanyl
Les chercheurs d’Eko ont également découvert que TikTok était utilisé pour le trafic direct de drogues. Après seulement quelques heures de recherche à l’aide d’un compte déclarant avoir 13 ans et de l’algorithme de recherche de base de l’application, ils ont découvert 18 comptes vendant de la cocaïne, de la MDMA ou de la marijuana.
Ils ont découvert que les comptes encourageaient les utilisateurs à rejoindre un canal Telegram qui vendait des M30, décrits comme « le nom de rue des pilules d’imitation d’Oxycodone qui contiennent régulièrement du fentanyl ».
Il est bien établi que la distribution de fentanyl aux États-Unis est liée au département du Front uni du PCC, en coopération avec les cartels mexicains de la drogue.
Les chercheurs ont rejoint le canal Telegram et ont trouvé « un menu complet de drogues illicites à vendre, notamment du Percocet, du Xanax, du LSD, de la cocaïne, de l’hydrocodone, de la marijuana et de la MDMA », avec possibilité d’expédition internationale.
Maen Hammad, co-auteur du rapport pour Eko, a déclaré à Vice News dans un courriel : « dix minutes et quelques clics sur TikTok suffisent pour tomber dans le terrier de certains des contenus les plus sombres et les plus nocifs en ligne ».
« L’algorithme vous force à entrer dans une spirale de dépression, de désespoir et d’automutilation, et il est terriblement difficile de sortir de cette spirale une fois que l’algorithme pense qu’il sait ce que vous voulez voir. Il est extrêmement alarmant de voir à quel point il est facile pour les enfants de tomber dans cette spirale », a ajouté Maen Hammad.
Les déclarations de Maen Hammad concordent également avec ce que le Wall Street Journal a découvert dans ses recherches, à savoir qu’une fois que les comptes ont été caractérisés comme ayant certains intérêts par l’algorithme de TikTok, il est impossible de se débarrasser des types de contenus créés en réponse à ces intérêts.
Selon Vice News, un porte-parole de TikTok a affirmé en novembre 2022 que l’application commencerait à « travailler de manière agressive pour lutter contre les comportements haineux en supprimant de manière proactive les comptes et les contenus qui violent nos politiques » après qu’une enquête antérieure a révélé que l’application poussait à l’endoctrinement de la misogynie.
