41 États américains ont intenté une action en justice contre Meta pour avoir prétendument créé une dépendance aux médias sociaux chez les jeunes utilisateurs (âgés de moins de 18 ans), dans un contexte d’inquiétude croissante quant aux effets négatifs des plateformes. (Image : LoboStudioHamburg / Pixabay)
Quarante-et-un États américains ont intenté une action en justice contre Meta pour avoir prétendument créé une dépendance aux médias sociaux chez les jeunes utilisateurs (âgés de moins de 18 ans).
Selon ces plaintes, Meta aurait récolté les données de jeunes utilisateurs, déployé des fonctionnalités visant à promouvoir l’utilisation compulsive de Facebook et d’Instagram, et trompé le public sur les effets négatifs de ces fonctionnalités. La question qui se pose est de savoir s’il y aura des conséquences potentielles pour l’Australie ?
Le siège de Meta à Menlo Park, en Californie. (Image : wikimedia / CC BY-SA 4.0)
Exploiter les révélations des dénonciateurs de Meta
La plainte la plus importante, déposée devant un tribunal fédéral de Californie, concerne trente-trois États. L’action se fonde sur des violations des lois des États sur la protection des consommateurs et des principes de la common law concernant les comportements trompeurs, déloyaux ou abusifs, ainsi que sur les dispositions légales et réglementaires fédérales en matière de protection de la vie privée (COPPA), qui protègent spécifiquement les enfants.
Cette action coordonnée rappelle d’autres actions collectives menées aux États-Unis et au Royaume-Uni par des réfugiés rohingyas contre Facebook pour son rôle dans la diffusion de discours haineux à l’encontre de leur communauté au Myanmar.
Ces actions s’appuient en partie sur les révélations faites par Frances Haugen, ancienne employée de Meta, en 2021, concernant le rôle joué par les algorithmes de Facebook dans la facilitation des préjudices sur la plateforme. Le témoignage de Frances Haugen suggère que les algorithmes déployés sur Facebook et Instagram ont été conçus pour augmenter le partage de contenu et, par conséquent, les profits en utilisant les données récoltées auprès des utilisateurs pendant de nombreuses années.
Ces algorithmes jouent un rôle crucial dans la détermination du type de contenu auquel les spectateurs sont exposés, de la durée de leur engagement et de la probabilité qu’ils le partagent.
Selon Frances Haugen, Meta a apporté des modifications à ses algorithmes en 2018 pour donner la priorité aux interactions sociales significatives. Selon elle, ces changements ont eu un impact sur la manière dont le contenu était vu sur le fil d’actualité, ce qui a entraîné une augmentation du partage de contenus négatifs, comme les discours haineux.
Préoccupations concernant les algorithmes et le contenu
L’affaire californienne est remarquable en raison des allégations spécifiques concernant les stratégies utilisées pour maintenir l’interaction des jeunes sur Facebook et Instagram. Par exemple, les plaignants ont détaillé l’impact de la fonction de « défilement infini » introduite en 2016.
Cette fonction empêche les utilisateurs de consulter un seul message de manière isolée. Au lieu de cela, elle fournit un flux continu de contenu sans point final naturel. Selon Frances Haugen, cela revient à donner aux utilisateurs de petites doses de dopamine. Ils en redemandent et sont moins enclins à se maîtriser.
Les plaignants dans l’affaire californienne affirment que cette fonctionnalité encourage les utilisateurs, en particulier les jeunes, à utiliser les plateformes de manière compulsive, ce qui a un impact négatif sur leur bien-être et leur santé mentale.
Ils affirment que les algorithmes de recommandation utilisés par Meta présentent périodiquement aux utilisateurs des contenus préjudiciables. Il s’agit notamment de « contenus liés aux troubles de l’alimentation, de contenus violents, de contenus encourageant une perception négative de soi et des problèmes d’image corporelle, (et) de contenus liés à l’intimidation ».
Ils affirment également que des fonctions telles que des « programmes de récompenses variables » sont mises en œuvre pour encourager l’utilisation compulsive par les jeunes. Cela entraîne d’autres dommages physiques et mentaux (comme le manque de sommeil).
Conséquences pour l’Australie
Aux États-Unis, les lois fédérales limitent considérablement la responsabilité des intermédiaires en ligne tels que Meta pour les contenus partagés par les utilisateurs.
En revanche, la loi australienne sur la sécurité en ligne (Online Safety Act) permet au commissaire à la sécurité en ligne (eSafetyCommissioner) d’obliger les plateformes de médias sociaux et autres intermédiaires en ligne à retirer les contenus problématiques de la circulation. Il s’agit notamment de matériel lié à la cyberintimidation des enfants et des adultes, à l’abus d’images et aux contenus violents répugnants.
La Cour fédérale peut imposer des sanctions importantes en cas de violation de la loi sur la sécurité en ligne. Mais cela ne couvre pas tous les contenus nuisibles sur les médias sociaux, tels que ceux liés aux troubles de l’alimentation et à une image négative de soi.
S’attaquer à l’utilisation compulsive des médias sociaux par les jeunes est un tout autre défi. Il est possible de prendre certaines mesures à cet égard. Par exemple, si les allégations de tromperie aux États-Unis sont prouvées, toute preuve que cela s’étend aux utilisateurs australiens peut fonder une action contre Meta pour conduite trompeuse ou mensongère (ou représentations fausses ou trompeuses) en vertu de la loi australienne sur la consommation.
L’année dernière, 60 millions de dollars australiens de pénalités civiles ont été accordés à Google LLC pour des représentations fausses ou trompeuses en 2017-2018. Une pénalité moins importante de 20 millions de dollars australiens a été imposée à deux filiales de Meta en 2023.
Les pénalités prévues par la loi australienne sur la consommation ont augmenté depuis l’affaire Google, probablement parce que les plateformes ont les poches pleines. Les tribunaux qui infligent des sanctions peuvent notamment imposer une amende correspondant à 30 % du chiffre d’affaires d’une plateforme ou à trois fois la valeur de l’avantage conféré à l’entité fautive.
Toutefois, les plateformes sont en meilleure position lorsque leur comportement n’est pas trompeur, faux ou mensonger, mais simplement « manipulateur » ou « déloyal ». Par exemple, il est peu probable que la fonction de défilement infini soit considérée comme trompeuse ou mensongère en vertu du droit australien.
L’Australie n’a pas non plus d’équivalent législatif à la COPPA. La loi australienne sur la conduite déraisonnable exige un niveau si élevé de conduite dure ou oppressive qu’elle est extrêmement difficile à prouver.
Un cas récent de conduite déraisonnable intenté par un joueur à problèmes, fondé sur la conception addictive des machines de poker électroniques, a échoué devant la Cour fédérale.
Les lacunes de la loi actuelle ont, en partie, conduit à des appels en faveur d’une nouvelle interdiction des pratiques commerciales déloyales. La pression monte également en faveur d’une réforme de la loi sur la protection de la vie privée, inefficace et insuffisamment appliquée.
Mark Zuckerberg, PDG de Meta. (Image : wikimedia / Anthony Quintano from Honolulu, HI, United States / CC BY 2.0)
Nous avons besoin de collaboration et d’innovation
La législation australienne présente encore de nombreuses lacunes en matière de protection des consommateurs, en particulier des enfants, contre les dommages causés par les plateformes de médias sociaux. Mais le droit national ne peut pas tout faire pour protéger les utilisateurs d’un média qui fonctionne (la plupart du temps) de manière transparente au-delà des frontières.
C’est pourquoi les spécialistes du droit international ont proposé des approches plus créatives dans le contexte des discours haineux en ligne. L’une d’entre elles consiste à rendre les plateformes responsables de leurs actes en vertu des lois du pays où elles ont leur siège, lorsqu’elles rendent possible des crimes commis dans d’autres juridictions.
En 2021, le monde a accueilli favorablement l’ordonnance d’un tribunal de district américain obligeant Facebook à divulguer à la Gambie divers documents relatifs à des discours de haine à l’encontre de la communauté rohingya au Myanmar.
Ce faisant, le tribunal a renforcé les revendications de la Gambie dans le cadre d’une action en cours devant la Cour internationale de justice. Cette action affirme que le gouvernement du Myanmar, par ses actions génocidaires contre le peuple Rohingya, a violé ses obligations en vertu de la Convention sur le génocide et que les discours de haine amplifiés sur Facebook ont favorisé la violence.
Alors que la société est aux prises avec les implications de la collecte massive de données et des algorithmes qui maximisent les profits, la protection des individus nécessitera une coopération internationale et une réévaluation des cadres juridiques.
Kayleen Manwaring, chercheur principal au Allens Hub for Technology, Law & Innovation, et maître de conférences à l’UNSW de Sydney, et Siddharth Narrain, maître de conférences en droit, Université d’Adélaïde.
Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article original.
