Un institut d’intelligence artificielle (IA) en Chine prétend avoir développé un logiciel capable d’évaluer le degré de loyauté envers le Parti communiste chinois. (Image : Capture d’écran / YouTube)
La Chine est depuis l’antiquité le pays des miracles et des prouesses technologiques. Récemment, un laboratoire d’intelligence artificielle (IA) situé à Hefei, dans la province chinoise de l’Anhui, a affirmé avoir mis au point un logiciel capable de lire dans les pensées et d’évaluer le degré de loyauté envers le Parti communiste chinois (PCC).
Si cette information est avérée, elle constituerait à la fois une découverte intéressante du point de vue technologique mais préoccupante du point de vue éthique. Cette dernière avancée de la Chine dans le domaine de l’intelligence artificielle et de l’apprentissage automatique a suscité un tollé général.
Selon les analystes, la Chine a amélioré sa surveillance par l’IA, en s’appuyant sur le big data, l’apprentissage automatique, la reconnaissance faciale et l’IA pour « pénétrer dans les cerveaux et les idées de son peuple », créant ce que beaucoup perçoivent comme une dictature numérique draconienne.
Une éducation intelligente de la pensée
Le 1er juillet, l’institut a mis en ligne une vidéo intitulée « La barre d’éducation politique intelligente » pour vanter son logiciel de « lecture des pensées », qui, selon lui, pourrait être utilisé à l’occasion sur les membres du PCC pour « renforcer davantage leur détermination à être reconnaissants envers le PCC, à écouter le PCC et à suivre le PCC. »
Dans la vidéo, on peut voir un sujet en train de faire défiler du matériel en ligne qui promeut la politique du parti dans un kiosque, où l’institut affirme que son logiciel d’IA surveille sa réaction pour évaluer son degré d’attention à la séance d’éducation de la pensée.
Le message a été supprimé peu de temps après avoir suscité l’indignation générale parmi les internautes chinois.
Hung Ching-fu, professeur de sciences politiques à l’université nationale Cheng Kung de Tainan, dans le sud de Taïwan, a déclaré que le PCC avait abusé des avancées technologiques pour servir ses intérêts politiques.
« Il a utilisé une technologie de pointe pour renforcer son État-parti. La Chine est passée de la reconnaissance faciale des premiers jours à des programmes d’IA qui tentent de pénétrer dans les cerveaux et les esprits (plus) qu’il n’y paraît. Son adoption de l’IA avancée renforcera ses contrôles totaux. » a déclaré Hung Ching-fu à VOA, par téléphone.
Doté d’un système d’intelligence artificielle capable de lire dans les pensées,l’État policier chinois aura un contrôle sur la population, qui devra soit s’autocensurer, soit vivre dans l’angoisse. (Image : Capture d’écran / YouTube)
Hung Ching-fu a noté que l’État policier chinois alimenté par l’IA aurait un impact sur sa population, qui soit s’autocensure, soit vit dans la peur.
La censure sur Internet
Hung Ching-fu a également exprimé ses inquiétudes en ce qui concerne la censure numérique en Chine, qui, selon lui, placerait le PCC dans un « dilemme du dictateur » une expression politique faisant référence à l’incapacité d’un chef de gouvernement à gagner le cœur et l’esprit de son peuple.
« Plus vous construisez votre mur (du pouvoir) haut, plus vous êtes coupé du peuple… C’est ce que nous appelons le "dilemme du dictateur" en politique. C’est ce que nous appelons le "dilemme du dictateur" en politique. Autrement dit, malgré leur immense pouvoir, les dictateurs restent hors contact avec le peuple. Je ne pense pas que des systèmes politiques qui vont à l’encontre de la nature humaine puissent perdurer », a-t-il ajouté, (VOA).
Le soi-disant logiciel de lecture des pensées n’est que le contrôle numérique le plus récent utilisé par la Chine.
La Chine utilise depuis longtemps la technologie de reconnaissance faciale au Xinjiang pour suivre les Ouïghours. Elle a récemment étendu sa surveillance en utilisant le logiciel « une personne, un dossier » afin de simplifier la surveillance de ses citoyens.
Les autorités de la province du Henan ont créé un système similaire à la fin de l’année dernière pour suivre les journalistes, les étudiants étrangers et les femmes considérés comme « suspects ». Dans un même temps, les procureurs de Shanghai auraient adopté une IA faisant office de procureur, pouvant identifier et porter des accusations pour huit des crimes les plus courants commis à Shanghai, tels que la fraude par carte de crédit et les accusations de « déclencher une bagarre » et de « provoquer des troubles ».
Selon le site d’information en ligne chinois The Paper, une école du PCC du Sichuan a développé en 2017 le « nuage rouge intelligent », qui était déjà capable de surveiller les réactions des membres du parti à son éducation politique et de « calculer » leur allégeance.
Les victimes de la surveillance numérique en Chine
Sous couvert d’anonymat, de nombreux avocats et militants des droits de l’homme ont confié à VOA qu’ils étaient victimes de l’appareil de surveillance numérique chinois.
Un militant des droits de l’homme de Wuhan, dans le Hebei, a déclaré que la police l’avait détenu après qu’une caméra en bordure de route ait enregistré son visage alors qu’il marchait dans la rue.
Un militant des droits de l’homme de Wuhan a déclaré que la police l’avait arrêté après qu’une caméra en bord de route ait enregistré son visage alors qu’il marchait dans la rue. À partir de l’analyse de plus de 100 000 appels d’offre du gouvernement chinois, le New York Times a conclu que l’ambition de la Chine de collecter les données numériques et biologiques de ses citoyens est plus étendue et plus invasive que ce que l’on pensait auparavant. (Image : Capture d’écran / YouTube)
En raison de la censure stricte et du système de surveillance numérique de la Chine, un avocat des droits de l’homme basé à Pékin a indiqué qu’il n’était pas en mesure d’envoyer des messages en ligne ou de s’enregistrer en ligne.
Un autre avocat des droits de l’homme a révélé que la police chinoise avait collecté illégalement des données biométriques provenant de diverses sources, notamment des pupilles des yeux, ainsi que des empreintes digitales et des échantillons d’urine de personnes placées sous sa garde, afin d’améliorer ce qu’il a appelé une surveillance « précise mais diabolique ».
D’après les conclusions d’une étude récente menée par Martin Beraja, professeur adjoint d’économie au Massachusetts Institute of Technology, et trois autres chercheurs de l’université de Harvard et de la London School of Economics and Political Science, l’application généralisée des technologies d’IA en Chine stimule l’innovation dans ce secteur.
Selon leurs conclusions, bien que les nouvelles technologies renforcent l’autorité autocratique et augmentent la demande autocratique, cette réciprocité des avantages peut même générer une innovation soutenue à long terme en matière d’IA en Chine, créant ce qu’ils appellent une « IA-tocratie ».
IA-autocratie
« Dans le processus d’obtention de ce contrat gouvernemental, elles (les entreprises d’IA en Chine) ont accès à ces données qui leur permettent, bien sûr, d’innover pour l’application gouvernementale qui a typiquement à voir avec la sécurité publique ou la prévention du crime, ou autre. Cela s’est répercuté sur leur innovation commerciale, car, potentiellement, elles peuvent utiliser les mêmes données gouvernementales ou, si elles sont limitées, elles peuvent utiliser les mêmes algorithmes qui ont été formés avec ces données pour développer des produits commerciaux qui sont utilisés dans le secteur privé », a déclaré Martin Beraja à VOA.
La Chine exporte ces technologies vers d’autres pays dotés de gouvernements répressifs, mais selon un blogueur chinois qui vit désormais à Taïwan : « …un tel modèle de gouvernance conduira une société à aller à l’extrême… en répétant le modèle irrationnel d’élaboration des politiques pendant la période de la Révolution culturelle (de la Chine). Cela conduira à son propre effondrement ».
