Par Jozef Rivest
Lors d’une grève des employés de NagaWorld casino au Cambodge, les travailleurs ont été scrupuleusement surveillés par la police antiémeute, mais aussi, plus discrètement, par des drones et des caméras (Chandran 2022). Ces technologies qui sont principalement fournies par la Chine alarment les défenseurs des droits humains de ce pays (Chadran 2022). Pourquoi font-elles si peur ?
Les technologies de surveillance et l’intelligence artificielle
Dans les dernières années, la Chine a gagné une reconnaissance particulière dans le développement et l’application de l’intelligence artificielle (Mozer, Kessel et Chan 2019). Bien qu’il y ait une utilisation civile, comme les taxis et les bus sans chauffeurs, il y a aussi l’autre côté de la médaille : une surveillance constante à la loupe des moindres faits et gestes de sa population (The Economist 2022).
Mais qu’est-ce que c’est l’intelligence artificielle (IA) ? Cette technologie vise à rendre les machines « intelligentes », au sens où ces systèmes possèdent des capacités leur permettant d’avoir des objectifs d’acquisition d’information, des principes de raisonnement logique ainsi que la faculté d’autocorrection (Feldstein 2019). Elles sont donc autonomes dans leur fonctionnement et peuvent s’adapter aux circonstances sans qu’une personne intervienne dans le processus. Depuis quelques années, plusieurs spécialistes se font entendre quant aux dérives possibles de son utilisation. Ils craignent principalement que ça permette à certains gouvernements de surveiller leurs citoyens et d’influencer leurs choix, en plus d’offrir la capacité de perturber des élections, d’élever les fausses nouvelles et de délégitimer les discours démocratiques au-delà des frontières (Feldstein 2019).
Source : Chandran 2022. Caméras dans un quartier résidentiel de Beijing.
En Chine, chaque citoyen détient un dossier de points appelé le crédit social (Cabestant 2018, 157 ; Strittmatter 2020, 18). Ce système fonctionne à l’aide de caméra à reconnaissance faciale et de l’IA, qui permet d’enregistrer et d’analyser en temps réel le comportement de chaque personne (Cabestant 2018, 157 ; Strittmatter 2020, 18). Les sanctions sont attribuées selon le pointage de l’individu, à l’image d’une cote de crédit, et peuvent aller de l’impossibilité de voyager dans les transports en commun à l’interdiction de quitter le territoire (Cabestant 2018, 158).
En Chine, le contexte dans lequel elles ont été développées en dit long sur leurs utilisations. Ces technologies ont été testées dans le Xinjiang, dans la répression des Ouïghours (Feldstein 2019). Le projet des nouvelles routes de la soie a facilité leur exportation (Feldstein 2019 ; Chandran 2022).
La Chine est aujourd’hui un fournisseur majeur de systèmes de surveillance en intelligence artificielle (Feldstein 2019). L’entreprise chinoise Huawei est l’un des principaux acteurs dans la fabrication, dans l’exportation et dans l’installation de ces technologies (Feldstein 2019). Malgré son apparence de compagnie privée, sa proximité avec le pouvoir chinois pousse certains à la considérer comme une entreprise d’État (Feldstein 2019 ; Edel et Shullman 2021). D’ailleurs, le Parti communiste chinois et Huawei offre des formations sur le « guidage de l’opinion publique », le contrôle la société civile et comment mettre en place des politiques « à la chinoise » sur la cybersécurité à ceux qui achètent ces technologies (Edel et Shullman 2019).
Le cas du Cambodge
Tout d’abord, il est important de mentionner que le Cambodge est un État vassalisé par la Chine (Véron et Lincot 2021). En retour d’un support économique et politique, voire même d’une dépendance presque totale, le pays contribue à relayer la propagande chinoise afin de donner une image positive de ce pays aux niveaux national et international (Véron et Lincot 2021). Le premier ministre cambodgien Hun Sen, au pouvoir depuis 30 ans, reçoit un soutien sans faille de la part de Pékin dans sa politique de répression des prodémocrates et des forces d’opposition (Edel 2018 ; Véron et Lincot 2021). En échange, Phnom Penh n’a pas hésité à arrêter des Ouïghours réfugiés sur son sol, et à les remettre aux autorités de Pékin (Véron et Lincot 2021).
Source : Xinhua 2020. Rencontre de Xi Jinping (droite) et Hun Sen (gauche) en 2020 en Chine.
L’arrivée de ces technologies de surveillance change la donne. Tout d’abord, le Cambodge veut faire de Phnom Penh, Sihanoukville et Siem Réap des villes intelligentes (Kunmakara 2022). Ces smart-cities concentrent un grand nombre de capteurs et des caméras qui sont interconnectés afin de faciliter et améliorer la gestion d’une ville (Feldstein 2019). Huawei est l’un des meneurs dans le développement de ce type de projet (Feldstein 2019). Toutefois, cette compagnie parle plutôt de safe-cities afin de créer « une communauté d’application de la loi pour prévoir, prévenir et réduire la criminalité ; faire face aux nouvelles menaces émergentes » (Feldstein 2019). Pour ce faire, les caméras et capteurs, combinés avec l’IA, visent à générer une quantité importante de données dans le but de supporter l’application de la loi ainsi que le système de justice et carcéral (Feldstein 2019). De plus, la Chine a déjà installé plus de 1 000 caméras CCTV avec reconnaissance faciale à Phnom Penh (Chandran 2022). Les enregistrements ont souvent été utilisés en cour contre les activistes (Chandran 2022).
Quoi comprendre
L’exportation de ces technologies par la Chine au Cambodge vise deux principaux objectifs. Le premier est de permettre au gouvernement actuel, favorable à Pékin, de consolider et de conserver le pouvoir. Elles offrent le ciblage les potentiels « éléments perturbateurs » dans la société afin de les éliminer plus rapidement. Les algorithmes analysent les données qu’elles amassent et sont capables de prédire les endroits et les gens qui sont plus à risque de commettre un crime (Feldstein 2019). Ce qui est problématique, il n’y a pas de définition universelle d’un crime. Il peut donc s’agir d’un choix politique et peux avoir comme objectif non pas de « protéger » la population, mais de réprimer toute opposition. En ce sens, l’IA permettrait de cibler les éventuels critiques d’un pouvoir, et de les arrêter avant même qu’ils entreprennent une quelconque action de contestation comme l’organisation et la participation à une manifestation.
Le deuxième, l’exportation de ces technologies s’inscrit dans les projets des routes de la soie. Il apparaît donc très clairement que la surveillance accrue de la population cambodgienne vise à s’assurer du maintien des intérêts chinois dans ce pays. D’ailleurs, certains spécialistes pensent qu’il est fort probable que les données générées par ces outils soient stockées en Chine (Chandran 2022). En ce sens, c’est la Chine elle-même qui pourrait faire pression sur le gouvernement cambodgien afin de cibler certains individus qui menaceraient les intérêts.
C’est un pouvoir extraordinaire qui est remis dans les mains de gouvernements pour qui le respect des droits humains peut être très loin sur la liste des priorités nationales. Il s’agit aujourd’hui d’une nouvelle forme de panoptique dont on a tout intérêt à réfléchir sur ses implications.
Bibliographie
Cabestant, Jean-Pierre. 2018. « Chapitre 4. Une société civile embryonnaire et sous tutelle renforcée du Parti-État. » Dans Demain la Chine : Démocratie ou dictature? 121-175. Paris : Gallimard.
Chandran, Rina. 2022. « Activists fear surveillance threat as China equips Belt and Road countries with spy tech » https://www.japantimes.co.jp/news/2022/09/19/asia-pacific/activists-fear-rising-surveillance-asia/
Edels, Charles. 2018. « Cambodia’s Troubling Tilt Toward China » Foreign Affairs, August 17th 2018. https://www.foreignaffairs.com/articles/china/2018-08-17/cambodias-troubling-tilt-toward-china
Edels, Charles et David O. Shullman. 2021. « How China Exports Authoritarianism » Foreign Affairs, September 16th 2021. https://www.foreignaffairs.com/articles/china/2021-09-16/how-china-exports-authoritarianism
Feldstein, Steve. 2019. « The Global Expansion of AI Surveillance ». Carnegie Endowment for International Peace. https://carnegieendowment.org/files/WP-Feldstein-AISurveillance_final1.pdf.
Kunmakara, May. 2022. « IA chief on Cambodia smart city ambitions » The Phnom Penh Post, April 17th 2022. https://www.phnompenhpost.com/business/ia-chief-cambodia-smart-city-ambitions
Mozur, Paul, Jonah M. Kessel and Melissa Chan. 2019. « Made in China, Exported to the World : The Surveillance State » The New York Times, April 24th 2019. https://www.nytimes.com/2019/04/24/technology/ecuador-surveillance-cameras-police-government.html
Nikkei Asia. 2019. « China exports AI surveillance tech to over 60 countries : report » December 16th 2019. https://asia.nikkei.com/Business/China-tech/China-exports-AI-surveillance-tech-to-over-60-countries-report
Strittmatter, Kai. 2020. Dictature 2.0. Quand la Chine surveille son peuple (et demain le monde). Traduit par Olivier Mannoni. Paris : Tallandier.
The Economist. 2022. « Can China create a world-beating AI industry », January 22nd 2022. https://www.economist.com/business/2022/01/22/can-china-create-a-world-beating-ai-industry
Véron, Emmanuel et Emmanuel Lincot. 2021. « Le Cambodge sous l’emprise de Pékin » The Conversation, March 2nd2021. https://theconversation.com/le-cambodge-sous-lemprise-de-pekin-155542
Xinhua. 2020. « Xi : Hun Sen’s visit demonstrates unbreakable friendship ». China Daily, February 5th 2020. https://www.chinadailyhk.com/article/120214