fbpx

La mise en place d'un monde contrôlé et surveillé de toute part a déjà été bien entamée par le gouvernement chinois.

par Denis Hadzovic | 24 août 2020

Les Chinois sous-contrôle

Dans le nord-ouest de Pékin, un couloir bordé par des portraits des plus grands diri­geants chinois mène au bureau de Yi Zeng. Cet infor­ma­ti­cien de 37 ans travaille à l’Ins­ti­tut d’au­to­ma­ti­sa­tion de l’Aca­dé­mie des sciences chinoise. Mais malgré toute la passion qu’il met dans ses recherches, Yi n’in­té­resse pas le gouver­ne­ment. Pékin n’a que faire de son mani­feste de 2019 sur les prin­cipes éthiques de l’in­tel­li­gence arti­fi­cielle (IA) et les risques posés par cette tech­no­lo­gie pour la vie privée.

Début août, après que Donald Trump a annoncé sa volonté de bannir TikTok des États-Unis, des familles améri­caines ont porté plainte contre le réseau social chinois, l’ac­cu­sant d’avoir volé les données de leurs enfants pour les envoyer en Chine. Quelques semaines plus tôt, le dépar­te­ment du Commerce améri­cain plaçait l’Ins­ti­tut chinois des sciences, ainsi que des entre­prises chinoises spécia­li­sées dans l’IA comme CloudWalk et Intel­li­fu­sion, sur une liste noire. Ces orga­ni­sa­tions sont accu­sées de parti­ci­per à la répres­sion des Ouïghours.

Mais l’IA ne permet pas seule­ment la surveillance de cette mino­rité musul­mane. Yi Zeng lutte contre un projet déployé dans certaines écoles, où la recon­nais­sance faciale est utili­sée pour surveiller l’as­si­duité et l’at­ten­tion des élèves. « Je déteste ce logi­ciel », s’agace-t-il. « Il faut bien employer ce mot : haine. » Ensei­gnant en philo­so­phie de l’IA, l’homme maîtrise les recherches sur l’éthique des tech­no­lo­gies sur le bout des doigts. 

Yi Zeng (en polo bleu)

Mais à Pékin, il appa­raît assez isolé. En juin dernier, le moteur de recherche chinois Baidu a quitté The Part­ner­ship on AI (PAI), un groupe inter­na­tio­nal visant à défi­nir des règles éthiques en matière d’IA. C’était son seul membre chinois et sa déci­sion a donc alarmé William Barr, le procu­reur géné­ral des États-Unis. Le 16 juillet, ce dernier exprimé ses inquié­tudes face à la volonté du pouvoir chinois d’être le leader mondial de l’IA. 

Sur place, cette surveillance tech­no­lo­gique se double d’une surveillance physique. Depuis 2017, la police chinoise se rend chez ses citoyens et même dans les écoles pour faire des prises de sang et compi­­ler des infor­­ma­­tions géné­tiques. Le gouver­ne­ment pour­rait bien­tôt dispo­ser de données sur l’en­semble sa popu­la­tion, soit près d’1,4 milliard d’in­di­vi­dus. Chaque profil compren­drait des millions de données. Y seront listés chaque appa­ri­tion de la personne dans un espace filmé – dans un pays où la seule ville de Shan­ghai est équi­pée de 3 millions de camé­ras – ses commu­ni­ca­tions et ses achats. 

De 2014 à 2020, Pékin a élaboré un « système de crédit social ». Il asso­cie à chaque indi­vidu un « risque de menace » pour le Parti commu­niste grâce à un score de répu­ta­tion sociale basé sur diffé­rents facteurs comme les rela­tions avec les autres et les achats effec­tués. Si le facteur de risque d’un indi­vidu augmente, le système, pure­ment auto­ma­tisé, limite alors ses mouve­ments. Il peut lui inter­dire le passage aux points de contrôle, de voya­ger en train ou en avion, mais égale­ment acti­ver à distance des « serrures intel­li­gentes » dans des espaces publics ou privés, pour le confi­ner jusqu’à l’ar­ri­vée des auto­ri­tés.

En 2018, un acti­viste chinois a piraté un système de recon­nais­sance faciale qui semblait être relié au gouver­ne­ment et récol­tait toutes sortes de données. Ses algo­rithmes pouvaient, par exemple, comp­ter les personnes et les voitures pour aider à la synchro­ni­sa­tion des feux rouges et à la plani­fi­ca­tion des lignes de métro. Mais la tech­no­lo­gie était aussi capable de récol­ter les données d’une popu­la­tion ou d’une ethnie précise comme les Ouïghours qui, au Xinjiang, sont traqués par des centaines de milliers de camé­ras de surveillance

En octobre 2018, le vice-président améri­cain Mike Pence a quali­fié le crédit social chinois de « système orwel­lien fondé sur le contrôle de pratique­ment toutes les facettes de la vie humaine ». Car cette surveillance aussi bien publique qu’in­time rappelle évidem­ment le roman de Georges Orwell 1984.

L’œil de Pékin

Dans son labo­ra­toire de robo­tique, Yi Zeng gère plusieurs docto­rants. Ces derniers mani­pulent de petits robots huma­noïdes enve­lop­pés dans un exosque­lette gris dans le cadre de recherches concer­nant la modé­li­sa­tion du cerveau. Yi affirme que comprendre la struc­ture du cerveau est le moyen le plus sûr de comprendre la nature de l’in­tel­li­gence arti­fi­cielle. Puisque les algo­rithmes fonc­tionnent un peu comme un cerveau, la tech­no­lo­gie sera selon lui bien­tôt capable d’at­teindre la recon­nais­sance de soi, d’avoir une conscience du passé et de l’ave­nir et de déve­lop­per des moti­va­tions et des valeurs.

« Je pense qu’une telle machine pour­rait être construite d’ici 2030 », prédit le cher­cheur, qui sait à quel point le président Xi Jinping espère donner à la Chine la supré­ma­tie en matière d’IA d’ici la fin de la décen­nie. Or cette supré­ma­tie pose­rait problème, car le modèle chinois risque­rait de déteindre sur le reste du monde. Le gouver­ne­ment de Pékin a déjà fourni du maté­riel de surveillance au Sri Lanka et à la Mongo­lie : les rues d’Ou­lan-Bator sont flanquées de camé­ras de surveillance chinoises assis­tées par l’IA.

En Serbie, Huawei aide à mettre en place un « système de ville sûre », avec des camé­ras dotées de recon­nais­sance faciale et des patrouilles conjointes menées par la police serbe et chinoise pour soi-disant aider les touristes chinois à se sentir en sécu­rité dans le pays. À travers l’Afrique, les fabri­ca­tions chinoises équipent les grandes villes de réseaux de surveillance, notam­ment au Kenya. En Amérique latine, la Chine a égale­ment vendu un système de camé­ras de surveillance pour 240 millions de dollars à l’Équa­teur. La Boli­vie a égale­ment acheté du maté­riel de surveillance grâce à un prêt de Pékin. 

Le logi­ciel City Brain

Les promo­teurs chinois aident à finan­cer la construc­tion d’une nouvelle capi­tale en Égypte, prévue pour fonc­tion­ner comme une « ville intel­li­gente ». Elle fonc­tion­nera grâce à City Brain, un logi­ciel d’IA commandé par le Parti commu­niste chinois, qui est capable de synthé­ti­ser des flux de données à partir d’une multi­tude de capteurs répar­tis dans un envi­ron­ne­ment urbain. Les camé­ras mettent en rela­tion la recon­nais­sance faciale avec des données déjà récol­tées par le gouver­ne­ment, comme lorsque la police chinoise procé­dait récem­ment à des « contrôles de santé » sur son terri­toire pour lutter contre la pandé­mie.

Lors de ces contrôles, la police a extrait toutes les données possibles sur les indi­vi­dus. Les Ouïghours ont ainsi vu leur taille rele­vée, leur ADN prélevé et leur voix enre­gis­trée. Certains ont même été contraints de parti­ci­per à des expé­riences qui exploi­taient des données géné­tiques, pour voir comment l’ADN produit des mentons et des oreilles typique­ment ouïghours…

Pour le moment, le système de crédit social chinois n’est pas unifié. Mais les données récol­tées sont rassem­blées par la Banque du peuple et la Commis­sion du déve­lop­pe­ment et de la réforme natio­nale. L’IA pour­rait les aider à parache­ver cette œuvre terrible. Le système concer­nait déjà 1,02 milliard de personnes et 28,34 millions d’en­tre­prises à la fin de l’an­née 2019. Des notes leurs ont été données dans certains domaines, en sorte que 90 000 inter­dic­tions de prendre le train ont été déli­vrées et 300 000 Chinois ont été jugés indignes de confiance.

« Ceux qui ont commis des délits sérieux ne seront pas reti­rés de la liste noire », préve­nait en juillet 2019 Lian Weiliang, adjoint du direc­teur de la Commis­sion du déve­lop­pe­ment et de la réforme natio­nale. Avec de telles limites poli­tiques et sociales, la Chine n’est donc plus très loin de 1984. Or ses rêves de supré­ma­tie en matière d’IA sont en train d’ex­por­ter ce cauche­mar.


Couver­ture : Chad J. McNee­ley


 

Plus de monde