fbpx

par Camille Hamet | 3 novembre 2017

Il est de noto­riété publique que, depuis l’avè­ne­ment de Google et des réseaux sociaux, nos acti­vi­tés quoti­diennes sont constam­ment surveillées et analy­sées : où nous allons, qui sont nos amis, ce que nous ache­tons en ligne, ce que nous y cher­chons, lisons, regar­dons – et le temps que nous y passons. Mais imagi­nons main­te­nant que ces données soient évaluées selon des règles établies par le gouver­ne­ment, que notre score soit rendu public et qu’il déter­mine notre éligi­bi­lité au crédit ou à un emploi, l’école de nos enfants et nos chances d’ob­te­nir un rendez-vous galant. Cela ressemble à un scéna­rio de science-fiction terri­fiant. Il est pour­tant sur le point de deve­nir réalité en Chine.

Sésame

Sur les sites de commerce chinois, il arrive souvent que les utili­sa­teurs échangent leurs notes de crédit Sésame, une inven­tion du géant du secteur, Alibaba. Ces notes, établies par sa filiale Sesame Credit à partir des montagnes de données amas­sées en ligne, permettent en effet de mesu­rer le degré de solva­bi­lité de chacun. Elles vont de 350 à 900 points. Et plus la note de crédit Sésame d’un inter­naute est élevée, plus il reçoit des cadeaux, des avan­tages, et obtient faci­le­ment des emprunts. Avec 600 points, par exemple, il est invité à dépen­ser un crédit de 5 000 yuan en ligne. Avec 700 points, il peut se rendre à Singa­pour sans présen­ter les docu­ments habi­tuel­le­ment deman­dés pour ce voyage, tels qu’une lettre de son employeur.

Crédits : Alibaba

Les plus hauts scores donnent aux inter­nautes une occa­sion supplé­men­taire de se vanter sur les réseaux sociaux, et près de 100 000 d’entre eux ne se sont pas privés de le faire sur l’équi­valent chinois de Twit­ter, Weibo, dans les premiers mois qui ont suivi le lance­ment du système des crédits Sésame, en janvier 2015. Ils leur donnent égale­ment davan­tage de chances de faire des rencontres amou­reuses, car la note de crédit Sésame d’un indi­vidu déter­mine la visi­bi­lité de son profil sur l’équi­valent chinois de Tinder, Baihe. Mais sur quels critères cette note est-elle établie ? Si personne ne connaît le fonc­tion­ne­ment de l’al­go­rithme utilisé par Sesame Credit, l’en­tre­prise a dévoilé les cinq facteurs qu’elle prend en compte pour établir ses notes de crédit.

Le premier est juste­ment le rapport de solva­bi­lité de l’uti­li­sa­teur. Le deuxième, sa « capa­cité de réali­sa­tion », que Sesame Credit défi­nit comme sa capa­cité à remplir ses obli­ga­tions contrac­tuelles. Le troi­sième facteur repose sur la véri­fi­ca­tion des carac­té­ris­tiques person­nelles, telles que l’adresse et le numéro de télé­phone. Jusque-là, rien de très choquant. Mais le quatrième facteur repose sur le compor­te­ment et les préfé­rences des inter­nautes.

Autre­ment dit, Sesame Credit porte des juge­ments sur leurs achats et leurs occu­pa­tions. « Quelqu’un qui joue à des jeux vidéo pendant dix heures par jour, par exemple, sera consi­déré comme un oisif »décla­rait d’ailleurs son direc­teur tech­no­lo­gique, Li Yingyun, il y a quelques mois.  « Quelqu’un qui achète souvent des couches sera proba­ble­ment consi­déré comme un « parent », qui sur la balance est plus suscep­tible d’avoir un sens de la respon­sa­bi­lité. » Quant au cinquième facteur, il concerne les rela­tions inter­per­son­nelles en ligne. Parta­ger ce que Sesame Credit quali­fie d’« éner­gie posi­tive », c’est-à-dire des messages sur le dyna­misme écono­mique de la Chine, fait gagner des points. Il est donc tentant de faire le lien entre Sesame Credit et le gouver­ne­ment chinois. D’au­tant qu’une loi de cyber­sé­cu­rité, entrée en vigueur le 1er juin dernier, oblige les entre­prises qui opèrent à livrer les données person­nelles de leurs clients aux auto­ri­tés en cas d’enquête. Et que le gouver­ne­ment prévoit d’étendre la nota­tion à toutes les strates de la société dès 2020.

Dan’­gan

Appelé « système de crédit social », le système de nota­tion natio­nal chinois pour­rait inclure celui de Sesame Credit, ou bien recréer son équi­valent. En tout cas, il y ressemble forte­ment.

Crédits : Sesame Credit

Le texte fonda­teur du projet gouver­ne­men­tal, publié en juin 2014 par le Conseil des affaires d’État, reste vague quant aux moyens concrets de sa mise en oeuvre. Mais il consiste grosso modo à attri­buer à tous les citoyens et à toutes les entre­prises une note repré­sen­tant la confiance dont ils sont dignes. Pour cela, toutes les infor­ma­tions admi­nis­tra­tives seront inscrites dans une base de données : acquit­te­ment des taxes, des tickets de trans­port, condi­tions d’ac­qui­si­tion de diplômes, suivi ou non des forma­tions à la régu­la­tion des nais­sances, etc. Certains profes­sion­nels, tels que les ensei­gnants et les jour­na­listes, seront en outre soumis à des analyses parti­cu­liè­re­ment pous­sées.

L’in­ten­tion du gouver­ne­ment chinois est claire : « Auto­ri­ser ceux qui sont dignes de confiance à se prome­ner partout sous les cieux, tout en rendant chaque pas diffi­cile pour ceux qui sont discré­di­tés. » Plus loin, le docu­ment de 2014 précise : « Il s’agit d’éta­blir une culture de la sincé­rité et des valeurs tradi­tion­nelles, en utili­sant des méca­nismes inci­ta­tifs mêlant des encou­ra­ge­ments pour préser­ver la confiance, et des contraintes pour empê­cher de la briser. » Ces « contraintes » sont listées dans un autre docu­ment, datant lui de 2016, et elles sont sévères : inter­dic­tion de voya­ger en première classe, impos­si­bi­lité d’en­voyer ses enfants dans les meilleures écoles, ou encore d’ac­cé­der à une promo­tion. Comme le souligne le sino­logue Rogier Cree­mers, « la mise en place d’un système de crédit social s’ins­crit dans le passage de la Chine d’une écono­mie plani­fiée à une écono­mie de marché, dans laquelle la notion de confiance joue un rôle central ».

Et comme le note la sino­logue Séve­rine Arsène dans une tribune publiée par le jour­nal Le Monde, « la liste des domaines d’ap­pli­ca­tion évoque impli­ci­te­ment tous les scan­dales qui ont rythmé l’ac­tua­lité chinoise ces dernières années : sécu­rité alimen­taire, santé, arnaques dans l’e-commerce, conflits liés au travail et, en fili­grane, l’im­mense problème de la corrup­tion, qui empêche de prendre ces ques­tions à bras-le-corps. »  Pour elle, « le système de crédit social est sans doute un outil parfait pour le contrôle des oppo­sants, et les para­graphes du docu­ment de 2014 concer­nant la culture ou l’édu­ca­tion donnent des indi­ca­tions en ce sens.

Le recours à la recon­nais­sance faciale, combiné à l’om­ni­pré­sence des camé­ras de surveillance, annonce égale­ment un poten­tiel de surveillance assez effrayant. » Mais pour Rogier Cree­mers, un usage poli­tique du système de crédit social est loin d’être certain. « La Chine dispose déjà de nombreux moyens de contrô­ler la popu­la­tion, tels que la censure sur Inter­net », dit-il. « D’ailleurs, il y a très peu d’op­po­sants notoires au régime et celui-ci les connaît déjà tous par leur nom. » Reste que le système de crédit social chinois rappelle étran­ge­ment le dan’­gan, dossier de surveillance indi­vi­duelle tenu par l’unité de travail pendant la période maoïste.

Le métro de Shan­ghai
Crédits : DR

Peeple

« D’autre part, ce système pourra donner lieu à de nouvelles formes de corrup­tion pour truquer le score, et ainsi renfor­cer, plutôt que résoudre, le problème de départ », indique Séve­rine Arsène. « Dans nos démo­cra­ties, cela nous rappelle, s’il en était besoin, l’im­por­tance de la trans­pa­rence, d’un débat plura­liste sur les choix poli­tiques et de contre-pouvoirs pour résoudre les problèmes d’une société. » Cela nous rappelle aussi que les données person­nelles que nous livrons volon­tiers à des entre­prises privées comme Google et Face­book leur donnent un pouvoir à la fois inédit et incom­men­su­rable. Et nous ne sommes pas épar­gnés par la multi­pli­ca­tion des clas­se­ments et des systèmes de nota­tion. « Quand je parle du système de crédit social chinois à des Occi­den­taux, leurs réac­tions sont ferventes et viscé­rales », témoigne Rachel Bost­man, spécia­liste de la consom­ma­tion et de l’éco­no­mie colla­bo­ra­tives, dans son livre Who Can You Trust? How Tech­no­logy Brought Us Toge­ther and Why It Might Drive Us Apart. « Pour­tant, nous évaluons déjà les restau­rants, les films, les livres, et même les méde­cins. » L’ap­pli­ca­tion Peeple, lancée par la Cana­dienne Julia Cordray et l’Amé­ri­caine Nicole McCul­lough en 2016, propose carré­ment d’éva­luer les gens. Sur une échelle de cinq étoiles, et dans trois caté­go­ries : « person­nel », « profes­sion­nel » et « amou­reux ». Avec cette philo­so­phie en toile de fond : « Nous voulons que la person­na­lité soit une nouvelle forme de monnaie ».

Crédits : Peeple

Fort heureu­se­ment, cette appli­ca­tion n’a pas rencon­tré beau­coup de succès. « Horrible », estime le maga­zine Fortune. « Terri­fiant » insiste le Washing­ton Post. « Aussi méchant que ça en a l’air », affirme Busi­ness Insi­der. « C’est une idée ridi­cu­le­ment mauvaise, comment imagi­ner que les gens soient assez stupides pour utili­ser cette appli­ca­tion comme si elle avait de l’im­por­tance ? » s’agace un inter­naute sur le site de Peeple. « Baser la valeur des gens sur n’im­porte quelle sorte de clas­se­ment ? Peu importe ce que le clas­se­ment prend en compte, cette appli­ca­tion est une idée horrible, cruelle et dégoû­tante. Si je pouvais donner zéro étoile à cette appli­ca­tion, je le ferais, Apple et tous les autres déve­lop­peurs devraient la reti­rer de l’App Store, et toutes les autres appli­ca­tions dysto­piques et tordues devraient être illé­gales. »

Or, plusieurs appli­ca­tions et réseaux sociaux établissent un clas­se­ment entre leurs utili­sa­teurs, ou bien les sélec­tionnent à l’en­trée. Le seul moyen de péné­trer Best of All Worlds est d’y être expli­ci­te­ment invité. The League véri­fie toutes les réfé­rences des candi­dats en matière d’édu­ca­tion et de parcours profes­sion­nel. Tinder propose une version secrète, bapti­sée Select, à ses membres les plus cour­ti­sés. Et pendant ce temps, nos gouver­ne­ments font voter des lois de surveillance numé­rique, songent à centra­li­ser les données médi­cales et à inter­con­nec­ter des bases de données privées. Rien ne garan­tit donc que des États euro­péens ou améri­cains ne se lais­se­ront pas à leur tour tenter par un système de crédit social.


Couver­ture : Une citoyenne de Shan­ghai. (Shut­ter­stock/Ulyces)


 

Plus de monde