05/07/2024 (2023-02-21)
[Source : qg.media]
L’Union européenne se dote peu à peu d’une législation ambiguë quant à l’instauration d’un crédit social, en dépit des grandes proclamations officielles. Depuis 2022, les municipalités de Rome et de Bologne en Italie mettent par exemple à l’essai des initiatives de crédit social, qui, incitatives et optionnelles, visent à récompenser les comportements jugés « vertueux » en matière de développement durable. Faut-il redouter l’instauration d’un système de crédit social tel que celui apparu en Chine? Quels furent là-bas les ressorts de la mise en place d’un tel système? Pourrons-nous longtemps encore nous prémunir d’une « notation sociale » des personnes ?
[Voir aussi :
►Le directeur général d’Alibaba présente son outil de crédit social écologique au Forum de Davos
►Le crédit social à la chinoise met un pied en Europe
►Ma femme a du crédit
►Le gouvernement du Canada s’est associé au Forum économique mondial pour imposer un système de type crédit social pour voyager
►La France, une dictature avec crédit social à la chinoise ou une dictature chinoise avec crédit social ?
►La Chine étend son crédit social à l’international
►Un pas de plus au Canada vers l’achèvement du Nouvel Ordre Mondial — Projet de loi C-273 : Le revenu de base universel, ou l’amorce de la Grande Réinitialisation vers le crédit social et le communisme international]
Par Pauline ELIE, conseillère éthique sur les données de santé à l’hôpital Lariboisière (AP-HP), doctorante en droit et philosophie au Centre Georg Simmel (UMR 8131, CNRS / EHESS) et Pierre-Antoine CHARDEL, professeur de sciences sociales et d’éthique à l’école de management de l’Institut Mines-Télécom (IMT-BS), chercheur au Laboratoire d’Anthropologie Politique (UMR 8177, CNRS / EHESS)
* * * * *
Jugeant et notant les actes des citoyens (bons ou mauvais), le système de crédit social instigué en Chine est en train de s’établir en Europe de manière aussi subtile et insidieuse que dans l’empire du Milieu. Certes, contrairement à l’actuelle version chinoise, essentiellement punitive et désormais érigée en système, le balbutiant crédit social des citoyens européens se veut incitatif. Or à ses débuts, la même approche gratifiante et facultative fut privilégiée par l’État autoritaire chinois. À bien des égards, ce crédit social renvoie aux caractéristiques de l’hégémonie culturelle telles qu’elles furent décrites par l’intellectuel marxiste Antonio Gramsci qui analysait les ressorts d’une domination exercée, non pas de manière coercitive, mais en intervenant sur la production des représentations et des habitudes quotidiennes. Il s’agissait par là de décrire les mécanismes de logiques de pouvoir ne disant par leur nom, en ce sens d’autant plus difficiles à contrer.
Alors que la Commission européenne se dote d’une proposition de règlement sur l’intelligence artificielle aménageant par un large régime d’exceptions la notation sociale des personnes, depuis l’été 2022 deux initiatives de crédit social ont vu le jour en Italie, à Rome et à Bologne. Comme en résonance avec le Meilleur des Mondes de Aldous Huxley ou à quelques épisodes de la série Black Mirror, ranger sa trottinette électrique ou trier correctement ses déchets rapporte des bons points au citoyen : en conséquence, par exemple, un fournisseur d’énergie pourrait lui octroyer un tarif préférentiel ! À la différence de la situation chinoise, ces initiatives italiennes optionnelles valorisent les actions dites «éco-responsables» mais ne les sanctionnent pas1. Pourtant, progressivement, la logique du système de crédit social chinois s’immisce dans la gestion de notre quotidien. Comment s’opère un tel glissement ? Surtout, qu’induit-il pour l’évolution de la vie sociale et politique dans des sociétés revendiquant un attachement à certains grands principes démocratiques ? Quels enjeux en termes de soft power se profilent ?
Créditer la confiance ?
En Chine, la mise en place du système de crédit social est intimement liée à l’accès de sa population au crédit bancaire. Dans les années 1990, le pays entreprend d’ouvrir son économie au monde par de nombreuses réformes, en vue de faire émerger une classe moyenne2. Pour ce faire, la population majoritairement rurale doit souscrire à des prêts financiers. En 1999, l’Institut d’économie et de politique mondiales de l’Académie chinoise des sciences sociales initie le projet « Vers un système national de gestion du crédit », en réponse à la demande d’entreprises américaines désireuses de s’assurer de la fiabilité de leurs homologues chinois. Avec ses collègues, le futur penseur du crédit social, Lin Jinyue, jeune ingénieur à l’époque, s’inspire des systèmes de credit scoring européens et américains au cours de voyages d’étude. Dans leur rapport au Parti communiste en mars 20003, lui et ses pairs affirment la nécessité de bâtir un système de notation de crédit gageant de la solvabilité des citoyens et des entreprises. Mais ce n’est qu’en 2002 qu’apparaît la première occurrence du terme « crédit social » lors de l’allocution de Jiang Zemin, secrétaire général du Parti communiste, à l’occasion de son 16ème Congrès4. « Crédit social » et « crédit bancaire » se confondent ainsi jusqu’en 2014 dans les discours du Parti. Puis le « Schéma directeur pour la construction d’un système de crédit social (2014-2020) » du Conseil d’État chinois pose les jalons de ce système5. Au nom de la confiance et de l’intégrité, les personnes jugées fiables sont récompensées, celles considérées comme indignes de confiance sont punies. Les principes moraux se mêlent aux normes juridiques tandis que le concept flottant de « confiance » prodigue un terrain fertile à l’expression arbitraire du pouvoir.
Des prémisses indolores
Le crédit social chinois se déploie par des initiatives locales et variées, initialement incitatives. Dans leur enquête « Bons et mauvais chinois » les journalistes René Raphaël et Ling Xi montrent que dès 2015 plusieurs municipalités concluent des partenariats divers avec des entreprises locales6. Notamment, la plateforme numérique Alibaba via sa filiale Ant Financial introduit le crédit Sesame (ou Zhima) en janvier 2015, disponible à partir l’application en ligne de paiement Alipay. Inspiré des modèles de credit scoring des entreprises américaine et allemande FICO et Schufa Holding, le crédit Zhima évalue les risques de l’emprunteur en lui attribuant une note fondée sur l’analyse algorithmique de ses données personnelles et financières7. L’emprunteur qui s’acquitte de ses échéances de paiement en temps voulu, ou qui se procure les marchandises et services valorisés par Alipay, cumule des points lui octroyant des avantages lors de dépenses futures. Partenaire de Alibaba, la municipalité de Hangzhou propose par exemple à ses habitants d’intégrer leur note Sésame à leur système d’identification municipale pour bénéficier de nouvelles faveurs.
Alors qu’en 2018, un quart de la population chinoise seulement est notée, la Banque centrale fonde (à l’aide des données collectées par huit entreprises chinoises) Baihang, son propre système de crédit social testé dans certaines provinces. Les actes jugés vertueux, tels que balayer la voie publique, augmentent la note sociale de l’individu si celui-ci en apporte la preuve au Parti. A contrario, des informations dissidentes communiquées en ligne par exemple ou des échéances bancaires recouvrées hors-délai entraînent l’inscription des personnes sur listes noires, restreignant leurs libertés de circuler, d’entreprendre ou même d’apprendre. Or, comme le notent Yu-Jie Chen, Ching-Fu Lin & Han-Wei Liu, en 2018, le système de crédit social fait l’objet de nombreuses incompréhensions dans le traitement médiatique international8. Si collecte et partage de données entre pouvoirs publics et privés sont opérationnels, le traitement automatisé des données est loin d’être une réalité.
La stratégie des petits pas
Pragmatique, cette stratégie qui conquiert territoire après territoire, en s’adaptant aux usages des populations locales, permet en outre à la technologie soutenant ce système d’évoluer vers son unification. En décembre 2020, 80% des territoires chinois9, sont concernés par des mesures diverses de notation sociale. Cependant, il n’existe pas en novembre 2022 de note sociale pour chaque individu attribuée par un système central10. Le recours uniforme sur le territoire à l’intelligence artificielle, au traitement algorithmique de données massives issues par exemple de la reconnaissance faciale en temps réel par la vidéosurveillance reste un fantasme11. Toutefois, selon Josh Chin et Liza Lin dans Surveillance State (2022), la crise du Covid-19 a vu les technologies sous-tendant la progression d’un système de crédit social unifié prospérer : une caméra de vidéosurveillance pour trois habitants, fichage biométrique et génomique de la population, attribution de codes QR individuels, etc.12. Dénué d’application uniforme, ce système trouve pourtant écho hors de l’Empire du Milieu, en Union européenne.
Les balbutiements d’un crédit social européen
Sur le Vieux continent, pourtant fervent défenseur des idéaux démocratiques, le crédit social se concrétise par un cadre normatif à l’échelle européenne et des initiatives locales en Italie. En premier lieu, la Commission européenne propose un portefeuille européen d’identité numérique ainsi qu’une législation introduisant la notation sociale des citoyens. Dans son discours sur l’état de l’Union en 2020, la présidente de la Commission Ursula Van der Leyen annonce la création d’« une identité fiable, que tout citoyen pourra utiliser partout en Europe pour n’importe quel usage, comme payer ses impôts ou louer un vélo »13. Ambitionnant de rallier 80% des citoyens en 203014, ce portefeuille européen d’identité numérique résulte de la proposition de révision du règlement eIDAS en 202115. Optionnel, il rendra possible l’authentification sur les plateformes numériques privées et contiendra état civil, diplômes, informations financières, données des entreprises16, voire le certificat Covid numérique17. De surcroît, en matière d’intelligence artificielle, la version finale18 de la proposition de règlement de la Commission européenne introduit le concept de « note sociale »19. Cette dernière est issue de « systèmes d’IA destinés à évaluer ou à établir un classement de la fiabilité de personnes physiques au cours d’une période donnée en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues ou prédites »20. Et si par principe « la mise sur le marché, la mise en service ou l’utilisation, par les pouvoirs publics ou pour leur compte » de ces systèmes de notation sociale est interdite, par exceptions elles sont autorisées21. Car le traitement « préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques » est proscrit dans quelques cas de figure seulement : « dans des contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine »22 ou, si ce traitement est « injustifié ou disproportionné par rapport à leur comportement social ou à la gravité de celui-ci »23. Autrement dit, juste, proportionnée et entreprise dans le contexte d’origine de la collecte ou de la génération des données, la notation sociale par les pouvoirs publics ou leur compte est possible. L’interdiction de principe du crédit social est dès lors contrebalancée par un régime d’exceptions si large qu’il l’autorise de facto.
En second lieu, depuis l’été 2022, les villes de Rome et de Bologne en Italie mettent à disposition de leurs citoyens un « Smart citizen wallet », un portefeuille d’identité numérique. À Rome, il « encourage les comportements vertueux mis en place par les usagers de la ville, visant à améliorer la durabilité environnementale, sociale et économique de la ville, en ligne avec les objectifs de l’Agenda 2030 », de l’Organisation des Nations Unies24. Pour le citoyen « vertueux », des « points » sont « convertis en récompenses (biens et/ou services durables) offerts par la Capitale de Rome et ses partenaires »25. À Bologne, l’initiative également facultative « vise à récompenser ceux qui, par exemple, trient bien les déchets ou utilisent les transports en commun et ne prennent pas d’amendes »26. Optionnels, incitatifs, ces essais de crédit social se distinguent de l’actuel système de crédit social chinois, punitif. Or, d’une part, le régime chinois a préféré dans un premier temps les incitations à la coercition, et d’autre part, le futur règlement sur l’intelligence artificielle cultive l’ambiguïté quant à ce nouveau concept de « note sociale ». Selon l’euro-député roumain Cristian Terheş le crédit social européen s’établirait « par segments » suivant « le même schéma qu’en Chine »27.
La redoutable ambiguïté du milieu
L’antagonisme entre un modèle vertueux de crédit social porté par l’Europe, et sa version maligne qui serait affirmée par l’Empire du milieu favorise la progression de ce modèle. Evgeny Morozov relatait déjà en 2013 dans L’aberration du solutionnisme technologique le discours de certains industriels du numérique en vertu duquel tous les problèmes s’évanouiraient grâce à leurs technologies. Suite à la crise du Covid-19, il note l’émergence de deux camps28, d’un côté les « solutionnistes progressifs » qui useraient d’indolores nudges, ces incitations sans contraintes29, de l’autre, les « solutionnistes punitifs » qui contraindraient pour parvenir à leurs fins. Ainsi polarisée, cette dialectique opposant une thèse et une antithèse caricaturées se solde en une synthèse, qui profite à un solutionnisme médian, en Eurasie. Mais de l’Orient à l’Occident, ce soft power technologique a pour effet de rompre l’« intégrité contextuelle », telle qu’elle a été définie par Helen Nissenbaum30. De fait, les flux d’informations numériques ne respectent plus les contextes d’usages, qui possèdent des normes, explicites ou non, correspondant aux attentes des usagers quant aux informations partagées. Notamment, une personne s’attend à ce que les informations communiquées à son médecin ne soient pas diffusées à son employeur. Cette exigence de séparation des contextes se traduit en pratique par le recours, pour une même personne, à des identités multiples. Or, en témoignent des initiatives de portefeuilles numériques, certaines politiques publiques évoluent vers l’unification des identités. Dans un tel contexte de rupture de l’intégrité contextuelle, la question de la légitimité des critères de l’identification doit nous préoccuper, a fortiori lorsque cette dernière est liée à des systèmes automatisés de traitement de données qui peuvent, à tout moment, être manipulés. Une banque pourrait, par exemple, refuser ou accepter d’accorder un crédit en fonction du type de relations que nous entretenons sur les réseaux sociaux, en permettant ainsi à des réalités anodines – et même parfaitement insignifiantes – de s’immiscer dans un processus d’identification. À titre d’illustration, la société LendUp, spécialisée dans le prêt en ligne, examine les comptes Facebook et Twitter des demandeurs, en observant notamment le nombre d’amis et la nature des interactions, afin d’accorder ou non un prêt. Comment enrayer la logique ? Et surtout, le peut-on encore ?
De l’exposition au risque de servitude
Déjouer la progression du phénomène de notation sociale suppose d’en comprendre les ressorts : le crédit social repose en effet sur nos désirs d’exposition en ligne et de normativité, pérennisant par-là même, les inégalités sociales. Dans La Société d’exposition (2015), Bernard Harcourt montre comment, par le truchement de nos intérêts nourris par Facebook, MySpace, Google, Instagram, etc., nous nous exposons à une surveillance omniprésente : « ce sont nos passions – en tension avec nos ambivalences […] qui alimentent la société d’exposition »31. Les innovations technologiques résonnent avec des attentes relatives à la normativité qui proviennent des individus eux-mêmes. À cet égard, une singulière concomitance entre l’économique, le social et le politique s’observe dans des demandes qui sont implicitement formulées en termes de sécurisation et de normalisation32. Selon de récentes enquêtes, ces mesures chinoises de crédit social, perçues comme des « moyens d’améliorer la qualité de vie »33, seraient préférées par les citoyens les plus favorisés socialement ainsi que les personnes âgées. En dépit d’une volonté affichée de promouvoir une société confiante et harmonieuse, le système de crédit social chinois séduit ceux qui possèdent déjà. Quant aux plus précaires qui se voient inscrits sur listes noires, l’opprobre induit ne peut qu’accentuer leurs difficultés. Au nom de la confiance, le traitement de données à des fins de notation sociale trahit une logique paranoïaque, niant l’oubli, pourtant fondamental pour se réinventer, à l’aune des travers de l’existence. Pire, libéré du choix à mesure que des logiques de recommandations algorithmiques investissent nos vies, nous nous laissons mentalement coloniser par des représentations bâties sur des corrélations, et non plus sur des causes. Tout un chacun pourrait avoir à répondre, non de ses actes, mais de probabilités statistiques capables de mesurer l’intention de commettre tel ou tel acte34. Comme l’expliquait Zygmunt Bauman dans son entretien paru en 2013, au regard de « la facilité avec laquelle les gens acceptent de livrer leurs secrets personnels sur la scène publique »35, dans les sociétés liquides modernes, nous pouvons « devenir des esclaves »36. Un état de servitude est indirectement généré par la porosité des contextes permise par le numérique : des propos qui semblaient totalement anodins dans un contexte donné, peuvent, un jour ou l’autre, se retourner contre une personne.
Par définition, lesoft power nerepose pas sur la contrainte mais, sur la séduction, la convivialité et le plaisir. Nous faisons « volontairement beaucoup de choses que les pouvoirs totalitaires cherchaient à imposer par la force et la violence ou la peur »37. Nous nous accoutumons au fait de livrer des parts de nous-mêmes dans tous les moments de notre vie quotidienne, du fait de la valorisation sociale qu’une telle exposition induit. Le système de crédit social en Chine, à l’instar des balbutiements européens en la matière, s’avère tout à fait exemplaire, et particulièrement emblématique des risques encourus à l’ère hypermoderne, dans des sociétés au sein desquelles les demandes de normativité ou de normes de confiance se multiplient. Au regard du dévoilement croissant de la personne en ligne et de l’accoutumance à la visibilité, mieux vaut veiller à ce que l’instrumentalisation politique de cette accoutumance puisse toujours être questionnée.
Notes
⚠ Les points de vue exprimés dans l’article ne sont pas nécessairement partagés par les (autres) auteurs et contributeurs du site Nouveau Monde.
