17/04/2024 (2024-04-17)
[Source : qg.media]
Par Laurent Mucchielli
Qu’est-ce que l’informatisation, le numérique et l’Intelligence Artificielle (IA) font à nos vies sociales et individuelles ? Qu’est-ce qu’ils font à nos sociétés, nos façons de vivre ensemble (ou pas), et finalement à nos démocraties ? Entretien avec Christopher Pollmann, professeur de droit public à l’Université de Lorraine et directeur du séminaire « Accumulations et accélérations » à la Fondation Maison des Sciences de l’Homme de Paris. Il vient de publier Le totalitarisme informatique aux éditions Le bord de l’eau.
1) Bonjour Christopher, pouvez-vous nous présenter votre parcours universitaire, nous dire pourquoi vous vous intéressez à ces questions, et nous dire aussi si vous avez des liens d’intérêts quelconques en jeu dans ce débat ?
Après des études de droit dans une Faculté pluridisciplinaire à Hambourg et à la Faculté de droit de Montpellier, j’ai fait une thèse de droit public sous la direction de Michel Miaille, un professeur à la fois charismatique, à la démarche transdisciplinaire et aux compétences méthodologiques exceptionnelles. C’est ce travail d’exploration et de conceptualisation, bien plus que les études antérieures, qui m’a formé et donné envie de faire de la recherche et d’enseigner. Au cours de ces années de thèse, à partir de 1987, j’ai commencé à me familiariser avec l’informatique, à l’apprendre et à la critiquer dans la pratique, sans jamais avoir suivi la moindre formation. Par ailleurs, je ne suis pas affecté par des liens ou des conflits d’intérêts.
2) Vous insistez sur le fait que l’on doit continuer à parler d’« informatique » et non de « numérique », car tout cela reste du codage informatique, donc de la pensée binaire (on code 0 ou 1), comme la binarité du courant électrique. C’est oui ou c’est non, je like ou je ne like pas. C’est bien ça ?
Tout à fait : comme le mathématicien et philosophe Oliver Rey l’a montré, les 0 et 1 du langage informatique ne sont pas des numéros ou des chiffres, mais des signes d’un code1. On pourrait les remplacer par A et B ou ¤ et ‡. La substitution terminologique d’informatique par numérique (et par son équivalent anglais digital dans le monde anglophone) semble témoigner de la disponibilité des sociétés contemporaines à se laisser berner. C’est un penchant aux conséquences bien plus graves face à d’autres mensonges soutenant l’informatisation du monde, notamment le discours omniprésent d’une intelligence artificielle (IA) et d’un apprentissage des machines et logiciels (nous y reviendrons)2.
3) Vous écrivez : « les machines électriques n’émettent pas de signes, mais des signaux. Le signal est un message codé dont la signification est définie à l’avance, de façon conventionnelle ou unilatérale ». Vous donnez en exemple le fait que l’on n’écrit parfois plus qu’avec des émoticônes. Et vous comparez « la marche informatisée de la société humaine » avec « l’autorégulation instinctive des insectes sociaux ». Qu’est-ce que l’informatisation fait à nos échanges et à notre réflexion ?
C’est difficile à résumer en quelques lignes ! Elle tend à transformer la pensée et le ressenti individuels ainsi que les interactions et la vie sociales en des opérations purement fonctionnelles, instinctives ou machiniques. Se crée ainsi, comme le disait Hannah Arendt, « un monde de réflexes conditionnés, de marionnettes ne présentant pas la moindre trace de spontanéité. » Mais comme les êtres humains ne sont ni des animaux, ni des machines, cette transformation, cette automatisation ne pourra qu’échouer : à partir d’un certain seuil d’expulsions de la vivacité individuelle et collective, les besoins psychiques, insatisfaits par le fonctionnalisme et l’utilitarisme ambiants, donneront lieu à des explosions de violence, des effondrements dépressifs, des morts subites à grande échelle, comme l’a anticipé l’écrivain Jaime Semprun3. On peut le dire plus rapidement : l’informatisation, c’est la plus grande vague de rationalisations qu’ait connue l’humanité. Or, comme Max Weber l’a bien pressenti, « toute rationalisation radicale engendre, avec la nécessité d’un destin, des irrationalités ».
4) Le téléphone portable est l’un des principaux objet et symbole de cette vie informatisée. On est relié instantanément à tout mais on est seul en réalité. Comment cette évolution technologique s’articule-t-elle sur l’évolution de nos modes de vie ?
À merveille ! La puissance et l’attractivité diabolique du smartphone résident précisément dans sa correspondance parfaite à notre société individualisée. Il s’agit d’un véritable prodige sans précédent dans l’histoire humaine : un outil et intermédiaire universels, condensant « l’ensemble de nos affections sociales à travers un seul objet technique, constamment appendu à notre corps », comme l’explique le professeur de littérature et médias Yves Citton. Il matérialise la promesse de la Modernité d’ériger l’individu (plus précisément l’être humain qui se transforme en individu) en maître de sa vie et de son destin : grâce à lui, nous dit le socio-anthropologue Nicolas Nova, « l’individu est devenu “entrepreneur de sa vie” ». Assouvissant momentanément notre désir d’omnipotence, il nous ramène aussitôt à l’impuissance face à l’immense bureaucratie que sont Internet et le monde informatisé. De la même façon que dans la cité marchande mondialisée, l’individu ne survit que quelques jours en cas de flux d’approvisionnement ralentis ou de propagation de pathogènes au contraire accélérée. Dans votre question, apparaît d’ailleurs une discrète référence à Seuls ensemble, ouvrage clef de la célèbre psychologue du MIT Sherry Turkle sur un paradoxe majeur de notre temps, précédé d’ailleurs de quelques années d’un livre resté confidentiel de Miguel Benasayag et Angélique del Rey4.
5) L’informatique, c’est aussi l’accélération, voire l’instantanéité des échanges d’informations. Vous prolongez ici les analyses de Hartmut Rosa, n’est-ce pas ?
Tout à fait, et le paradoxe évoqué à l’instant se manifeste à nouveau : que tout devrait aller plus vite pour que moi, j’aie plus de temps, est une maxime bien sûr intenable à l’échelle collective. En outre, comme je l’explique dans l’ouvrage, il est vrai que pour rédiger ce texte, l’informatique accélère mes démarches et me facilite grandement la vie. Obnubilé par cette optimisation de mon labeur, je ne vois pas que mes amis, collègues, rivaux se perfectionnent tout autant. Au final, on aura tous écrit et publié plus et plus vite, mais cela ressemblera à un jeu à somme nulle : l’avancée de chacun est compensée ou annulée par celle des autres ! La logique de l’accélération est donc profondément mortifère.
6) L’informatique c’est aussi l’arrivée de l’IA et des algorithmes, qui produisent l’automatisation. En quoi cela affecte le droit et la justice ? Et l’éducation à l’école ? Au final, est-on un meilleur professionnel ou un meilleur apprenant grâce à l’informatique ?
Concernant l’automatisation du droit et de la justice, on est dans la prospective. Mon hypothèse, c’est qu’il s’agit d’une rationalisation susceptible de générer, une nouvelle fois, des irrationalités, des effets pervers. Tout d’abord, on se retrouve, encore une fois, devant une sorte de jeu à somme nulle : on espère pouvoir faire plus avec moins pour pallier le manque de moyens de la justice. On oublie qu’en facilitant les procès, les conflits sont susceptibles de se multiplier. Ensuite, l’informatisation sabote le droit en tant qu’« empire du tiers », pour reprendre le titre du dernier ouvrage de François Ost5. Car organiser la résolution des litiges comme une régulation technique par le langage univoque des algorithmes amoindrirait l’interprétation juridique, au cœur de l’activité du juriste, et le rôle du juge présidant la délibération contradictoire. Cela diminuerait également la confiance, le consentement et l’engagement des parties dans un procès ainsi que l’imperfection du droit et l’imprévisibilité des décisions de justice qui sont des conditions de leur fonctionnement. Enfin, elle signifierait une rigidification du droit et de la justice au détriment de leur ouverture et souplesse, car en s’appuyant sur les « données massives » (big data), on arrimerait le présent et l’avenir au passé.
Quant à l’éducation, la catastrophe est déjà avérée. Sans parler de la multiplication des violences induites par les réseaux (a)sociaux, on doit rappeler que l’apprentissage est un processus complexe inscrit dans la durée qui allie l’acquisition de gestes corporels, le développement cérébral, l’évolution cognitive et la maturation sociale. L’apprentissage sur des écrans perturbe ce processus, notamment en réduisant la motricité et les interactions sociales.
7) Au départ, Internet était porteur de tous les idéaux démocratiques. La déception semble immense ici aussi. Cela concerne les libertés, mais aussi l’évolution des inégalités sociales. Pouvez-vous nous en dire plus ?
Jusqu’il y a quelques années, Internet était effectivement vu comme facteur d’émancipation et de démocratisation : « L’Internet va aplanir les organisations, mondialiser la société, décentraliser l’autorité et favoriser l’harmonie entre les êtres humains », disait Nicholas Negroponte, célèbre informaticien au MIT. Toutefois, « le web n’est pas émancipation, mais mobilisation », comme l’explique le philosophe Maurizio Ferraris et l’illustrent les révolutions arabes et les Gilets jaunes. L’aplanissement est un leurre : « le monde numérique n’est pas horizontal mais bien hiérarchisé »6. S’il y a une certaine horizontalisation, elle n’est qu’apparente, car autorisée et sous-tendue par un système plus centralisé, plus opaque, plus surveillé et plus incontestable, au détriment notamment des libertés individuelles et collectives. L’horizontalité des échanges entre les utilisateurs est largement neutralisée par la verticalité du pouvoir des opérateurs. Ce clivage se trouve déjà dans le mécanisme marchand dont Internet perfectionne la logique : le marché est cet espace-temps où se rencontrent et échangent des acteurs supposés égaux, isolés les uns des autres. Contrairement à la légende néolibérale, c’est une instance publique qui présuppose, comme la résolution des litiges, le tiers et donc la puissance publique. C’est la raison pour laquelle l’extension des marchés et plus largement l’individualisation des sociétés vont de pair avec l’augmentation du pouvoir étatique7. Pour l’instant, le tiers qui encadre l’informatique et surtout Internet réside chez des acteurs privés surpuissants ce qui donne lieu à une verticalité soustraite à toute délibération démocratique.
Sans doute s’est-on laissé tromper par la centralité des écrans avec leurs images qui dissimulent le fait que l’informatique est un dispositif plus sémantique que visuel. C’est avant tout un univers de textes — 100 millions de lignes de code dans une voiture automatique, nous dit Guillaume Pitron — impliquant une énorme bureaucratisation, au sens étymologique d’un pouvoir du bureau et de l’écrit. Ce monde textuel héberge un surcroît d’abstraction et de technicité, difficiles à maîtriser pour les non-initiés qui se trouvent essentiellement chez les couches populaires. Contrairement aux discours publicitaires, « les outils numériques se révèlent être des techniques profondément inégalitaires […]. En effet, à leur inégalité de répartition […] s’ajoute le fait qu’elles présupposent, pour être utilisées de façon performante, la mobilisation de compétences communicationnelles elles-mêmes inégalement distribuées en fonction […] du capital culturel des usagers », nous dit le chercheur en informatique Bernard Miège, précisant une intuition formulée par Alain Minc et Simon Nora dès 1978.
8) L’informatique décuple les systèmes de surveillance des individus. C’est le règne du panoptique. Où en sommes-nous en matière de surveillance électronique ?
Pour répondre, j’avoue qu’il faudrait encore pousser plus loin recherches et réflexions. Dans l’immédiat, disons que d’un côté, l’informatique et la surveillance électronique perfectionnent le panoptique inventé par Jeremy Bentham et conceptualisé par Michel Foucault. De l’autre, à la différence du panoptique classique et du « télécran », combinaison de téléviseur et de caméra de surveillance dans 1984 de George Orwell, il ne s’agit plus de percevoir des personnes, mais de traiter des données. Le sociologue Zygmunt Bauman estime que nous assistons à « [l]a fin du panoptique [qui] augure la fin de l’ère de l’engagement mutuel : [notamment] entre les superviseurs et les supervisés ». En effet, le contrôle du bon fonctionnement du système et de la population est également envisageable de façon décentralisée dans le cadre d’une « surveillance diffuse » (Clémence Codron). Chacun est alors appelé à adopter une posture d’autodiscipline et à veiller simultanément sur son entourage, car « l’informatique crée les conditions d’une autosurveillance généralisée » (Jacques Attali).
Quelle que soit la forme que prendra la surveillance, celle-ci passe(ra) par l’exploration — statistique et algorithmique — de données, débouchant sur une possible « gouvernance par les données » (le politiste Félix Tréguer) que la juriste Antoinette Rouvroy appelle la « gouvernementalité algorithmique ». Celle-ci opérerait à travers une régulation anticipative plutôt qu’une réglementation des conduites, s’adressant aux individus par voie d’alertes suscitant des réflexes, plutôt qu’en s’appuyant sur leur compréhension.
Par ailleurs, si cette problématique mérite notre vigilance, focaliser le débat public autour de l’informatique sur la surveillance masque le fait que dans la société informatisée, l’assujettissement des individus massifiés tend à s’effectuer avec leur complicité. Comme le dit le philosophe allemand Byung-Chul Han dans son formidable petit essai Infocratie (que nous n’avons pas pu utiliser pour notre ouvrage) : « La domination se parachève au moment où liberté et surveillance reviennent au même »8.
9) Vous écrivez : « de par son haut degré d’abstraction, l’informatique paraît aux antipodes de la violence physique. En réalité, son potentiel hypnotique bloque le développement des enfants et contribue à la désocialisation et bien souvent à la désinhibition des adultes, devenant alors disponibles aux violences les plus graves ». Pouvez-vous nous expliquer en quoi?
On a l’impression que l’organisation capitaliste de la société engendre la pression, voire la nécessité de rationaliser et donc d’optimiser tous les aspects et composantes du monde. L’informatique approfondit cette tendance. Cela implique la réduction progressive de l’être humain à son seul fonctionnement, biologique et social, au détriment de ses dimensions affective, spirituelle et culturelle. Or, celles-ci correspondent à des besoins impératifs et ne peuvent donc être supprimées. Par conséquent, en en faisant abstraction, en voulant assimiler l’humain à une machine, la rationalisation les pousse à se manifester de façon plus ou moins durcie et rigidifiée, voire « fondamentaliste » et perverse. Elle fait ainsi le lit d’une vaste panoplie de violences.
En même temps, la communication par écran interposé amoindrit le contrôle social que les individus exercent entre eux et sur eux-mêmes. En découle l’affranchissement des conduites individuelles et des comportements de foule, une levée des garde-fous susceptible de nous pousser vers des accès de folie. On assisterait ainsi à une nouvelle étape de la désinhibition qui, pour le philosophe Peter Sloterdijk, caractérise le monde occidental (et en explique le triomphe planétaire) depuis le XVe siècle.
10) L’informatique est censée nous simplifier et nous faciliter la vie. Mais le monde est-il plus sûr grâce à l’informatique ? La cybercriminalité se développe partout, de même que le piratage et les demandes de rançons.
Il n’est guère contestable que dans un premier temps et à condition de disposer des ressources techniques et culturelles, l’informatique simplifie et facilite certains aspects du quotidien, même s’il faut tout de suite nuancer en montrant que les dysfonctionnements des machines et des applications sont systématiques et liés à la nature concurrentielle et structurellement instable du cadre capitaliste. En revanche, à plus long terme, la complexification incessante du système risque de paralyser l’existence individuelle et la vie sociale.
Quant à la sécurité, l’informatisation du monde tendra à le rendre toujours plus incertain, précaire et hasardeux. La raison fondamentale est bien expliquée par B.-Ch. Han : « Parce qu’elle est une communication sans communauté, la communication numérique détruit la politique de l’écoute » et « perd de plus en plus la dimension de l’autre » ; s’instaure ainsi « une société de la méfiance » et « nous [y] perdons la confiance fondamentale »9. D’autant que l’informatique favorise une « crise de la vérité » : à travers un « nouveau nihilisme […], [l]a distinction entre la vérité et le mensonge elle-même est désactivée »10. Or, on peut supposer que la seule façon d’assurer une sécurité durable réside dans la confiance mutuelle…
11) À ce propos, que faut-il penser du vote électronique selon vous ?
De nombreuses études internationales suggèrent que cette modalité de votation souffre de deux défauts difficiles à supprimer : elle est facilement manipulable et elle peut s’avérer très compliquée ou être vécue comme telle. Il n’est d’ailleurs pas sûr que la facilité technique favorise la démocratie qui semble avant tout une affaire d’engagement, voire de luttes collectives…
12) Nous devenons une masse indifférenciée, une « société-troupeau » (Tocqueville parlait déjà des « nations réduites à n’être plus qu’un troupeau d’animaux timides et industrieux » délivrés du « trouble de pensée »). Vous vous inspirez fondamentalement des réflexions de Hannah Arendt sur le totalitarisme. Arendt écrit : « Le totalitarisme ne tend pas vers un règne despotique sur les hommes, mais vers un système dans lequel les hommes sont superflus. Le pouvoir total ne peut être achevé et préservé que dans un monde de réflexes conditionnés, de marionnettes ne présentant pas la moindre trace de spontanéité ». Est-ce cela qui nous attend ?
C’est en tout cas ce que l’on peut craindre en l’absence d’un sursaut collectif ! L’informatisation tend en effet à nous rendre superflus, dans un premier temps notre subjectivité et notre spontanéité, notamment en externalisant de nombreuses facultés et activités humaines. Comme le dit, parmi d’autres, l’essayiste Pacôme Thiellement, « le danger représenté par l’intelligence artificielle n’est pas que des machines puissent commencer à penser comme nous. Le danger, c’est que nous puissions nous mettre à penser comme elles. » Et ce danger est camouflé par le mensonge terminologique évoqué au début.
13) Dans la continuité de votre article d’août 2020 sur votre blog, en quoi la crise du Covid a-t-elle illustré voire accéléré ces inquiétantes évolutions ?
Jusque-là, je n’ai guère exploré l’incidence de la crise sanitaire sur l’informatisation du monde, au-delà des constats faciles d’un allongement des temps d’écrans, d’une centralisation des pouvoirs, d’un conditionnement autoritaire et scientiste des populations. Pour aller plus loin, je dirais que dans de nombreux domaines, cette crise et notamment les confinements ont lourdement favorisé une vie sociale atomisée, « sans contact » physique11. Cela a intensifié la logique de la société de consommation dont Z. Bauman explique le fondement et la logique individuels : « Contrairement à la production, la consommation est une activité solitaire [en effet, d]es efforts productifs requièrent de la coopération » alors que la « consommation [constitue] une suite de sensations qui ne peuvent être éprouvées — vécues — que subjectivement »12. Depuis les confinements, cette orientation consommatoire s’est étendue de deux façons imbriquées. D’un côté, elle a gagné, au-delà du traditionnel achat de marchandises, de nouveaux terrains, tels que l’apprentissage et le travail en ligne, les apéros, fêtes et conférences virtuels, etc. qui ont été — au moins partiellement — dépouillés de leur dimension collective. De l’autre, les achats habituels, les retraits de documents administratifs, etc. ont été privés des contacts physiques par la commande à distance.
Si la pandémie témoigne de la vulnérabilité d’une humanité progressivement transformée en monoculture à l’échelle du globe (comme je l’explique dans mon livre), les activités en ligne et plus largement l’informatique, censées soulager les personnes enfermées chez elles, contribuent grandement à accentuer la mondialisation, l’homogénéisation et l’unification planétaires des sociétés, pourtant l’une des causes de la genèse et de la diffusion accélérée de pathogènes. Faut-il y voir une ironie tragique ?
Notes
⚠ Les points de vue exprimés dans l’article ne sont pas nécessairement partagés par les (autres) auteurs et contributeurs du site Nouveau Monde.
