C’est un livre1 cri d’alarme sur notre devenir, qui pourtant n’explore que les choix de gouvernance face à l’hypervitesse et au déferlement des technologies d’information.
Mais c’est un champ crucial dans quoi l’on baigne sans le savoir souvent, où selon l’autrice se joue l’avenir bien frêle des démocraties.
Asma Mhalla est une chercheuse à l’EHESS2, jeune femme brillante, dont l’essai met en quelque sorte “ les pieds dans le plat ” face à l’endormissement et l’apathie de nos sociétés occidentales. Son écriture est foisonnante d’analyses fines, de constats lucides, parfois trop truffée de termes anglais pas toujours expliqués. Si l’on admet bien d’emblée les liens entre politique et technologies, le sous-titre provoque, qui affirme que tous nous devenons des soldats, à notre insu bien évidemment. Mais c’est que dans les guerres cognitives et informationnelles qui s’annoncent, une bonne part de la pratique numérique transforme chacun de nous en fournisseur stratégique des géants de la technologie.
Ces firmes, que le livre nomme les BigTech, font “ prévaloir arbitrairement leur propre vision du monde parfois extrême ” → p.23. Par leur usage, nous industrialisons le faux, mais bien plus, “ nous accélérons la fin du système, l’implosion de démocraties par et depuis elles-mêmes ” → p. 24.
Tentons de parcourir quelques pans essentiels du livre, pour comprendre. D’abord à travers ce que l’autrice appelle la Technologie Totale. Quand vous utilisez Google ou un réseau social par exemple, vous lui confiez non seulement toutes les informations que vous publiez, mais aussi vos gestes numériques, vos hésitations, vos parcours etc. La technologie “ avale et se nourrit de tout et du contraire de tout. [… Elle] nivelle : tout se vaut, le vrai, le faux, le virtuel, le réel, l’important, l’anecdotique. ” → p.37. Le BigTech qui capte tout, traite et exploite tout ce qu’il capte, le fait hors de toute transparence, dans la mise en place d’un infrasystème universel : les algorithmes qu’il met en place échappent à tout le monde, la masse d’informations captées devient instrument de pouvoir et aliment des intelligences artificielles, produisant une vision du monde totalisante et en dehors de tout contrôle démocratique. Les Bigtech, aujourd’hui peut-être une dizaine de firmes sur la planète. Et le processus est tel qu’il s’adresse à chacun, dans une relation strictement verticale qui rend obsolète les parts autrefois communes d’un sens partagé. Asma Mhalla cite les prémonitions d’Hannah Arendt : “ une société de masse n’est rien de plus que cette espèce de vie organisée qui s’établit automatiquement parmi les êtres humains quand ceux-ci conservent des rapports entre eux mais ont perdu le monde autrefois commun à tous ” → p. 48. Les premiers temps d’Internet promettaient “ la participation libre au débat, la prise de parole sans contrainte ni permission ” → p. 51, mais désormais, au cœur d’une “ déflagration virale ”, “ sans ancrage ni limites, comment la conscience peut-elle forger son propre discours, libre et critique, quand elle n’a plus d’autres repères qu’elle-même ? ” → ibid.
Le livre développe ensuite, en plusieurs chapitres, comment les BigTech sont des hydres géopolitiques et comment leur dimension planétaire, leur puissance technologique orientent ou transforment les réalités produites, compte tenu notamment des concurrences acharnées qui règnent entre ces monstres tentaculaires. L’intelligence artificielle ”n’est pas neutre. Elle est politique ” → p. 91. Mais c’est aussi vrai des réseaux sociaux, un seul exemple : “ Le massacre des Rohingya, minorité birmane persécutée, a ainsi été favorisé par la montée virale des appels à la violence et à la haine, Facebook ayant joué un rôle indirect mais certain dans les exactions en tant que principale plateforme politique ” → p. 144.
Les nouveaux horizons technologiques devraient concerner plus encore le politique : “ le contrôle de la cognition sera l’un des grands enjeux des luttes à venir ” → p. 121. Nos cerveaux deviennent des champs de bataille. L’intelligence artificielle va bientôt permettre de générer des textes, des voix, des vidéos, des émotions… et ainsi de “ fabriquer de bout en bout, en quelques clics, des univers subversifs, des univers de “ faux ” → p. 130. On voit les impacts gigantesques sur la démocratie, car n’oublions pas que les BigTech sont des acteurs privés. “ La privatisation idéologisée de la fabrique des savoirs, ultime émanation du projet de Technologie Totale, pose un enjeu démocratique de premier ordre ” → ibid.
Face aux BigTech, quels autres acteurs ? Les états bien sûr, mais de rôle et de puissance bien différents les uns des autres. Au sommet, ceux que le livre nomme les BigState. Le BigState entretient avec le BigTech des relations complexes, ambivalentes, en partie de soumission obligée face à plus global que lui. “ Au prix d’une déconnexion croissante avec sa base, sa source de légitimité, son peuple. Cette déconnexion rampante devient une bombe à retardement politique ” → p. 151. La souveraineté éclate, la puissance devient hybride, le BigState cherchant à réguler sans toujours y parvenir, loin s’en faut. Et dans la militarisation du monde qui se fait galopante, le BigTech prend souvent le pas sur l’État, témoins le rôle d’Elon Musk et de Starlink en Ukraine, ou encore la position du PDG de TSMC, le fabricant de semi-conducteurs à Taïwan affirmant “ que en cas d’agression de l’île, TSMC rendrait ses usines immédiatement inopérantes, ce qui mettrait en panne le reste du monde ” → p. 167.
Le livre dresse un constat sans concession d’aujourd’hui et de ce qui nous attend. “ À quelques exceptions près, où elle a pu sincèrement éclairer le droit, l’éthique et ses infinies déclinaisons […] ont eu pour glorieuse mission de servir de cache-misère. À ce compte-là, quelle différence y aura-t-il demain entre le modèle chinois, russe ou occidental ? ” → p. 228. Regardant vers le futur, Asma Mhalla propose que la citoyenneté grandisse en un BigCitizen : “ Que défendons-nous comme projet ? De quelles valeurs parlons-nous ? ” → p.230. Il importe, non pas de se laisser emporter par l’hypervitesse, mais de décélérer, d’investir à fond dans une éducation approfondie pour comprendre à froid ce qui se passe. Face à l’intelligence artificielle, la créativité intellectuelle est la seule voie, certes très difficile, et dont on voit mal aujourd’hui la puissance. “ Se pourrait-il alors que cet usage de soi se traduise par un retour au réel, au lien, aux livres, aux temps longs, aux rapports d’humain à humain sur des échelles qui ne se mesurent plus uniquement à l’aune du gigantisme technologique mais du “ proche immédiat ” ? ” → p. 258. Ceux qui parmi nous mettent en œuvre cet usage-là, un peu à distance de la folie désirante, apprécieront, tout en se demandant comment faire pour que l’extrême minorité grandisse et puisse infléchir l’actuelle course vers l’abîme.
1 Technopolitique, comment la technologie fait de nous des soldats, Asma Mhalla, Seuil, 2024.
2 École des Hautes Études en Sciences Sociales.
Écriture le 17/03/24