Ce livre au titre étrange est une œuvre à deux auteurs, Anne Alombert, philosophe préoccupée par les enjeux numériques, et Gaël Giraud, économiste et chercheur.
Il s’intéresse aux évolutions récentes du numérique (capitalisation des êtres, intelligence artificielle…) et à leurs impacts sur l’avenir et la société, en tentant de dessiner une voie humaniste aux temps qui viennent1.
Plus qu’une analyse critique, et comme je le fais habituellement, entamons un parcours émaillé de citations de l’ouvrage, très éclairantes à elle seules. Les enjeux d’abord :
Les machines, si “ intelligentes ” soient-elles, ne peuvent remplacer les prétendus “ humains ” auxquels on aime tant les comparer. En revanche, abandonnés à des logiques de capitalisation, les automates numériques risquent de conduire à une accélération de la catastrophe écologique, à une prolétarisation des savoirs (-faire, -vivre et -penser ) et à une industrialisation des esprits individuels et collectifs. → p. 12
Nous baignons dans un univers numérique, sans pouvoir rester à l’écart et en gobant à notre insu le plus souvent des glissements sémantiques et des zones d’ombre qui devraient nous alerter :
Quand ChatGPT nous répond “ je ne suis pas un humain ”, le fait même que cette machine ait été programmée pour utiliser le pronom “ je ” pose question : “ je ” nous fait immédiatement présupposer un sujet, là où il n’y a pourtant qu’interfaces numériques et calculs statistiques. […] Cette prétendue transparence de la machine à elle-même ne masque-t-elle pas l’opacité des algorithmes qui lui permettent de fonctionner ? → p. 18
L’intelligence artificielle n’existe pas, c’est un brassage, une combinatoire, d’une énorme quantité de données déjà existantes, il n’y a rien là de créatif et d’intelligent. Mais tout est fait pour qu’on suive le slogan, et qu’on oublie l’essentiel : on ne sait rien des choix du fonctionnement, des manières dont procède la combinatoire. Ce devrait être transparent, et mieux, démocratique, ce ne l’est pas.
La première partie du livre a trait à la capitalisation du monde, qui est non seulement une appropriation, “ mais aussi la recherche d’un rendement ou d’une rentabilité projetés dans l’avenir... ” (→ p. 29). Et cette opération “ représente une prise de pouvoir sur les êtres et le temps ” (→ p. 31). Car la capitalisation accumule tout ce qu’elle contrôle, en fait des stocks. Les auteurs prennent l’exemple d’une forêt, qui est certes un stock de bois, mais bien plus :
Une forêt, c’est un réseau complexe d’êtres vivants : arbres, buissons, vers, mycélium, bactéries… qui se nourrissent mutuellement les uns les autres mais qui, globalement, ne peuvent subsister sans un apport continuel d’énergie […] et de matière […]. → p. 32
À l’ère numérique, la capitalisation évolue : les réseaux sociaux engrangent toutes les données que leur offrent leurs utilisateurs, et aussi leurs comportements. Tout cela nourrit ces réseaux mais aussi les outils d’intelligence artificielle et leurs approches statistiques, qui ne peuvent faire place, par définition, à l’inventivité :
Si ChatGPT avait existé en 1616, la confirmation par Galilée de l’héliocentrisme révolutionnaire de Copernic n’aurait eu aucune chance d’être reconnue : elle eût été au mieux noyée dans la masse des opinions dominantes géocentrées communément partagée par les intellectuels de l’époque, et peut-être tenue pour dissidente, conspirationniste ou écoterroriste. → p. 76
C’est que la capitalisation des humains s’accompagne de la volonté d’éliminer l’improbable, d’uniformiser les comportements, de tout rendre, et surtout l’avenir, calculable.
La seconde partie traite de l’automatisation des esprits, dans le prolongement de la précédente. Elle mentionne notamment les dangers de l’intelligence artificielle, pour la justice par exemple. Car le déluge de données sur lequel s’appuie l’IA, pour les mettre en corrélation, viennent en bonne part des réseaux sociaux et ne sont pas “ filtrées ” ou analysées avant emploi. Ce déluge est supposé rendre obsolète la réflexion théorique, en faisant “ croire qu’il est possible d’éliminer la diversité des interprétations (théoriques) au profit d’une hégémonie du calcul (statistique). ” (→ p. 74)
Et cette hégémonie du calcul, de l’exploration et de l’exploitation des données, reste totalement opaque :
Ces automates numériques fonctionnent donc à partir de données et de paramètres qui ont déjà fait l’objet de nombreuses décisions d’interprétation, toujours situées et politiquement orientées, mais dans l’opacité la plus complète. → p. 78
Or, les plates-formes sont des sociétés d’envergure mondiale, mais privées. Et ceci nous amène à la dernière partie du livre, intitulée “ Renversements : les communs et la contribution ”, où les auteurs tentent de repérer une voie de sortie par le haut à la situation d’enfermement qui prévaut et se propage.
La richesse que constituent les savoirs représente une valeur particulière, qui doit être distinguée de la valeur marchande ou de la valeur d’échange : contrairement à une ressource ou à une marchandise dont la valeur augmente avec la rareté et diminue quand elle est partagée […], la valeur des savoirs non seulement ne diminue pas lorsqu’ils sont transmis […] mais augmente même à mesure qu’ils sont partagés. → p. 120-121
Privatiser un savoir revient à faire obstacle à son partage et donc à l’empêcher de s’accroître, de s’enrichir et d’évoluer − c’est-à-dire à le stériliser. → p. 121
D’où la nécessité de biens communs, ni privés, ni publics, ouverts à la contribution collective, à l’image des logiciels libres et de Wikipédia. Mais on sait leurs existences précaires, face aux ogres de l’univers numérique. Celui-ci est régi essentiellement par la polarisation mimétique :
Dans la mesure où ils ne se fondent que sur les nombres de clics et de vues, ces algorithmes tendent non seulement à renforcer les moyennes et à uniformiser ou à standardiser les contenus (les créateurs de contenus sont contraints de se plier aux “ recettes ” censées leur assurer le succès, au lieu de développer leur créativité et d’exprimer leur singularité), mais aussi à amplifier les contenus les plus sensationnels, les plus choquants ou les plus violents, sans égard pour leur (non-) sens ou leur (non-) pertinence. → p. 155
C’est un livre à lire… et la tâche est immense.
1 Le capital que je ne suis pas !, Anne Alombert et Gaël Giraud, Fayard, 2024.
Écriture le 01/10/24