La psycho-politique de l’intelligence artificielle : du fétichisme au brutalisme – Ron SALAJ

Cet article, traduit par moi, a été posté sur le site américain Sublation magazine, le 15 août 2024 (DB).

Dans The Sublime Object of Ideology, le philosophe slovène Slavoj Žižek dévoile deux modes de fétichisme, distinctes et apparemment incompatibles : le fétichisme des marchandises, typique des sociétés capitalistes, et le fétichisme des rapports sociaux, typique des sociétés précapitalistes (1). On pourrait prolonger l’analyse de Žižek pour y incorporer un troisième mode de fétichisme : celui de l’intelligence artificielle (IA). C’est le symptôme ultime de la « société de réussite », caractérisée, d’après le philosophe coréen Byung-Chul Han, par « des salles de sport, des tours de bureaux, des banques, des aérogares, des galeries marchandes, et des laboratoires de génétique » (2).

Tout, partout, à la fois – la société de réussite est saisie par la turbulence technologique, qui produit de la nausée pour les uns et de l’ésotérisme pour les autres. L’IA est omniprésente : des appareils smart à la maison aux systèmes algorithmiques de recommandation ; des mesures de sécurité biométriques aux plateformes de l’achat en ligne ; de la finance, des soins médicaux, de la gouvernance publique et de la santé mentale (et même des relations amoureuses).

L’IA est une technologie libidinale. Elle mobilise toutes les énergies – émotions, désirs, passions, affects – des entreprises, des médias, des institutions internationales et des gouvernements, sans parler de l’eugénisme. En tant que technologie libidinale, l’IA résoudrait quelques-uns des problèmes mondiaux les plus urgents, créerait des inventions pour le bien de l’humanité, et accélérerait la productivité et le bien-être. De manière révélatrice, l’IA suscite un regard technologique, transformant les êtres humains en points de données et en prédictions algorithmiques, infirmant la complexité des subjectivités et des expériences, et réduisant des individus à de simples objets au sein d’un cadre technique.

C’est un régime de perversion. Ce qui définit le pervers, dit Lacan, ce n’est pas tant ses actions, mais son positionnement structurel par rapport à l’Autre. La relation entre les classes dirigeantes et managériales vis-à-vis de l’IA est perverse. Malgré les risques, les dégâts et les nuisances attestés, on continue de promouvoir l’IA comme chose inévitable. Le récit d’inévitabilité fait partie du « mécanisme du désaveu », une réaction à la castration (reconnue et niée en même temps). Cela s’exemplifie dans un post sur X du commissaire européen Thierry Breton qui, tout en célébrant le vote de la loi de l’Union européenne sur l’IA, a écrit : « Nous régulons aussi peu que possible, mais autant qu’il le faut ! » N’est-ce pas l’exemple même du mécanisme du désaveu ? En d’autres termes, on veut réguler l’IA autant qu’il le faut (pour la castrer), mais aussi peu que possible (le désaveu de la castration).

L’IA représente un fétichisme technologique. De même que le fétiche sert de substitut pour le phallus maternel après la perception de l’appareil génital féminin (Freud (3)), l’IA aujourd’hui sert de substitut technologique pour des problèmes structurellement politiques. Les réseaux de neurones artificiels (RNA), qui alimentent beaucoup de systèmes de l’IA aujourd’hui, sont inutilisables sans intervention humaine. Pour l’instant, ce sont des nœuds interconnectés,  ou des « neurones » sans contenu à la recherche d’un but. C’est à travers le travail humain (parfois fourni gratuitement, parfois exploité à la périphérie du capital, parfois simplement volé par des entreprises de la tech), impliquant la production des données, l’étiquetage, l’annotation, la formation et le nettoyage, que les RNA acquièrent une valeur d’usage. À mesure que le réseau apprend dans le processus de formation, le poids des neurones s’ajuste, transformant le réseau en outil matériel. Les seigneurs de la Silicon Valley ont finalement trouvé leur fétiche, qu’ils veulent vendre comme pouvoir magique. L’IA (surtout l’intelligence transhumaine, l’IA générale (IAG), en construction), est devenue un jouet fétiche pour les riches. Le directeur scientifique de l’OpenAI, Ilya Sutskever, a joué le rôle de « leader spirituel », chantant littéralement à haute voix les mérites de l’IAG. La secte à Silicon Valley recoupe les fruits de son fétiche, mais celui-ci a été construit sur le vol et sur l’exploitation.

Volploitation

La convergence du vol et de l’exploitation dans l’appareil technopolitique de l’IA est ce que j’appelle la volploitation, qui représente les nouveaux mécanismes invisibles sur lesquels l’IA se développe. Toutes les formes d’exploitation qui étaient visibles dans la société disciplinaire ont été dissoutes dans l’optimisation mathématique et les corrélations statistiques.

Considérons comment on a bâti le jeu des données ImageNet qui a permis de bons résultats dans le développement des RNA. Comprenant plus de 14 millions d’images légendées, organisées en plus de 20 000 catégories, ImageNet a été rendue possible par des milliers de travailleurs anonymes, recrutés à travers le Turc mécanique d’Amazon, et payés à la tâche, parfois aussi peu que quelques cents. C’est dans le rapport non démocratique entre le Centre et la Périphérie, qui date des périodes coloniale et esclavagistes, qu’on situe le premier mécanisme d’exploitation. Avec l’IA, les plantations se sont transformées en centres de données, les esclaves en travailleurs fantômes, et les maîtres en algorithmes invisibles. Tout ce qui était solide – capital, exploitation, domination – s’évapore dans l’opaque appareil technopolitique de l’IA.

Beaucoup de services facilement accessibles dans les pays occidentaux comme Google Maps, Airbnb, TripAdvisor, Uber, etc. sont maintenus par l’exploitation des milliers de travailleurs invisibles. Pour la plupart des gens, ces services apparaissent comme des facilités dépourvues d’exploitation sous-jacente. On s’affronte ici à ce que Lacan appelle l’ordre imaginaire : un monde perçu au regard d’aisance, de connectivité, d’efficacité et de productivité, reflétant une image spéculaire d’autosatisfaction. Ainsi, dans nos interactions avec ces services, nous nous engageons non avec la réalité socioéconomique complexe et dérangeante – le Réel –, mais avec les ordres symbolique et imaginaire qui organisent la structure de notre psyché de façon gérable, faisant en sorte que la consommation des services soit sans effort et gratifiante. Cependant, selon Lacan, le Réel s’appréhende dans l’expérience de la rupture, entre perception et conscience. Le Réel apparaît donc comme une force de perturbation amorphe qui horrifie, dérange, brutalise et submerge.

Au lieu d’être perçu comme une rupture politique et économique, le capitalisme contemporain a facilité la dépolitisation de l’espace public et la création d’un sujet postpolitique. Sujet qui, au sens lacanien de jouissance (un excès nocif de plaisir), aime la mobilité et la flexibilité sous les bannières de « nomade numérique » ou de « travail smart ». Cette nouvelle classe de travailleurs, le « cognitariat » (Franco Berardi), n’est plus disciplinée par l’œil du maître, mais s’autodiscipline ; elle ne souffre pas de l’épuisement physique, mais de l’épuisement mental (burnout). La subjectivité collective d’autrefois est en passe d’être remplacée par la multitâche de l’individu hédoniste. On peut soutenir donc que le deuxième type d’exploitation est l’autoexploitation du sujet « réussi » qui, d’après Byong-Chul Han, « s’estime libre, mais est en réalité un esclave ». Malgré l’absence d’un maître qui oblige ce sujet à travailler, dit-il, il s’autoexploite. La jouissance du cognitariat n’est rien d’autre que ce que Lacan décrit comme le « plus-de-jouir pervers ». La double interprétation de Marx et de Lacan faite par le philosophe slovène Samo Tomšič articule remarquablement les mécanismes psychiques en jeu dans le capitalisme, qui « exige de tous qu’ils deviennent des masochistes idéaux ; le message réel derrière l’interpellation du surmoi est « aimez votre souffrance, aimez le capitalisme ».

Mira Murati (1988-)

Finalement, j’aborderai le troisième (et dernier) mécanisme d’exploitation qui prend la forme du vol. Dans une conférence de presse en mars 2024, une journaliste du Wall Street Journal a demandé à la directrice technique de l’OpenAI, Mira Murati, quelles données avaient été utilisées pour entraîner Sora, le générateur des vidéos à partir du texte. En réponse, Murati a affirmé que la société avait utilisé des « données licenciées ou publiquement disponibles ». Mais quand la journaliste lui a demandé si elle avait aussi utilisé des vidéos YouTube à cette fin, Murati a vacillé désastreusement : « je n’en suis pas tout à fait sure ». C’est un secret de polichinelle que les géants de la tech ont modifié leurs propres règles pour entraîner leurs systèmes d’IA en exploitant, appropriant et monétisant « l’intellect général » (Marx), la connaissance collective produite et éditée en ligne dans toutes ses formes. Slavoj Žižek a averti en 2016 :

« La possibilité d’une privatisation de l’intellect général était quelque chose que Marx n’a jamais envisagé dans ses écrits sur le capitalisme. […] Mais cela est au cœur des luttes d’aujourd’hui à propos de la propriété intellectuelle : à mesure que le rôle de l’intellect général – fondé sur la connaissance collective et sur la coopération sociale – s’accroît dans le capitalisme postindustriel, la richesse s’accumule hors de proportion avec le travail dépensé dans sa production. Le résultat n’est pas, comme Marx semblait s’attendre, l’autodissolution du capitalisme, mais la transformation progressive du profit produit par l’exploitation de la force de travail en une rente appropriée à travers la privatisation de la connaissance. »

L’IA représente du vol à l’échelle mondiale. Elle a capté le travail créatif des artistes, des musiciens, et des photographes, et le travail intellectuel des journalistes, des universitaires et des scientifiques, sans oublier les millions d’heures dépensées partout dans le monde à contribuer aux plateformes ouvertes comme Wikipédia. Dorénavant, l’IA se présente comme l’avenir de l’humanité, quoiqu’à un prix onéreux. De façon significative, la portée de l’IA s’étend aussi à des ressources naturelles. Une publication récente d’Estampa, un collectif de programmeurs, de cinéastes et de chercheurs, illustre comment l’IA générative perpétue la matrice coloniale du pouvoir (5). Elle vole des connaissances, exploite une force de travail sous-payée, et extrait des ressources naturelles comme de la terre et de l’eau pour maintenir les centres de données, plus les matières premières requises pour la production des puces semi-conductrices, essentielles pour augmenter la puissance des ordinateurs et pour accélérer la charge des programmes de l’apprentissage-machine.

En dépit du grand nombre de procès contre les géants de la tech, et l’émergence de nouvelles formes d’activisme dans les centres de données, la question reste ouverte : est-ce qu’on verra l’industrie de l’IA comme « trop grande pour faire faillite », comme les banques lors de la crise financière de 2008 ? Si oui, qui en paiera le prix le plus lourd ?

Nous sommes à un moment de bascule, où les dispositifs sociaux, politiques et économiques sont sur le point de conclure un « contrat masochiste » (Žižek) avec les grandes entreprises de la tech, qui sont en train de prendre le contrôle des secteurs publics comme l’éducation, la santé, et l’administration. Dans le contrat masochiste, écrit Žižek, ce n’est pas le capitaliste-maître qui paie le travailleur (afin d’extraire de celui-ci de la survaleur), mais plutôt le contraire (afin que le maître puisse produire du plus-de-jouir). En conséquence, il y aura une intensification de la précarisation, de l’austérité, de l’exclusion, de l’expulsion, de la séparation et de la marginalisation. Nous verrons du brutalisme géré par l’IA pour le compte de deux rationalités politiques : le centre radical et l’extrême droite.

Brutalisme : La Défense (région parisienne)

Le brutalisme

Dans la pensée architecturale, le brutalisme est un style caractérisé par du béton brut, dénudé, et par des formes géométriques escarpées, représentant ce que l’architecte espagnol Alejandro Zaera définit comme la physicalisation du politique. Dans la période suivant la Deuxième Guerre mondiale, surtout en Europe de l’Est, l’architecture brutaliste était associée aux idées socialistes utopiques.

Invoquant l’esthétique politique de l’architecture brutaliste, l’historien camerounais Achille Mbembe situe le brutalisme « au point de jonction du matériel, de l’immatériel et de la corporalité » (6). Pour lui, c’est « le processus par lequel le pouvoir en tant que force géomorphique est constitué, exprimé, reconfiguré et reproduit à travers des actes de fracturation et de fissuration » ; son projet ultime est de « transformer l’humanité en matière et en énergie ».

L’IA est l’expression ultime du projet brutaliste. La dépendance de l’IA à la matérialité tourne principalement autour de l’infrastructure physique requise pour alimenter et pour maintenir la puissance de calcul des systèmes de l’IA, incluant les matières premières pour le hardware comme des unités graphiques et neurales, et des tenseurs. Pour immatérielle qu’elle apparaisse, l’infrastructure en nuage est en réalité non seulement matérielle, mais elle surpasse le transport aérien en empreinte carbone. Tout se dissout en centres de données, ces sites gigantesques où la physicalisation de l’immatérialité et de la corporalité se réalisent. Les aspects immatériels de l’IA sont aussi cruciaux pour son fonctionnement. Quelques-uns des éléments primaires de l’existence humaine – les préférences, les comportements, les désirs, les besoins – sont captés pour alimenter des RNA. En contrepartie, on nous présente des offres spéculatives pour des « services personnalisés » s’alignant avec la rationalité politique du néolibéralisme, et les « prédictions » des eugénistes et de l’extrême droite. En ce qui concerne la corporalité, l’IA sert de dispositif du pouvoir, à laquelle les deux rationalités politiques – le centre radical et la droite radicale – délèguent le sale travail.

Une enquête récente du magazine israélien +972 en donne un bon exemple du brutalisme de l’IA : un programme d’IA (« Lavender ») opéré par l’armée israélienne génère des cibles humaines potentielles pour l’élimination (7). Le personnel ne consacre qu’une vingtaine de seconds à chaque cible afin d’autoriser ou non l’envoi des bombes. En termes plus adorniens, le brutalisme de l’IA est la nouvelle méthode administrative pour l’expulsion des groupes vulnérables. Même la nouvelle loi sur l’IA de l’Union européenne, généralement louée, est critiquée par certaines ONG pour son incapacité à interdire certains usages dangereux, comme la surveillance biométrique de masse, des systèmes permettant des interventions « prévisionnelles » de la police, ainsi que la création d’un régime spécial pour des migrants, des réfugiés et des non-documentés.

L’IA est la forme la plus contemporaine de ce brutalisme qui, d’après Mbembe, « ne fonctionne pas sans l’économie politique des corps ». Croisons cette remarque avec l’observation du psychiatre franco-algérien Frantz Fanon : « la sous-structure économique est aussi la suprastructure ; vous êtes riche parce que vous êtes blanc, vous êtes blanc parce que vous êtes riche. » Le racisme n’existe donc jamais par hasard, et toutes ses formes sont sous-tendues par une structure, qui sert, selon Fanon, à ancrer un travail gigantesque d’assujettissement économique et biologique. La loi sur l’IA de l’Union européenne rend invisible cette structure, tout en subjuguant en même temps les migrants et les réfugiés à des pratiques biométriques agressives comme les empreintes digitales électroniques et les scans rétiniens, les reconnaissances vocales biométriques et les détecteurs de mensonges programmés par l’IA. Celle-ci devient l’administrateur maître des frontières en tant qu’« appareils ontologiques, qui fonctionnent désormais en et par elles-mêmes, de façon anonyme et impersonnelle, avec ses propres lois. » (Mbembe, 2024).

La « frontièrisation » de l’Europe se caractérise non seulement par des murs brutalistes et des technologies tout aussi brutalistes comme l’IA, mais aussi par les rationalités politiques du centre radical et de l’extrême droite. Le centre radical voit des corps comme des « excès » pour l’exploitation et pour la monétarisation, alors que l’extrême droite les voit comme des « excès » destinés à l’expulsion. Le centre envisage un régime technocratique mondial administré par l’IA (6), alors que l’extrême droite mise sur la biométrie. Les réseaux antagonistes génératifs, un variant de l’apprentissage par renforcement, fonctionnent de façon similaire : un réseau cherche à mener l’autre à croire que les données générées proviennent en réalité des données utilisées lors de la formation. On se sert de cette approche pour créer des images synthétiques des œuvres d’art et des visages humains que même un système de reconnaissance d’images ne peut distinguer des images réelles. De même, une rationalité politique essaie de mener l’autre à croire que les politiques qu’elle génère reflètent les demandes et les besoins de la population. Ce qui en résulte en réalité des deux rationalités politiques, ce sont des formes de technopolitique aussi brutalistes l’une et l’autre.

Notes

1. Slavoj Žižek, The Sublime Object of Ideology, Verso, Londres, 1989.

2. Byung-Chul Han, The Burnout Society, Stanford University Press, Stanford CA, 2015.

3. Sigmund Freud, Miscellaneous Papers (vol. 5, Collected Papers), Hogarth, Londres, 1927, p. 198-204.

4. Slavoj Žižek, « Can One Exit from the Capitalist Discourse Without Becoming a Saint », Crisis and Critique, 3 : 3, 2016.

5. https://cartography-of-generative-ai.net/

6. Achille Mbembe, Brutalism, Duke University Press, Raleigh, NC, 2024.

7. https://www.972mag.com/lavender-ai-israeli-army-gaza/

Ron Salaj est un essayiste et activiste kosovaro-italien. Il coordonne le programme du master « ICT for Development and Social Good » à l’université de Turin. Il a été membre du groupe d’experts sur la jeunesse et l’intelligence artificielle au Conseil d’Europe, et a fait partie de l’équipe des Nations Unies pour la consultation électorale au Kosovo après l’indépendance.

SALAJ, « La psycho-politique de l’intelligence artificielle : du fétichisme au brutalisme – Ron SALAJ», [en ligne], Web-revue des industries culturelles et numériques, 2024, mis en ligne le 1er novembre 2024. URL : https://industrie-culturelle.fr/industrie-culturelle/la-psycho-politique-de-lintelligence-artificielle-du-fetichisme-au-brutalisme-ron-salaj/

RETOUR HAUT DE PAGE

.

web mestre