Evgeny Morozov, critique du web-centrisme et du « solutionnisme » – Marion LEMONNIER

Les mots et expressions créés avec les nouvelles technologies sont instables et flous, même si leur usage est devenu courant. Pourtant il serait presque dangereux dans certains cas de vouloir donner un nom à des concepts auxquels on ne peut même pas donner de limites, ou d’explications intelligibles. Pour éclairer cette problématique, Morozov a prévu de consacrer ses prochains travaux aux recherches sur l‘historicisation et la contextualisation du vocabulaire qui est utilisé au sein de l’univers technologique, tels que cyberespace, internet, open source…

Article interdit à la reproduction payante.

De la Biélorussie à la Silicon Valley

La mairie de Salihorsk

Evgeny Morozov est né en 1984, en Biélorussie (qui faisait partie à l’époque à l’Union soviétique), dans la ville minière de Salihorsk (Soligorsk en russe) fondée en 1958. La famille de son père est arrivée du nord de la Russie, tandis que sa mère, née près de Moscou, est arrivée dans les années soixante-dix avec un diplôme dans l’exploitation minière de l’Ukraine. La ville de Salihorsk, où il a grandi, lui donnait le sentiment d’appartenir à une province russe. Il avait sept ans quand la Biélorussie a proclamé son indépendance après l’effondrement de l’Union soviétique, tout en maintenant un régime autoritaire et une économie dirigiste.

George Soros (1930-)

Faute d’avoir pu faire une année scolaire dans un lycée américain, Morozov a commencé ses études supérieures en 2001 à l’université américaine de Bulgarie (Blagoevgrad). C’est lors de la campagne présidentielle américaine de 2004 qu’il commença à s’intéresser aux blogs en tant qu’outils politiques. Son intérêt pour les nouvelles technologies s’est intensifié avec l’apparition progressive de toutes les « innovations » qui en découlaient (jeux informatisés, e-mails, blogs…). Ensuite, de 2008 à 2009, il fut chercheur au réseau de fondations Open Society (créé par le financier américain d’origine hongroise George Soros, pour faire dégager une nouvelle élite libérale dans les anciens pays socialistes), où il a également siégé au conseil du programme d’information (entre 2008 et 2012). De 2009 à 2010, il fut à nouveau chercheur, mais cette fois à l’université de Georgetown, et également représentant de Yahoo à la Walsh School of Foreign Service. Enfin, de 2010 à 2012 il fut chercheur et enseignant à l’université de Stanford, ainsi que fellow (associé) à la New America Foundation, et contributeur à la revue Foreign Policy pour lequel il créa le blog « Net Effect ». Parallèlement à ce parcours universitaire, Evgeny Morozov s’est façonné un solide parcours professionnel. De 2006 à 2008, il fut directeur des New Media de l’ONG Transitions Online, basée à Prague. Il fut ensuite Membre de l’Open Society Institue, mais aussi éditorialiste pour le journal russe Akzia. Puis en 2009, il entra dans le cercle des conférences TED. En tant qu’éditorialiste, Morozov a écrit ou écrit toujours pour The New York Times, The Economist, The Wall Street Journal, Financial Times, London Review of Books, Times Literary Supplement. Sa chronique mensuelle de Slate est publiée dans El Pais, Corriere della Sera, Frankfurter Allgemeine Zeitung, Folha de São Paulo et d’autres.

Une pensée évolutive

Au départ, Morozov était un fervent admirateur des nouvelles technologies. Il concevait à l’époque les réseaux sociaux et les médias comme des éléments suprêmes. Il ne se rendait pas compte des ficelles de ces outils, des modalités selon lesquelles ils étaient exploités, avant de prendre conscience que ces plateformes pouvaient à la fois être utilisées de manière bénéfique par les mouvements sociaux, mais aussi par de nombreuses infrastructures américaines centralisées, donnant lieu à la censure, la surveillance et la propagande. Alors, quelques années plus tard, il décida de revoir ses objectifs professionnels, et se lança dans une réflexion visant à comprendre pourquoi tant de personnes soutenant ces organisations centralisées attendaient autant de ces technologies. Il pense avoir eu la chance de prendre conscience de ces transformations avant d’autres qui ne les découvrent qu’aujourd’hui. Par exemple, il s’est rapidement rendu compte que les business models sur lesquels reposent ces plateformes constituent toujours l’objectif principal, et la centralisation n’aide pas, mais au contraire nuit aux efforts d’émancipation qui pourraient être assignés à ces plateformes. Morozov relève le défi de déloger les dictateurs, et dit ironiquement, « venir de Biélorussie, cette oasis de tolérance nichée au centre de l’Europe, m’y a certainement aidé [à relever ce défi] » (p. 345). (Toutes les références paginées renvoient à l’ouvrage de Morozov,  Pour tout résoudre, cliquez ici).

Le rapport de Morozov aux conférences TED peut également aider à comprendre son évolution réflexive. Les conférences TED (Technology, Entertainment and Design) sont à but non lucratif, et cherchent à propager des « idées qui valent la peine d’être diffusées ». Ainsi, diverses personnalités (industriels, savants, célébrités) d’horizons différents exposent la manière dont leurs idées inventives pourraient changer le monde. Evgeny Morozov participa à partir de 2009 aux conférences TED, afin de présenter ses observations sur la façon dont le Web influe sur l’engagement civique, et au sein des régimes les plus complexes (autoritaires, totalitaires, pays en transition). Mais avec du recul, il dit avoir rencontré de nombreux problèmes avec cette fondation. Selon lui, il est très facile d’être convaincant dans ces conférences sans être très profond. La qualité des idées proposées souffre de la quantité des conférences dans des mises en scène aux quatre coins du monde. Mais la principale crainte de Morozov est que les organisateurs ne se soucient pas des liens entre chaque idée. Il n’y a pas de références à des penseurs, pas de penseurs conférenciers. Les conférences TED se rallient davantage à la commercialisation, la publicité, la foule futuriste qui s’intéresse aux idées « payantes ». La puissance de la fondation est incontestable, mais le caractère humain de la démarche commence à s’essouffler au profit d’un pouvoir animé par le succès et la rentabilité. Dorénavant, Morozov fait écho aux conférences TED de manière négative, par exemple il cite « ses spectateurs » pour faire référence à des personnes crédules.

Avant d’écrire Pour tout résoudre cliquez ici, Morozov était convaincu qu’un bilan critique de l’internet devait être réalisé, sans jamais penser que le terme en lui-même soit remis en question ou défini précisément. Il suspectait également que les mots inventés se finissant en « isme » rendaient un ouvrage illisible par leur caractère ambigu. Cependant, avec son recours incessant aux termes de « solutionnisme » et « web-centrisme », il avoue avoir échoué à ce précepte.

Dans son premier ouvrage The Net Delusion. The Dark Side of Internet Freedom, Morozov développe une pensée critique à l’égard de la cyberutopie, qui repose sur le principe selon lequel la technologie pourra nous libérer du mal, et mettre fin aux régimes totalitaires. Morozov y introduit le terme de « slacktivism » pour définir « un activisme qui donne bonne conscience, mais ne possède aucun impact politique ou social ». Il rappelle ainsi que « ce ne sont pas les tweets qui font tomber les gouvernements, mais bien la population », et que les usages contestataires d’internet sont trop souvent mal interprétés, déformés et surestimés. Les réseaux internet ne sont pas en mesure d’encadrer de manière autonome des mobilisations citoyennes, qui pourraient pourtant faire étendre la démocratie. L’auteur étudie également les origines intellectuelles de l’enthousiasme quant à la capacité libératrice de l’internet et, à partir de ces observations, il établit un lien avec le triomphalisme qui fit suite à la fin de la Guerre froide.

Pour compléter ce premier ouvrage, Evgeny Morozov a souhaité consacrer son second livre à la critique de certains groupes et mouvements qui militaient pour un gouvernement ouvert, de données ouvertes, de la transparence…  Cependant, l’auteur a ici élargi son champ d’observation en s’attaquant également au web-centrisme. Dans cette critique, il tente de comprendre les façons dont on décide comment ces technologies doivent être interconnectées. Il existerait un domaine tout à fait exogène, nommé le cyberespace (assimilable à Internet et au monde virtuel), qui fonctionne selon sa propre logique. Certaines personnes et structures tentent de naturaliser les transformations matérielles de celui-ci, comprises dans le business model.

La providence d’Internet et des nouvelles technologies

La pensée du web-centrisme, critiquée par Evgeny Morozov, rejoint celle du déterminisme technologique. Elle consiste à penser et agir en fonction des technologies, en leur consacrant une place centrale. Tout doit tourner autour de la technologie, qui détermine nos sociétés, selon les web-centristes, qui considèrent Internet comme naturel, autonome, inchangeable. Ils n’imaginent pas qu’Internet puisse avoir une suite, et encore moins une fin. Pourtant, les plus grandes technologies ont toutes connues des changements, et surtout des successeurs. Du transport routier à la radio en passant par la télévision, le monde évolue, et ne s’arrêtera sûrement pas à Internet comme l’ultime aboutissement technologique. Il pourra probablement exister, à l’avenir, quelque chose qui surpasse Internet. Il est inutile de vouloir préserver Internet en son état actuel, si l’on refuse de s’intéresser davantage à son infrastructure technologique. De plus, ce n’est pas en prenant tout pour acquis que l’imagination opère. Le web-centrisme limite l’épanouissement de la pensée par sa conception figée d’Internet. Selon Morozov, « le contrôle et la centralisation ne sont pas intrinsèquement contradictoires avec l’innovation » (p. 44), c’est Internet qui a tendance à nous faire penser le contraire. Internet n’a pas d’obligations, pas de principes, il n’a pas à être totalement libre et ouvert. Comme l’a souligné le chercheur Philippe Breton, nous avons besoin d’une « sécuralisation » de la communication, et donc des échanges sur le réseau. Pour mieux encadrer le réseau, chacun de ses systèmes doit être évalué séparément. Chacun possède ses spécificités, certains sont plus bénéfiques que d’autres, certains plus démocrates, d’autres antidémocrates… C’est à chaque système de démontrer l’apport de ses objectifs, et non à Internet d’être jugé comme étant efficace ou bon.

La technologie supérieure

Kevin Kelly (1952-)

De nombreux penseurs du web, tels que Tim Wu et Steven Johnson, s’appuient sur l’influence de l’ouvrage What Technology Wants de Kevin Kelly pour imaginer « le meilleur des mondes possibles » (p. 210). Ce monde idéal s’articule autour d’une technologie autonome. La technologie est à la fois ce que nous en faisons, et une force indépendante de l’homme, avec ses propres besoins et désirs. Autrement dit, ce meilleur des mondes repose sur un concept contradictoire. Fondateur du célèbre magazine technophile Wired, Kelly pense que « la technologie fait partie de la nature : lui résister est inutile ». Ce qui dérange Morozov dans ce type d’argument, c’est le fait de penser la technologie au-delà des communautés locales et des États. Les institutions politiques sont mises à l’écart, comme si la technologie seule pouvait contenter l’humanité tout entière.

Gordon Moore (1929-)

Les experts qui soutiennent l’idée selon laquelle la technologie évolue selon ses propres règles invoquent souvent la loi de Moore, très influente dans la Silicon Valley. Cette loi fut proposée en 1965 par le cofondateur d’Intel, Gordon Moore. Elle appuie la croyance en le progrès technique par une formulation technique : « augmentation exponentielle du nombre de composants sur les puces électroniques avec le plus faible coût unitaire ». Cette loi a cependant était remise en question, et modifiée à plusieurs reprises. Morozov insiste sur le caractère instable de la technologie, où rien n’est parfait et surtout, rien ne devrait l’être. De nos jours, le progrès technologique est sans cesse plébiscité sans jamais être remis en question. Pourtant, c’est dialectiquement que chaque concept prend sens et devient légitime. Il faut débattre, et alimenter l’imaginaire afin d’éviter un engouement aveugle pour le statu quo. Il faut encadrer les débordements. Le concept qui ne peut pas être remis en question a indéniablement quelque chose à se reprocher. Selon Morozov, c’est grâce à « une politique intelligente et à un ensemble d’améliorations technologiques » (p. 217) que l’action collective peut devenir efficace, et que nos normes pourront évoluer dans le bon sens. À cette fin, Morozov dénonce le « défaitisme numérique » de nombreux commentateurs américains, qui baissent les bras face à la « créature autonome et insaisissable du nom de « Technologie » » (p. 210).

L’usage ambigu des mots et de leurs valeurs

De nombreux termes, comme celui de « gouvernement transparent » sont extrêmement ambigus. Chacun les entend comme il le souhaite, mais personne ne saurait les définir précisément, étant donné qu’ils sont indéfinissables. Kevin Kelly et Gordon Bell (un ingénieur de Microsoft qui passe sa vie à stocker le moindre détail de son existence à l’aide d’une « SenseCam », caméra pendue à son cou) affirment ainsi que les machines se « souviennent », alors qu’elles ne font que stocker. Un autre terme, celui de « liberté d’Internet », pourrait même devenir dangereux, selon Morozov. S’attendre à ce qu’un concept aussi vague puisse aider à renverser des régimes autoritaires est naïf.

Les mots et expressions créés avec les nouvelles technologies sont instables et flous, même si leur usage est devenu courant. Pourtant il serait presque dangereux dans certains cas de vouloir donner un nom à des concepts auxquels on ne peut même pas donner de limites, ou d’explications intelligibles. Pour éclairer cette problématique, Morozov a prévu de consacrer ses prochains travaux aux recherches sur l‘historicisation et la contextualisation du vocabulaire qui est utilisé au sein de l’univers technologique, tels que cyberespace, internet, open source…

Résolution incessante de problèmes inexistants

Aldous Huxley (1894-1963)

Au-delà de la pensée web-centriste, Morozov consacre une importante part de son ouvrage Pour tout résoudre cliquez ici à la pensée solutionniste. Les solutionnistes résolvent des problèmes sans même avoir posément réfléchi à la question. Morozov perçoit le solutionnisme comme un « cheval de Troie », qui ouvrirait la voie à des projets bien plus sinistres pensés par les entrepreneurs de la Silicon Valley. Cette augmentation technologique dissimule une diminution intellectuelle. Morozov nomme cela la « réalité augmentée diminuée ». La recherche d’efficacité absolue est l’objectif premier du solutionnisme et, comme l’a souligné le romancier et essayiste britannique Aldous Huxley (Le Meilleur des Mondes), « dans une ère de technologie avancée, l’inefficacité est le pêché contre le Saint-Esprit ». Pourtant, les « heurts » que le solutionnisme cherche à éliminer ne sont pas forcément néfastes. Ces contraintes ne sont pas toujours illégitimes, et peuvent même être productives à l’épanouissement de l’homme.

Morozov a recours à trois arguments pour appuyer sa critique du solutionnisme : « la thèse de l’effet pervers (où l’intervention proposée ne fait qu’aggraver le problème en question), l’inanité (où l’intervention ne parvient à aucun résultat) et la mise en péril (où l’intervention menace d’affaiblir des réalisations obtenues au prix de grands efforts par le passé) ». Le solutionnisme puise dorénavant ses sources en grande partie dans le web-centrisme, avec notamment le « discours sur l’innovation », par lequel toute innovation est traitée comme intrinsèquement bonne car c’est le progrès. Pour résumer, d’après Morozov, « « l’Internet » a fourni aux solutionnistes les munitions nécessaires ainsi que de nouvelles justifications pour mener leur guerre contre l’inefficacité, l’ambiguïté et le désordre ».

La surveillance algorithmique

Les géants de la Toile sont fiers de dire qu’Internet et les réseaux sociaux sont le reflet de la société, de la vie réelle. Mais Morozov conteste leurs propos : « En effet l’entreprise ne se contente pas de refléter, elle façonne, crée et déforme, et ce de nombreuses manières irréductibles selon la seule et unique logique de « l’Internet » » (p. 146). Selon lui, il est impossible pour la presse de rapporter des informations de manière totalement neutre, car ils poursuivent leurs propres buts, souvent très éloignés de la réalité. Et même sans cela, il est difficile d’être objectif. Google aura donc beau se cacher derrière la rhétorique des reflets (« miroir de la société »), il ne peut pas pour autant nier sa forte influence dans la mise en forme de l’espace publique, et doit prendre ses responsabilités. De plus, le géant des moteurs de recherche laisse entendre « qu’une intervention humaine ponctuelle pour contrôler leur travail équivaudrait à abandonner toute foi en l’intelligence artificielle » (p. 143). Autrement dit, Google ne veut pas admettre que ses algorithmes (de son programme publicitaire AdSense par exemple) ne sont pas neutres, qu’ils ont des failles. Il est donc impossible de faire appel de leurs décisions, même si, par exemple, Google Autocomplete propose le mot « pédophile » sur la barre de recherche derrière le nom d’une personne tout à fait innocente.

Une des croyances du web-centrisme consiste à considérer que les filtres de Google, Twitter et autres sur Internet redéfinissent les sujets importants ou non de la vie réelle. Ils sont soi-disant véridiques et dénués de préjugés. Personne ne sait sur quels indicateurs Google et d’autres moteurs de recherche s’appuient pour définir ces filtres, on doit donc les suivre aveuglement.

Au-delà des cookies, il existe dorénavant des empreintes numériques, non effaçables. Ces empreintes permettent, entre autres, de proposer à l’internaute une réclame très personnalisée en fonction des pages consultées et des liens cliqués. Aujourd’hui, ces pratiques de ciblage s’appliquent aussi au niveau éditorial du secteur de la presse d’information. Morozov pense qu’avec ce « régime de l’information », un consommateur passif face à ces contenus proposés n’y accorderait pas d’intérêt. Cela n’engagerait pas « un engagement politique et public ». Ces nouvelles méthodes de personnalisation, telle que l’adaptation du langage pour un article en fonction du niveau d’études du lecteur, pourraient bien aggraver les inégalités, et mettre à mal les occasions de débat partagé. Pour Morozov, Internet n’a pas permis la « désintermédiation » (suppression des nombreux intermédiaires de la vie réelle), mais au contraire une « hypermédiation » avec des acteurs souvent invisibles.

Les algorithmes ont également permis la création d’une nouvelle pratique, celle de la « surveillance prédictive ». Cette dernière permet d’anticiper un crime ou tout autre type de violation. La surveillance prédictive « prévient » plus qu’elle ne « guérit ». Le logiciel PredPol analyse par exemple des statistiques antérieures et indique aux services de police les endroits à risques de cambriolages et vols de voitures. Mais selon Morozov, « si personne n’est en mesure de contrôler les algorithmes – ce qui est probable, puisque les logiciels de surveillance prédictive seront mis au point par des entreprises privées -, alors nous ne saurons pas quels préjugés et pratiques discriminatoires ils intègrent » (p. 182). Il est nécessaire que des partis soucieux de l’intérêt public examinent ces programmes qui s’installent de plus en plus dans nos vies quotidiennes. Morozov reconnait l’ingéniosité de ce type de surveillance. Les prédictions par les algorithmes peuvent être utiles dans certains cas, mais la soif d’efficacité ne doit pas empiéter sur la préservation de la démocratie.

Le démantèlement de la politique

Les web-centristes, que Morozov appelle aussi les geeks, sont antigouvernementaux, ils méprisent la politique et pensent que le gouvernement parasite l’innovation. Ils sont contrariés par la politique, car ils estiment qu’il ne s’agit que de paroles. L’auteur définit deux types de geeks, qui veulent modifier la politique grâce à Internet : les techno-utopistes pour qui la politique est obsolète, et les techno-rationalistes pour qui internet peut et devrait « diminuer la part de politique dans les affaires publiques et au contraire développer leur dimension technocratique » (p. 130). Il juge ces deux cas comme « extrêmement dangereux ». Les web-centristes, et plus précisément les techno-rationalistes, désirent faire de la politique une science exacte. Mais à travers le temps, de nombreux auteurs se sont penchés sur le sujet et sont arrivés à la conclusion que les principaux inconvénients du système politique (l’arbitraire, l’impuissance et les intrigues) ne seront pas supprimés par le solutionnisme, au contraire.

David Karpf

Le site Ruck.us, à la manière d’un réseau social, regroupe des internautes autour d’intérêts politiques communs. Chaque personne peut faire partie de plusieurs groupes (appelées mêlées), il n’y a pas de partis définis. Ruck.us veut faire d’Internet le principal outil d’expression publique. Ce type de site peut sembler intéressant à mettre en place, car « l’accent est ainsi mis sur les actions individuelles concernant des sujets spécifiques », mais en réalité, le site Ruck.us est rentabilisé par de nombreux lobbys, ce qui peut laisser sceptique. Selon David Karpf, professeur de communication à l’université George Washington, « les complots visant à troubler le bipartisme grâce à la technologie ont tous tendance à présenter le même défaut de base : ils considèrent la politique comme un marché ».

Transparence, réductionnisme informationnel et big data

L’engouement pour le web-centrisme a engendré un désir incessant d’efficacité, de progrès et d’ouverture. Ainsi, depuis quelques années, la « transparence » est au centre des débats et est considérée comme le concept phare des droits et liberté sur internet, alors qu’elle reste quasi indéfinissable. Les experts des technologies se lancent aujourd’hui dans la « tyrannie de l’ouverture ». Morozov insiste sur le fait qu’« un accès plus efficace aux informations concernant les affaires publiques (grâce à  » l’Internet ») ne suffit pas à corriger la politique » (p. 72).

Tim Wu (1972-)

D’après l’analyse des universitaires néerlandais Kimberley Spreeuwenberg et Thomas Poell, « Google est capable d’exercer un contrôle sur ses partenaires dans un écosystème dit « ouvert » », ce qui est paradoxal. Google se dit ouvert, mais exerce une influence sur son environnement. Et les géants du Net ne s’arrêtent pas là, selon Morozov, « cela signifie également que les entreprises de technologies se verraient confier un rôle plus important encore dans la vie civique alors même que, jusqu’ici, ces dernières n’ont pas brillé par le respect des responsabilités qui leur incombaient déjà. Attendre de la Silicon Valley qu’elle adopte un tel niveau de paternalisme culturel de manière responsable semble prématuré » (p. 283). Un critique « régulationniste » comme Tim Wu, avocat historique de la « neutralité du Net », et professeur de droit à l’université de Columbia (New York), met en cause des « empereurs » de l’information comme Steve Jobs, « hommes d’affaires impitoyables », qui « élisent un gouvernement qui leur assurera une protection contre la concurrence ».

La tendance pro-information, héritée des Lumières, joue en faveur des entreprises de technologie. Cependant, on assiste davantage depuis quelques années au réductionnisme informationnel, qui conduit l’information à être déformée, et conçue comme un contenu linéaire, unidimensionnel. L’autre erreur du réductionnisme informationnel est de croire que l’information peut s’autogérer, circuler sans contrôle humain… Tout comme le souhaiterait Google qui confère à ses machines une entière confiance, alors qu’elles ne sont pas irréprochables et nécessitent un contrôle humain. Au 19e siècle déjà, Nietzsche proposait une violente critique du réductionnisme informationnel, selon lequel les informations doivent se propager quelles que soit leur qualité. C’est une « naïve croyance si populaire au sein de la Silicon Valley » comme la définit Morozov. Cependant, le réductionnisme informationnel n’est pas mauvais en soi à partir du moment où l’on a conscience de la réduction, et que l’on connait les parties manquantes de l’information, mais c’est rarement le cas. Morozov compare le régime alimentaire, nutritif, au régime informationnel qui doit combattre l’obésité informationnelle. Il est plus facile d’être obèse que de faire du sport, tout comme il est plus facile de consommer beaucoup d’informations (majoritairement puériles) que d’adopter un « régime » léger, mais instructif.

Martin Frické

Morozov ajoute que « l’idée naïve selon laquelle les données existent « naturellement » et peuvent simplement être rassemblées et découvertes […] est l’une des bases du réductionnisme informationnel » (p. 241). Le rejet des théories fondées et la croyance en des données autonomes et naturelles figurent comme l’un des piliers du solutionnisme. Le spécialiste des systèmes d’information Martin Frické observe que « les projets d’exploration de données […] favorisent une tendance à confondre les données avec les informations », et que tout cela engendre une « sorte d’acquisition préventive », c’est-à-dire que nous stockons tout, et tirons des conclusions infondées en mettant en lien des données qui n’ont aucun lien direct. Pour Kevin Kelly, « les données exhaustives (la science telle que la pratique Google) sont préférables à la formulation d’hypothèses ». Morozov juge tout cela risible, pour lui, les données vont surtout profiter à l’utilitarisme de la consommation et aux théories du complot, qui se feront un plaisir d’émettre des corrélations entre des données en leur faveur. Le fait que la connaissance exemptée de toute théorie avec le big data soit perçu comme révolutionnaire n’a rien de nouveau. Les recensements, sondages et enquêtes existaient déjà avant, même si les données n’étaient pas collectées en ligne. Les données ne donnent pas forcément suite à de l’information, il serait inconscient de les assimiler au statut de savoir.

Tzvetan Todorov (1939-)

Oscar Wilde (1854-1900)

Selon les web-centristes, les machines auraient une mémoire infaillible. Le philosophe Tzvetan Todorov précise que la mémoire n’est pas le contraire de l’amnésie. La mémoire retranscrit l’interaction complexe entre l’effacement (ou l’oubli) et la conservation. Pour Todorov, les ordinateurs sont dépourvus de la caractéristique fondamentale de la mémoire, qui est la « capacité de sélectionner » (p. 271). Autrement dit, tous les enregistrements et stockages d’information qui émanent des machines ne constituent pas, jusqu’à aujourd’hui, une mémoire comparable à la mémoire humaine. Il s’agit d’une mémoire figée, dépourvue de conscience. La technologie aura beau tenter de tout rendre irréprochable, elle ne pourra pas effacer et trafiquer tous les faits réels sans incidences sociales. De plus, pour le dramaturge Oscar Wilde, dont Morozov soutient fermement les propos, « la culture et la contemplation deviennent presque impossibles sans esclaves pour se charger des travaux rebutants, abominables et inintéressants. L’esclavage humain est injuste, précaire et écœurant. C’est sur l’esclavage mécanique, celui de la machine, que l’avenir du monde repose ». L’esclavage est donc indispensable pour certaines tâches, et c’est là que les machines auront le beau rôle en se chargeant de prendre en mains les travaux déplaisants. Pour résumer, Morozov considère que « l’esclavage mécanique est l’activateur de la libération de l’homme ». Faire de chaque citoyen un homme robotisé serait donc porter préjudice aux bénéfices apportés par des machines. Encore une fois, les solutionnistes ont cherché à résoudre un problème avant même de se poser les bonnes questions. La technologie ne doit pas servir à concevoir un monde parfait et irréprochable, mais plutôt aider les hommes à développer leurs capacités créatives et imaginatives.

L’obsession de l’évaluation

Depuis quelques années, un attrait grandissant pour les chiffres est apparu. Tout se calcule, du nombre de pas marchés dans la journée, au nombre de calories consommées jusqu’au nombre d’amis. Le monde est quantifiable, tout doit s’évaluer pour atteindre toujours plus de perfection, selon les solutionnistes. Mais Morozov précise que chaque contexte est très différent et l’éthique de la quantification est très discutable.

Francis Galton (1822-1911)

Selon lui, « l’avenir appartient aux « datasexuels » ». Ce terme désigne les internautes qui vivent des données en leur vouant un culte. Ils s’appuient toujours sur elles pour évaluer ou entreprendre le maximum de leurs activités (manger, dormir, analyser leurs selles…). Ce type de pratiques quantitatives ne datent pas d’aujourd’hui. En 1880, Francis Galton, pionnier de la statistique, créa « l’enregistreur de poche ». Ce gadget lui permit de comptabiliser un type particulier de personnes dans la rue. D’après son biographe, Galton se servait de cet enregistreur pour réaliser notamment une « carte de la beauté » en fonction des lieux où se trouvaient les plus belles femmes, ou encore pour évaluer l’ennui public. À force de vouloir tout classifier, Galton est tombé dans l’eugénisme. Morozov fait le parallèle avec les datasexuels d’aujourd’hui, qui finissent également, selon lui, par tendre vers l’eugénisme.

De nombreux sites et applications proposent aujourd’hui un système de notations pour nous « aider » à choisir. Par exemple, le site Zagat propose à ses utilisateurs de commenter et de noter les restaurants. Ces évaluations ne sont pas représentatives d’une critique digne de professionnels de la gastronomie. Favoriser l’évaluation publique, comme le font les solutionnistes populistes, est une perspective qui soulève plusieurs questions. D’une part, pour Morozov, « elle tend à récompenser la participation à la culture bien plus que la culture elle-même » . Et d’autre part « les critiques musicaux professionnels (et cela vaut également pour la critique de cinéma et de littérature) remplissent bien d’autres fonctions que l’on peut difficilement déléguer au public » (p. 177), comme identifier des contenus innovants, provocants ou de tout autre nature. Pour Morozov, « l’expérience humaine, passée à travers le moulin de la quantification, ne se voit réduite à rien de plus qu’un ruisseau d’octets silencieux et abêtissant, un commentaire numérique s’écoulant sur notre quête sans fin de perfection, d’un excellent patrimoine génétique, d’une notation idéale, d’un compagnon merveilleux » (p. 250).

Désormais, la vie privée a un coût. Certaines entreprises vont jusqu’à demander de l’argent à leurs utilisateurs s’ils veulent garder leurs informations secrètes (comme le site de quantification Daytum.com). D’autres paient spontanément (ou presque) afin de protéger leur réputation sur le net, « les visionnaires de la Silicon Valley aiment considérer les citoyens comme des start-up ; ainsi l’inquiétude constante pour sa réputation est-elle considérée comme le prix à payer pour faire des affaires » (p. 232).

Cette nouvelle capacité à monétiser la vie privée va redéfinir encore une fois les limites morales de la condition humaine, ses droits et son espace de libertés. Les personnes qui ne souhaiteront pas révéler leurs données apparaitront comme douteuses, et suspectes d’avoir quelque chose à se reprocher. Alors, si vous sortez avec des gens qui gardent leurs données confidentielles, méfiez-vous aussi ? Selon Morozov, « l’autocontrôle profite aux gens aisés et en bonne santé » (p. 236), ces gens irréprochables qui pourront fièrement partager leurs données sans la moindre appréhension. Il est important de se demander quelles seront les personnes exclues et flouées par ce monde dicté par l’obsession de la mesure.

Friedrich Nietzche (1844-1900)

Friedrich Nietzsche figure parmi l’un des premiers à s’opposer à l’obsession pour la mesure qu’il repéra dans la philosophie utilitariste de l’époque. Dans Le gai savoir, il déplore « la croyance en un monde qui est censé avoir son équivalent et sa mesure dans la pensée humaine, dans les concepts humains de valeurs ». Morozov demande comment ce grand philosophe réagirait face au directeur de Google, Éric Schmidt, qui souhaite exceller dans « l’esthétique algorithmique », alors que Nietzsche haïssait le fait que la quantification puisse être associée à l’art. D’après le philosophe, « un monde essentiellement mécanique serait un monde essentiellement absurde ».

Le mouvement du « quantified self » (appelé également l’autosuivi, l’automesure, le soi chiffré ou la tendance datasexuelle) émergea depuis ces cinq dernières années, par les efforts de ses deux cofondateurs Kevin Kelly, et le journaliste Gary Wolf. Ce dernier a identifié quatre facteurs à l’origine du développement fulgurant de l’automesure : la taille des capteurs électroniques a diminué, tandis que leur puissance a augmenté, une fois dans les smartphones ces capteurs deviennent omniprésents, les médias sociaux ont banalisé le partage, et le cloud computing rendit possible le stockage en masse des données d’une personne. Pour Morozov, « le récent attrait pour l’autosuivi ne peut se comprendre que dans le cadre de la volonté narcissique moderne d’être unique et exceptionnel… Ainsi, comme le veut la logique, si vous n’êtes pas unique c’est tout simplement parce que vous ne mesurez pas suffisamment d’indicateurs » (p. 229). Selon cette logique, même ceux qui n’ont rien de spécial à poster sur Internet auront toujours des informations personnelles, issues des chiffres de l’autosuivi, à publier sur les réseaux sociaux de l’univers virtuel. Pour Gary Wolf, le quantified self avec tous ses gadgets permet de « comprendre qui nous sommes », et pour cela « nous avons besoin de l’aide des machines ».

Les connaissances sont souvent partielles, mais c’est justement en cela qu’elles reflètent un ensemble de problèmes. Finalement « la prolifération de l’autosuivi – et le glissement vers une pensée chiffrée – risque de nous immobiliser pour toujours dans le paradigme des faits établis », c’est-à-dire que tout serait pris pour acquis, la mesure mathématique ne pourrait jamais être remise en question. Morozov ajoute que « les partisans de l’autosuivi nous assureraient que ces nouvelles données ne feront que compléter l’état de nos connaissances. En réalité, il y a de très fortes chances qu’elles les remplacent » (p. 248). Un autre problème d’ordre politique apparait avec l’autosuivi. Il pourrait inciter le gouvernement à déléguer certaines de ses responsabilités (autour de sujets quantifiables comme la nutrition) aux individus.

Ludification et perte du caractère moral

Richard Thaler (1945-)

Richard Thaler, économiste spécialiste de la finance comportementale, doyen du solutionnisme, soutient la théorie du « nudge » (coup de pouce). Il remarque que le gouvernement a déjà recours à deux outils pour encourager le citoyen à adopter un comportement civique (conduite, vote, tri des déchets, impôts…) : les encouragements et les amendes. Puis il en ajoute un troisième, qui a connu un développement fulgurant, la ludification.

La « ludification » consiste à appliquer une mécanique de jeu sur diverses pratiques sociales. Par exemple, un internaute qui lira cinq articles d’actualité pourra obtenir un badge qui prouvera à ses amis qu’il s’est bien informé aujourd’hui. Selon Tim Chang, directeur du Mayfield Fund, une société de conseil pour les investissements dans les nouveaux médias, « la seule manière de réparer notre système de santé lamentablement dysfonctionnel est d’amener les gens à réfléchir à la santé et non aux soins de santé ». Pour Morozov, ce n’est pas en donnant des points aux individus, en guise de diagnostic, que le problème sera résolu. Désormais « les citoyens se muent en consommateurs et en joueurs attendant que tout soit amusant et obéissant à une logique de récompense ».

Jane McGonigal (1977-)

Le solutionnisme possède un ambassadeur bien-pensant, Jane McGonigal, gourou de la Silicon Valley, conceptrice de jeux et membre de l’Institut pour le Futur. Elle prétend que les jeux peuvent « aider les gens ordinaires à régler les problèmes les plus pressants du monde : guérir le cancer, stopper le changement climatique, instaurer la paix, mettre fin à la misère ». Ses arguments s’appuient sur la croyance que le monde virtuel est supérieur au monde réel, car ce dernier est dénué d’une mécanique de jeu. Selon elle, la « vraie vie » manque de récompenses, et ne sait pas nous rassembler, comme le jeu sait le faire. Morozov ironise sur ces propos  : « le fait que la poursuite d’un bonheur interplanétaire puisse également générer des communautés où les citoyens refuseront de lever le petit doigt sans recevoir d’incitation financière ni de badge ne semble pas vraiment la déranger ».

Sheryl Sandberg

Les entreprises technologiques offrent une place centrale à « l’authenticité ». Zuckerberg et Sheryl Sandberg, fondateur et directrice de Facebook, expriment l’importance qu’ils éprouvent à l’égard de la véritable identité que doit laisser refléter l’internaute sur la Toile. Il ne devrait pas se créer un pseudo-personnage virtuel, mais être lui-même. Sandberg précise même que ça « demandera un temps d’adaptation et suscitera des protestations au nom de la perte de la vie privée », mais que cela doit absolument être mis en place. Sur le réseau social Facebook, j’aime et publie souvent ce que mes amis aiment et publient, puis mes amis sont aussi amenés à aimer ce que j’aime et publie et ainsi de suite, « c’est un cercle vicieux, car personne ne parvient jamais vraiment à une parfaite authenticité sur Facebook. Le rêve de Sandberg d’une identité authentique n’est qu’un slogan commercial adroit ». Morozov relève l’hypocrisie des entreprises qui se prétendent « authentiques » en tirant tous leurs bénéfices de la publicité.

L’auteur poursuit en citant Adorno, pour qui, s’appuyant sur l’exemple du « tortionnaire authentique » (Jargon de l’authenticité, Payot, 2009), les choses authentiques ne sont pas nécessairement bonnes moralement, et les choses bonnes moralement ne sont pas nécessairement authentiques (p. 308). Encore une fois, pour Morozov l’objectif perfectionniste est à éviter. Aujourd’hui, « il se pourrait […] que nous ayons besoin de tempérer notre appétit pour l’authenticité et d’accepter le fait que l’inauthentique n’est pas toujours une mauvaise chose et qu’aucune relation sociale ne serait possible sans un peu de mensonge et d’hypocrisie » (p. 309).

Conclusion

Il est indispensable désormais de revoir les choses de manière plus terre à terre. Les technologies numériques et Internet ont tendance à entraver les libertés. Rejeter le solutionnisme, ce n’est pas rejeter la technologie.  Lorsque les systèmes technologiques seront correctement conçus et pensés, alors ils pourront faire progresser les espaces de délibération, et résoudre de réels problèmes, avec des citoyens éclairés, libres de faire leurs propres choix.

« Nos rois geeks ne prennent pas conscience du fait que l’inefficacité est précisément ce qui nous protège de l’inhumanité du taylorisme et de l’intégrisme du marché » (p. 306). Morozov souhaiterait que les citoyens soient plus politisés dans le rôle qu’ils jouent dans la vie démocratique. Cependant, le principal problème, selon lui, se trouve à la source. Ce sont les ingénieurs, pour qu’il manifeste beaucoup de respect, qui doivent prendre conscience que leur rôle s’étend au-delà de la simple maîtrise de l’ingénierie technique.

Adapté d’un mémoire de recherche en master 1 information-communication à l’université de Paris Nanterre, juin 2015 sous la direction de David Buxton. Marion Lemonnier est professeur des écoles depuis 2018.

Note : d’après ses propres dires, la pensée politique de Morozov s’est sensiblement radicalisée depuis la publication de cet ouvrage, notamment dans l’attention portée aux « infrastructures ». Voir en ligne « De l’utopie numérique au choc social », Le Monde Diplomatique, août 2014 ; « Socialize the Data Centres !  », New Left Review, 91, jan-fev. 2015. Dans un entretien sur France Culture en 2015 (lien ci-dessous), il accepte, après une longue hésitation et des rires, le qualitatif « marxiste », aveu qu’il ne faut pas prendre au pied de la lettre.

Note ajoutée en décembre 2023 (DB) : En 2022, Morozov a publié dans la New Left Review une critique de l’hypothèse néo-féodale ou techno-féodale, qui prétend que le capitalisme est dépassé par quelque-chose de pire. L’argument de Morozov est bien ancré dans la tradition néo-marxiste. Une traduction française de ce texte important se trouve dans le dernier numéro de la revue Variations, lien ici. Voici la présentation de l’article :

« Ce dossier se conclut sur un dernier article, volontairement polémique, dans lequel, passant en revue un grand nombre de penseurs et écoles de pensée, Evgeny Morozov interprète l’engouement actuel pour l’hypothèse néo-féodale comme la conséquence de la non-clôture du fameux débat des années 1970-80 entre Robert Brenner et Immanuel Wallerstein sur la transition entre le féodalisme et le capitalisme. Alors que Brenner parle du capitalisme comme d’une forme d’exploitation reposant sur le travailleur libre et sur l’innovation d’une nouvelle classe entrepreuniale — privilégiant ainsi des facteurs politiques — Wallerstein voit le capitalisme principalement en termes d’expropriation continue des ressources de la périphérie — privilégiant ainsi des facteurs économiques dans le processus de transition. L’enjeu est ici la portée du concept d’« accumulation initiale » (longtemps traduite « accumulation primitive »). Morozov se demande si le temps n’est pas venu de clore définitivement ce débat, en intégrant et l’exploitation et l’expropriation dans un modèle unique qui supposerait une conception plus étendue du capitalisme, où la séparation entre « le politique » et « l’économique » s’effacerait. C’est la difficulté à réconcilier l’exploitation avec l’expropriation continue dans une explication de l’évolution du capitalisme qui donne lieu, d’après Morozov, à des concepts comme « accumulation par la dépossession » (Harvey) ou « rente cognitive » (Vercellone), qu’il considère redondants. Pour lui, la thèse techno-féodale dérive de l’incapacité de la théorie marxiste à comprendre l’économie numérique. Mais, à cet égard, l’idée d’un techno-féodalisme fait courir le risque de redorer le blason du capitalisme tardif, régime pourtant déjà assez éprouvant. »

Voir dans la web-revue concernant Morozov : Actualités #11, juillet-août 2013 ; Actualités #23, septembre 2014 ; Actualités #29, mars 2015.

Bibliographie

MOROZOV Evgeny, The Net Delusion. The Dark Side of Internet Freedom, Public Affairs, New York, 2011.
MOROZOV Evgeny, « De l’utopie numérique au choc social », Le Monde diplomatique, août 2014.
MOROZOV Evgeny, « Socialize the data centres! », New Left Review (London), 91, jan-fev. 2015.  MOROZOV Evgeny, Pour tout résoudre cliquez ici, traduit par Marie-Caroline Braud, FYP Editions, Collection  : Innovation, septembre 2014.

Webographie

– Evgeny Morozov, contre l’internet centrisme, culturemobile.net, discussion avec Ayriel Kyrou, 7 nov. 2014.
– Discussion avec Evgeny Morozov : pour en finir avec la Silicon Valley, France Culture (« Place de la Toile »), 25 jan. 2015.
– Anouch Seydtaghia (interview avec Morozov). Quelques sociétés de la Silicon Valley peuvent nous imposer une façon de vivre, Le Temps (Génève), 3 jan. 2015.
– www.evgenymorozov.com/ (site en anglais avec textes).
– Evgeny Morozov, TED Talks, « Internet est-il ce qu’Orwell redoutait ?« , juillet 2009 (conférence en anglais avec sous-titres en français).
– Ian Tucker (interview avec Evgeny Morozov) : « We are abandoning all the checks and balances« , The Guardian (Royaume Uni), 9 mars 2013.
– Evgeny Morozov on Twitter (anglais).
– Wikipédia. Evgeny Morozov (anglais).

Marion Lemonnier