{"id":29670,"date":"2018-03-01T01:00:05","date_gmt":"2018-03-01T00:00:05","guid":{"rendered":"http:\/\/industrie-culturelle.fr\/industrie-culturelle\/?p=29670"},"modified":"2019-04-26T16:34:22","modified_gmt":"2019-04-26T14:34:22","slug":"science-fiction-science-mythe-singularite-laurence-favier","status":"publish","type":"post","link":"https:\/\/industrie-culturelle.fr\/industrie-culturelle\/science-fiction-science-mythe-singularite-laurence-favier\/","title":{"rendered":"De la science-fiction \u00e0 la science : le mythe de la singularit\u00e9 – Laurence FAVIER"},"content":{"rendered":"
\"image_pdf\"<\/a>\"image_print\"<\/a><\/div>

Note : cet article a \u00e9t\u00e9 publi\u00e9 dans VRS (La vie de la recherche scientifique), 411, hiver 2017, une revue des syndicats SNCS-FSU, et SNESUP-FSU. Il est reproduit dans la Web-revue avec l’accord de Laurence Favier.<\/span><\/div><\/div><\/em><\/p>\n

Article interdit \u00e0 la reproduction payante.<\/p>\n

Introduction<\/span><\/h2>\n
\"\"
J.-G. Ganascia (1955-)<\/figcaption><\/figure>\n

Que les d\u00e9veloppements de la science inspirent la science-fiction n\u2019a rien de nouveau. L\u2019imaginaire que v\u00e9hicule l\u2019id\u00e9e d\u2019une intelligence artificielle s\u2019\u00e9panouit depuis plus d\u2019un demi-si\u00e8cle au moins, navigant au gr\u00e9 des innovations introduites par les technologies de l\u2019information et les des transformations qu\u2019elles mettent en \u0153uvre dans la science comme dans la vie quotidienne de chacun d\u2019entre nous (au moins dans les pays riches). Que se passe-t-il donc pour que rapports et ouvrages sur l\u2019intelligence artificielle se succ\u00e8dent aujourd\u2019hui sur ce th\u00e8me ? Sans doute les retomb\u00e9es \u00e9conomiques attendues et les probl\u00e8mes \u00e9thiques qu\u2019elles soul\u00e8vent y sont pour l\u2019essentiel. Mais le plus \u00e9tonnant est que les scientifiques eux-m\u00eames (ou plut\u00f4t certains d\u2019entre eux) adh\u00e8rent aujourd\u2019hui \u00e0 l\u2019id\u00e9e d\u2019un \u00ab \u00e9v\u00e9nement brutal, imminent, majeur et pourtant in\u00e9luctable qui va, para\u00eet-il, bouleverser le mode d\u2019existence de l\u2019homme du fait du d\u00e9veloppement incontr\u00f4lable des technologies contemporaines, en particulier, des technologies de l\u2019information et de l\u2019intelligence artificielle [\u2026]<\/em> \u00bb, \u00e9crit Jean-Gabriel Ganascia, professeur d’informatique \u00e0 l’universit\u00e9 Pierre et Marie Curie. Dans un ouvrage paru en 2017 [1], Ganascia examine ce passage de la science-fiction \u00e0 la science, port\u00e9 non plus par des \u00e9crivains, mais par des scientifiques, car \u00ab on ne peut pas, vu la l\u00e9gitimit\u00e9 intellectuelle et sociale de leurs auteurs, les rejeter a priori, sans un examen approfondi<\/em> \u00bb (pp. 20, 15).<\/p>\n

Le concept de \u00ab singularit\u00e9 \u00bb<\/span><\/span><\/h2>\n

\"\"Toutes les th\u00e9ories proph\u00e9tiques sur les transformations majeures et irr\u00e9versibles auxquelles nous nous conduiraient in\u00e9vitablement les progr\u00e8s des technologies de l\u2019information d\u00e9crivent l\u2019acm\u00e9 de ce mouvement \u00e9volutif par le concept de \u00ab singularit\u00e9<\/a> \u00bb emprunt\u00e9 aux math\u00e9matiques pour d\u00e9crire des changements soudains (points de rupture, de rebroussement ou bifurcations). Indissociable de cette \u00ab singularit\u00e9 \u00bb, la loi de Moore<\/a> est invoqu\u00e9e pour rendre compte de la croissance exponentielle des technologies de l\u2019information : \u00ab doublement des performances, de la rapidit\u00e9 ou de la capacit\u00e9 de stockage d\u2019information \u00e0 un rythme \u00e9quivalent, diminution des co\u00fbts dans les m\u00eames proportions<\/em> \u00bb. D\u2019o\u00f9 la question : que seront les machines qui r\u00e9sultent de ce mouvement de progression constante ? Si cette loi a une utilit\u00e9 pour pr\u00e9voir les investissements informatiques \u00e0 court terme, elle ne peut \u00eatre g\u00e9n\u00e9ralis\u00e9e selon Ganascia. Penser l\u2019\u00e9volution de la technologie sur le mode de celui du cours de la nature, comme si l\u2019induction par laquelle on d\u00e9duit que le soleil se l\u00e8vera demain pouvait \u00eatre applicable au rythme des inventions techniques, se heurte aux discontinuit\u00e9s que supposent m\u00eame l\u2019id\u00e9e de singularit\u00e9 : \u00ab la l\u00e9gitimit\u00e9 de la loi de Moore qui repose sur un axiome de r\u00e9gularit\u00e9 est contredite par l\u2019id\u00e9e m\u00eame de Singularit\u00e9 qui d\u00e9coule de la perp\u00e9tuation de cette m\u00eame loi<\/em> \u00bb. S\u2019il y a r\u00e9gularit\u00e9, comment peut-il y avoir rupture et bouleversement ? Outre ces objections d\u2019ordre logique, d\u2019autres arguments viennent remettre en cause la validit\u00e9 ind\u00e9finie de cette loi. Le premier est celui des barri\u00e8res physiques dont le traitement de l\u2019information ne peut s\u2019affranchir (barri\u00e8res spatio-temporelles, quantiques et thermodynamiques), auquel s\u2019ajoute celui des limites des techniques actuelles reposant sur le silicium et les semi-conducteurs pour fabriquer des processeurs. Or les mat\u00e9riaux nouveaux qui permettraient d\u2019envisager de pousser plus loin la miniaturisation conduiraient n\u00e9cessairement \u00e0 un changement de paradigme au sens de Thomas Kuhn<\/a>, c\u2019est-\u00e0-dire \u00e0 une fa\u00e7on radicalement autre de concevoir des processeurs. Par ailleurs, l\u2019id\u00e9e m\u00eame d\u2019une \u00e9volution exponentielle parvenant \u00e0 une rupture majeure se heurte aussi \u00e0 l\u2019observation de celle du monde, telle que nous la comprenons par la pal\u00e9ontologie, o\u00f9 disparition et extinction d\u2019esp\u00e8ces concomitantes de changement dans les \u00e9cosyst\u00e8mes donnent une place \u00e0 la contingence qui ne ressemble pas \u00e0 une \u00ab progression vers un id\u00e9al de perfection<\/em> \u00bb.<\/p>\n

De plus, le \u00ab mythe de la singularit\u00e9 \u00bb repose sur une conception simplifi\u00e9e de l\u2019intelligence selon elle serait un ensemble de fonctions \u00e9l\u00e9mentaires reproductibles par un ordinateur. Ses moteurs seraient donc la puissance de calcul et la capacit\u00e9 de stockage. Cette simplification de l\u2019intelligence contredit la connaissance que nous avons des nombreuses facult\u00e9s diff\u00e9rentes qu\u2019elle peut mobiliser pour rendre possibles des activit\u00e9s aussi \u00e9l\u00e9mentaires que le calcul ou la lecture.<\/p>\n

L\u2019autonomie des machines<\/span><\/h2>\n

Le sens de ce progr\u00e8s ind\u00e9fini pens\u00e9 selon la loi de Moore c\u2019est l\u2019autonomie des machines. Depuis Turing, on pense que cette autonomie pourrait \u00eatre acquise par la capacit\u00e9 des machines \u00e0 apprendre. L\u2019apprentissage automatique vise \u00e0 \u00ab doter les machines d\u2019une capacit\u00e9 \u00e0 construire d\u2019elles-m\u00eames des connaissances et \u00e0 les utiliser pour se reconfigurer en r\u00e9\u00e9crivant leurs propres programmes. Il en r\u00e9sulte un accroissement impressionnant de leurs performances dont nous tirons les b\u00e9n\u00e9fices dans beaucoup de nos activit\u00e9s quotidiennes (\u2026)<\/em> \u00bb. Diff\u00e9rentes approches ont \u00e9t\u00e9 explor\u00e9es avec succ\u00e8s. L\u2019apprentissage automatique coupl\u00e9 aujourd\u2019hui \u00e0 la masse de donn\u00e9es disponibles (Big Data<\/em>) rend possible cet accroissement des performances dont t\u00e9moignent le logiciel de reconnaissance vocale Siri d\u2019Apple, la voiture autonome de Google, et le succ\u00e8s du programme d\u2019AlphaGo<\/a> qui a gagn\u00e9 au jeu de go contre le champion du monde en mai 2017. Doit-on en d\u00e9duire que les ordinateurs se passeront bient\u00f4t de nous pour agir ?<\/p>\n

Pour Ganascia, cette possibilit\u00e9 est le signe d\u2019un d\u00e9rapage risqu\u00e9 autant que d\u2019un progr\u00e8s car \u00ab les ordinateurs se reprogrammant d\u2019eux-m\u00eames, sans qu\u2019aucun \u00eatre humain n\u2019ait ni r\u00e9dig\u00e9, ni relu, ni a fortiori v\u00e9rifi\u00e9 les programmes qui les animent<\/em> \u00bb. D\u00e8s lors le comportement de ces machines devient de plus en plus difficile \u00e0 anticiper et \u00ab cette impr\u00e9visibilit\u00e9 appara\u00eet neuve, parce qu\u2019elle ne tient pas uniquement \u00e0 la difficult\u00e9 que nous avons de pr\u00e9voir les r\u00e9actions des machines dans la pr\u00e9cipitation de l\u2019action, du fait de leur rapidit\u00e9, mais au caract\u00e8re in\u00e9dit de leurs comportements qui d\u00e9coulent de l\u2019ex\u00e9cution de programmes construits sur des donn\u00e9es qu\u2019aucun homme n\u2019a jamais examin\u00e9es <\/em>\u00bb. L\u2019inqui\u00e9tude des lettres ouvertes publi\u00e9es en 2015 par les chercheurs en intelligence artificielle est donc justifi\u00e9e [2].<\/p>\n

 <\/p>\n

\"\"
La singularit\u00e9 (en 2045) selon Ray Kurzweil, son concepteur<\/figcaption><\/figure>\n

Agir plut\u00f4t que de fermer les yeux<\/span><\/span><\/h2>\n

Mais outre les risques, Ganascia conteste la possibilit\u00e9 m\u00eame d\u2019ordinateurs pouvant se perfectionner ind\u00e9finiment jusqu\u2019\u00e0 se passer des hommes et acqu\u00e9rir, voire outrepasser, leur autonomie. Les machines ne parviennent pas \u00e0 modifier d\u2019elles-m\u00eames le langage dans lequel s\u2019expriment les observations qui alimentent leurs m\u00e9canismes d\u2019apprentissage. En d\u2019autres termes, elles ne peuvent \u00eatre inventives et la performance \u00e9tonnante des applications issues des algorithmes d\u2019apprentissage sur de grandes masses de donn\u00e9es ne tient pas \u00e0 leur cr\u00e9ativit\u00e9.<\/p>\n

Cette \u00ab fable extravagante \u00bb construite par le r\u00e9cit de la singularit\u00e9 est pour l\u2019auteur un \u00ab d\u00e9tournement d\u2019attention<\/em> \u00bb. L\u2019enjeu pour les acteurs industriels majeurs des hautes technologies n\u2019est pas seulement \u00e9conomique : \u00ab il est aussi, et m\u00eame avant tout, politique<\/em> \u00bb. Ces acteurs d\u00e9fient les \u00c9tats constitu\u00e9s : \u00ab les attributions traditionnelles des \u00c9tats s\u2019amenuisent, grignot\u00e9es chaque jour davantage par l\u2019app\u00e9tit de ces grands groupes industriels, sans que personne ne s\u2019y oppose<\/em> \u00bb. C\u2019est finalement un appel \u00e0 l\u2019action que revendique l\u2019auteur du Mythe de la Singularit\u00e9<\/em> : agissons plut\u00f4t que de fermer les yeux. Agir, cela veut dire ne pas se laisser d\u00e9poss\u00e9der de notre capacit\u00e9 d\u2019action politique, celle de construire par nos choix la soci\u00e9t\u00e9 que nous voulons, celle de d\u00e9fendre l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral contre celui de quelques-uns, de moins en moins nombreux, qui d\u00e9cideraient pour nous. L\u2019\u00e9volution technologique participe donc \u00e0 sa mani\u00e8re \u00e0 la construction de rapports de force de plus en plus in\u00e9galitaires, sauf si nous nous en saisissons comme d\u2019un instrument au service de tous, comme l\u2019ont rappel\u00e9 les deux lettres ouvertes de 2015 (op. cit.<\/em>).<\/p>\n

Notes :<\/strong><\/span><\/p>\n

1. Le Mythe de la Singularit\u00e9. Faut-il craindre l’intelligence artificielle ?<\/em>, Seuil, 2017.<\/span><\/p>\n

2. https:\/\/futureoflife.org\/ai-open-letter\/<\/a> ; https:\/\/futureoflife.org\/open-letter-autonomous-weapons\/<\/a><\/span><\/p>\n

Voir dans la Web-revue<\/em> sur le transhumanisme : Actualit\u00e9s #28, f\u00e9vrier 2015<\/a>. Sur l’intelligence artificielle, Actualit\u00e9s #33, juillet-ao\u00fbt 2015<\/a>, et Actualit\u00e9s #53, mai 2017<\/a>.<\/span><\/span><\/p>\n

Annexe : Pour une intelligence artificielle ma\u00eetris\u00e9e, utile et d\u00e9mystifi\u00e9e [1]<\/span>
\n<\/span><\/h2>\n

 <\/p>\n

\"\"
Vernor Vinge (1944-)<\/figcaption><\/figure>\n

La rupture dite de la \u00ab singularit\u00e9 technologique \u00bb appel\u00e9e aussi simplement singularit\u00e9<\/strong> [2], est le nom que des \u00e9crivains et des chercheurs en intelligence artificielle ont donn\u00e9 au passage de l\u2019IA faible \u00e0 l\u2019IA forte [3].<\/strong><\/p>\n

La singularit\u00e9 repr\u00e9sente un tournant hypoth\u00e9tique sup\u00e9rieur dans l\u2019\u00e9volution technologique<\/strong>, dont l\u2019intelligence artificielle serait le ressort principal. [L’auteur de science-fiction, et universitaire] Vernor Vinge<\/a> a r\u00e9dig\u00e9 un essai remarqu\u00e9 \u00e0 ce sujet en 1993 [4].<\/p>\n

De nombreuses \u0153uvres de science-fiction ont d\u00e9crit ce tournant, qui a \u00e9t\u00e9 une source d\u2019inspiration tr\u00e8s riche pour le cin\u00e9ma. Les films Terminator<\/em>, Matrix<\/em>, Transcendance<\/em> sont des exemples de la \u00ab singularit\u00e9 technologique<\/em> \u00bb, qui est donc bien plus qu\u2019une simple hostilit\u00e9 de l\u2019intelligence artificielle<\/strong>, \u00e9galement souvent au c\u0153ur de l\u2019intrigue des \u0153uvres de science-fiction.<\/p>\n

\"\"
Ray Kurzweil (1948-)<\/figcaption><\/figure>\n

Les progr\u00e8s en mati\u00e8re d\u2019intelligence artificielle, en particulier avec le deep learning<\/em>, sont parfois interpr\u00e9t\u00e9s comme de bons augures de la singularit\u00e9, mais rien ne permet de garantir la capacit\u00e9 \u00e0 cr\u00e9er au cours des prochaines d\u00e9cennies une super-intelligence d\u00e9passant l\u2019ensemble des capacit\u00e9s humaines. Par exemple, en s\u2019appuyant sur la loi de Moore, Ray Kurzweil<\/strong><\/a> pr\u00e9dit que les machines rivalisant avec l\u2019intelligence humaine arriveront d\u2019ici \u00e0 2020<\/strong> et qu\u2019elles le d\u00e9passeront en 2045<\/strong> [5]. D\u2019apr\u00e8s Raja Chatila<\/a>, directeur de recherche \u00e0 l\u2019Institut des syst\u00e8mes intelligents et de robotiques (Isir), nous en sommes, aujourd\u2019hui, encore loin car \u00ab pour \u00eatre intelligente comme un humain, une machine devra d\u2019abord avoir la perception d\u2019elle-m\u00eame, ressentir son environnement, traiter des informations a flux continu et en tirer du sens pour ensuite agir [\u2026]. Ce n\u2019est pas la technique qui fait d\u00e9faut a la machine, mais le sens de ses actions, et l\u2019int\u00e9gration de la notion de concept<\/em> \u00bb.<\/p>\n

Notes de l’annexe
\n<\/strong><\/span><\/p>\n

1. Extrait du rapport de l\u2019Office parlementaire d’\u00e9valuation des choix scientifiques et technologiques du 15 mars 2017 par M. Claude De Ganay [LR], d\u00e9put\u00e9, et Mme Dominique Gillot [PS], s\u00e9natrice (p. 195-196). https:\/\/www.senat.fr\/rap\/r16-464-1\/r16-464-1_mono.html<\/a><\/span><\/p>\n

2. En gras dans le rapport.<\/span><\/p>\n

3. Des 1965, Irving John Good a d\u00e9crit, en pr\u00e9curseur, la singularit\u00e9, mais sans la nommer et ce, de la mani\u00e8re suivante : \u00ab Mettons qu\u2019une machine supra-intelligente soit une machine capable dans tous les domaines d\u2019activit\u00e9s intellectuelles de grandement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l\u2019une de ces activit\u00e9s intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une explosion d\u2019intelligence, et l\u2019intelligence humaine serait tr\u00e8s vite d\u00e9pass\u00e9e. Ainsi, l\u2019invention de la premi\u00e8re machine supra-intelligente est la derni\u00e8re invention que l\u2019homme ait besoin de r\u00e9aliser. \u00bb<\/em> Vernor Vinge a commenc\u00e9 \u00e0 parler de la singularit\u00e9 dans les ann\u00e9es 1980, et a formul\u00e9 ses id\u00e9es dans un premier article paru en 1993 intitul\u00e9 \u00ab Technological Singularity \u00bb. Il y posait l\u2019hypoth\u00e8se que dans un d\u00e9lai de trente ans, l\u2019humanit\u00e9 aurait les moyens de cr\u00e9er une intelligence surhumaine mettant un terme \u00e0 l\u2019\u00e8re humaine.<\/span><\/p>\n

4. Cf. Vernor Vinge, The Coming Technological Singularity. How to survive in the post-human era<\/em><\/a> (1993).
\n<\/span><\/p>\n

5. Les pr\u00e9dictions du futurologue [Kurzweil] peuvent \u00eatre rappel\u00e9es. Les ordinateurs atteindront une capacit\u00e9 de traitement comparable au cerveau humain en 2020. En 2022 les \u00c9tats-Unis et l\u2019Europe adopteront des lois r\u00e8glementant les relations entre les humains et le robot, l\u2019activit\u00e9 des robots, leurs droits, leurs devoirs et autres restrictions seront fixes. En 2031, l\u2019impression des organes humains par des imprimantes 3D sera possible. La circulation de v\u00e9hicules autonomes sur les routes devient la norme en 2033. Immortalit\u00e9 de l\u2019homme en 2042 et, enfin, la singularit\u00e9 en 2045.<\/span><\/p>\n