De la science-fiction à la science : le mythe de la singularité – Laurence FAVIER

Article inter­dit à la repro­duc­tion payante.

Introduction

J.-G. Ganascia (1955-)

Que les déve­lop­pe­ments de la science ins­pirent la science-fiction n’a rien de nou­veau. L’imaginaire que véhi­cule l’idée d’une intel­li­gence arti­fi­cielle s’épanouit depuis plus d’un demi-siècle au moins, navi­gant au gré des inno­va­tions intro­duites par les tech­no­lo­gies de l’information et les des trans­for­ma­tions qu’elles mettent en œuvre dans la science comme dans la vie quo­ti­dienne de cha­cun d’entre nous (au moins dans les pays riches). Que se passe-t-il donc pour que rap­ports et ouvrages sur l’intelligence arti­fi­cielle se suc­cèdent aujourd’hui sur ce thème ? Sans doute les retom­bées éco­no­miques atten­dues et les pro­blèmes éthiques qu’elles sou­lèvent y sont pour l’essentiel. Mais le plus éton­nant est que les scien­ti­fiques eux-mêmes (ou plu­tôt cer­tains d’entre eux) adhèrent aujourd’hui à l’idée d’un « évé­ne­ment bru­tal, immi­nent, majeur et pour­tant iné­luc­table qui va, paraît-il, bou­le­ver­ser le mode d’existence de l’homme du fait du déve­lop­pe­ment incon­trô­lable des tech­no­lo­gies contem­po­raines, en par­ti­cu­lier, des tech­no­lo­gies de l’information et de l’intelligence arti­fi­cielle […] », écrit Jean-Gabriel Ganascia, pro­fes­seur d’informatique à l’université Pierre et Marie Curie. Dans un ouvrage paru en 2017 [1], Ganascia exa­mine ce pas­sage de la science-fiction à la science, por­té non plus par des écri­vains, mais par des scien­ti­fiques, car « on ne peut pas, vu la légi­ti­mi­té intel­lec­tuelle et sociale de leurs auteurs, les reje­ter a prio­ri, sans un exa­men appro­fon­di » (pp. 20, 15).

Le concept de « singularité »

Toutes les théo­ries pro­phé­tiques sur les trans­for­ma­tions majeures et irré­ver­sibles aux­quelles nous nous condui­raient inévi­ta­ble­ment les pro­grès des tech­no­lo­gies de l’information décrivent l’acmé de ce mou­ve­ment évo­lu­tif par le concept de « sin­gu­la­ri­té » emprun­té aux mathé­ma­tiques pour décrire des chan­ge­ments sou­dains (points de rup­ture, de rebrous­se­ment ou bifur­ca­tions). Indissociable de cette « sin­gu­la­ri­té », la loi de Moore est invo­quée pour rendre compte de la crois­sance expo­nen­tielle des tech­no­lo­gies de l’information : « dou­ble­ment des per­for­mances, de la rapi­di­té ou de la capa­ci­té de sto­ckage d’information à un rythme équi­valent, dimi­nu­tion des coûts dans les mêmes pro­por­tions ». D’où la ques­tion : que seront les machines qui résultent de ce mou­ve­ment de pro­gres­sion constante ? Si cette loi a une uti­li­té pour pré­voir les inves­tis­se­ments infor­ma­tiques à court terme, elle ne peut être géné­ra­li­sée selon Ganascia. Penser l’évolution de la tech­no­lo­gie sur le mode de celui du cours de la nature, comme si l’induction par laquelle on déduit que le soleil se lève­ra demain pou­vait être appli­cable au rythme des inven­tions tech­niques, se heurte aux dis­con­ti­nui­tés que sup­posent même l’idée de sin­gu­la­ri­té : « la légi­ti­mi­té de la loi de Moore qui repose sur un axiome de régu­la­ri­té est contre­dite par l’idée même de Singularité qui découle de la per­pé­tua­tion de cette même loi ». S’il y a régu­la­ri­té, com­ment peut-il y avoir rup­ture et bou­le­ver­se­ment ? Outre ces objec­tions d’ordre logique, d’autres argu­ments viennent remettre en cause la vali­di­té indé­fi­nie de cette loi. Le pre­mier est celui des bar­rières phy­siques dont le trai­te­ment de l’information ne peut s’affranchir (bar­rières spatio-temporelles, quan­tiques et ther­mo­dy­na­miques), auquel s’ajoute celui des limites des tech­niques actuelles repo­sant sur le sili­cium et les semi-conducteurs pour fabri­quer des pro­ces­seurs. Or les maté­riaux nou­veaux qui per­met­traient d’envisager de pous­ser plus loin la minia­tu­ri­sa­tion condui­raient néces­sai­re­ment à un chan­ge­ment de para­digme au sens de Thomas Kuhn, c’est-à-dire à une façon radi­ca­le­ment autre de conce­voir des pro­ces­seurs. Par ailleurs, l’idée même d’une évo­lu­tion expo­nen­tielle par­ve­nant à une rup­ture majeure se heurte aus­si à l’observation de celle du monde, telle que nous la com­pre­nons par la paléon­to­lo­gie, où dis­pa­ri­tion et extinc­tion d’espèces conco­mi­tantes de chan­ge­ment dans les éco­sys­tèmes donnent une place à la contin­gence qui ne res­semble pas à une « pro­gres­sion vers un idéal de per­fec­tion ».

De plus, le « mythe de la sin­gu­la­ri­té » repose sur une concep­tion sim­pli­fiée de l’intelligence selon elle serait un ensemble de fonc­tions élé­men­taires repro­duc­tibles par un ordi­na­teur. Ses moteurs seraient donc la puis­sance de cal­cul et la capa­ci­té de sto­ckage. Cette sim­pli­fi­ca­tion de l’intelligence contre­dit la connais­sance que nous avons des nom­breuses facul­tés dif­fé­rentes qu’elle peut mobi­li­ser pour rendre pos­sibles des acti­vi­tés aus­si élé­men­taires que le cal­cul ou la lecture.

L’autonomie des machines

Le sens de ce pro­grès indé­fi­ni pen­sé selon la loi de Moore c’est l’autonomie des machines. Depuis Turing, on pense que cette auto­no­mie pour­rait être acquise par la capa­ci­té des machines à apprendre. L’apprentissage auto­ma­tique vise à « doter les machines d’une capa­ci­té à construire d’elles-mêmes des connais­sances et à les uti­li­ser pour se recon­fi­gu­rer en réécri­vant leurs propres pro­grammes. Il en résulte un accrois­se­ment impres­sion­nant de leurs per­for­mances dont nous tirons les béné­fices dans beau­coup de nos acti­vi­tés quo­ti­diennes (…) ». Différentes approches ont été explo­rées avec suc­cès. L’apprentissage auto­ma­tique cou­plé aujourd’hui à la masse de don­nées dis­po­nibles (Big Data) rend pos­sible cet accrois­se­ment des per­for­mances dont témoignent le logi­ciel de recon­nais­sance vocale Siri d’Apple, la voi­ture auto­nome de Google, et le suc­cès du pro­gramme d’AlphaGo qui a gagné au jeu de go contre le cham­pion du monde en mai 2017. Doit-on en déduire que les ordi­na­teurs se pas­se­ront bien­tôt de nous pour agir ?

Pour Ganascia, cette pos­si­bi­li­té est le signe d’un déra­page ris­qué autant que d’un pro­grès car « les ordi­na­teurs se repro­gram­mant d’eux-mêmes, sans qu’aucun être humain n’ait ni rédi­gé, ni relu, ni a for­tio­ri véri­fié les pro­grammes qui les animent ». Dès lors le com­por­te­ment de ces machines devient de plus en plus dif­fi­cile à anti­ci­per et « cette impré­vi­si­bi­li­té appa­raît neuve, parce qu’elle ne tient pas uni­que­ment à la dif­fi­cul­té que nous avons de pré­voir les réac­tions des machines dans la pré­ci­pi­ta­tion de l’action, du fait de leur rapi­di­té, mais au carac­tère inédit de leurs com­por­te­ments qui découlent de l’exécution de pro­grammes construits sur des don­nées qu’aucun homme n’a jamais exa­mi­nées ». L’inquiétude des lettres ouvertes publiées en 2015 par les cher­cheurs en intel­li­gence arti­fi­cielle est donc jus­ti­fiée [2].

La sin­gu­la­ri­té (en 2045) selon Ray Kurzweil, son concepteur

Agir plutôt que de fermer les yeux

Mais outre les risques, Ganascia conteste la pos­si­bi­li­té même d’ordinateurs pou­vant se per­fec­tion­ner indé­fi­ni­ment jusqu’à se pas­ser des hommes et acqué­rir, voire outre­pas­ser, leur auto­no­mie. Les machines ne par­viennent pas à modi­fier d’elles-mêmes le lan­gage dans lequel s’expriment les obser­va­tions qui ali­mentent leurs méca­nismes d’apprentissage. En d’autres termes, elles ne peuvent être inven­tives et la per­for­mance éton­nante des appli­ca­tions issues des algo­rithmes d’apprentissage sur de grandes masses de don­nées ne tient pas à leur créativité.

Cette « fable extra­va­gante » construite par le récit de la sin­gu­la­ri­té est pour l’auteur un « détour­ne­ment d’attention ». L’enjeu pour les acteurs indus­triels majeurs des hautes tech­no­lo­gies n’est pas seule­ment éco­no­mique : « il est aus­si, et même avant tout, poli­tique ». Ces acteurs défient les États consti­tués : « les attri­bu­tions tra­di­tion­nelles des États s’amenuisent, gri­gno­tées chaque jour davan­tage par l’appétit de ces grands groupes indus­triels, sans que per­sonne ne s’y oppose ». C’est fina­le­ment un appel à l’action que reven­dique l’auteur du Mythe de la Singularité : agis­sons plu­tôt que de fer­mer les yeux. Agir, cela veut dire ne pas se lais­ser dépos­sé­der de notre capa­ci­té d’action poli­tique, celle de construire par nos choix la socié­té que nous vou­lons, celle de défendre l’intérêt géné­ral contre celui de quelques-uns, de moins en moins nom­breux, qui déci­de­raient pour nous. L’évolution tech­no­lo­gique par­ti­cipe donc à sa manière à la construc­tion de rap­ports de force de plus en plus inéga­li­taires, sauf si nous nous en sai­sis­sons comme d’un ins­tru­ment au ser­vice de tous, comme l’ont rap­pe­lé les deux lettres ouvertes de 2015 (op. cit.).

Notes :

1. Le Mythe de la Singularité. Faut-il craindre l’intelligence arti­fi­cielle ?, Seuil, 2017.

2. https://futureoflife.org/ai-open-letter/ ; https://futureoflife.org/open-letter-autonomous-weapons/

Voir dans la Web-revue sur le trans­hu­ma­nisme : Actualités #28, février 2015. Sur l’intelligence arti­fi­cielle, Actualités #33, juillet-août 2015, et Actualités #53, mai 2017.

Annexe : Pour une intelligence artificielle maîtrisée, utile et démystifiée [1]

Vernor Vinge (1944-)

La rup­ture dite de la « sin­gu­la­ri­té tech­no­lo­gique » appe­lée aus­si sim­ple­ment sin­gu­la­ri­té [2], est le nom que des écri­vains et des cher­cheurs en intel­li­gence arti­fi­cielle ont don­né au pas­sage de l’IA faible à l’IA forte [3].

La sin­gu­la­ri­té repré­sente un tour­nant hypo­thé­tique supé­rieur dans l’évolution tech­no­lo­gique, dont l’intelligence arti­fi­cielle serait le res­sort prin­ci­pal. [L’auteur de science-fiction, et uni­ver­si­taire] Vernor Vinge a rédi­gé un essai remar­qué à ce sujet en 1993 [4].

De nom­breuses œuvres de science-fiction ont décrit ce tour­nant, qui a été une source d’inspiration très riche pour le ciné­ma. Les films Terminator, Matrix, Transcendance sont des exemples de la « sin­gu­la­ri­té tech­no­lo­gique », qui est donc bien plus qu’une simple hos­ti­li­té de l’intelligence arti­fi­cielle, éga­le­ment sou­vent au cœur de l’intrigue des œuvres de science-fiction.

Ray Kurzweil (1948-)

Les pro­grès en matière d’intelligence arti­fi­cielle, en par­ti­cu­lier avec le deep lear­ning, sont par­fois inter­pré­tés comme de bons augures de la sin­gu­la­ri­té, mais rien ne per­met de garan­tir la capa­ci­té à créer au cours des pro­chaines décen­nies une super-intelligence dépas­sant l’ensemble des capa­ci­tés humaines. Par exemple, en s’appuyant sur la loi de Moore, Ray Kurzweil pré­dit que les machines riva­li­sant avec l’intelligence humaine arri­ve­ront d’ici à 2020 et qu’elles le dépas­se­ront en 2045 [5]. D’après Raja Chatila, direc­teur de recherche à l’Institut des sys­tèmes intel­li­gents et de robo­tiques (Isir), nous en sommes, aujourd’hui, encore loin car « pour être intel­li­gente comme un humain, une machine devra d’abord avoir la per­cep­tion d’elle-même, res­sen­tir son envi­ron­ne­ment, trai­ter des infor­ma­tions a flux conti­nu et en tirer du sens pour ensuite agir […]. Ce n’est pas la tech­nique qui fait défaut a la machine, mais le sens de ses actions, et l’intégration de la notion de concept ».

Notes de l’annexe

1. Extrait du rap­port de l’Office par­le­men­taire d’évaluation des choix scien­ti­fiques et tech­no­lo­giques du 15 mars 2017 par M. Claude De Ganay [LR], dépu­té, et Mme Dominique Gillot [PS], séna­trice (p. 195-196). https://www.senat.fr/rap/r16-464-1/r16-464-1_mono.html

2. En gras dans le rapport.

3. Des 1965, Irving John Good a décrit, en pré­cur­seur, la sin­gu­la­ri­té, mais sans la nom­mer et ce, de la manière sui­vante : « Mettons qu’une machine supra-intelligente soit une machine capable dans tous les domaines d’activités intel­lec­tuelles de gran­de­ment sur­pas­ser un humain, aus­si brillant soit-il. Comme la concep­tion de telles machines est l’une de ces acti­vi­tés intel­lec­tuelles, une machine supra-intelligente pour­rait conce­voir des machines encore meilleures ; il y aurait alors sans conteste une explo­sion d’intelligence, et l’intelligence humaine serait très vite dépas­sée. Ainsi, l’invention de la pre­mière machine supra-intelligente est la der­nière inven­tion que l’homme ait besoin de réa­li­ser. » Vernor Vinge a com­men­cé à par­ler de la sin­gu­la­ri­té dans les années 1980, et a for­mu­lé ses idées dans un pre­mier article paru en 1993 inti­tu­lé « Technological Singularity ». Il y posait l’hypothèse que dans un délai de trente ans, l’humanité aurait les moyens de créer une intel­li­gence sur­hu­maine met­tant un terme à l’ère humaine.

4. Cf. Vernor Vinge, The Coming Technological Singularity. How to sur­vive in the post-human era (1993).

5. Les pré­dic­tions du futu­ro­logue [Kurzweil] peuvent être rap­pe­lées. Les ordi­na­teurs attein­dront une capa­ci­té de trai­te­ment com­pa­rable au cer­veau humain en 2020. En 2022 les États-Unis et l’Europe adop­te­ront des lois règle­men­tant les rela­tions entre les humains et le robot, l’activité des robots, leurs droits, leurs devoirs et autres res­tric­tions seront fixes. En 2031, l’impression des organes humains par des impri­mantes 3D sera pos­sible. La cir­cu­la­tion de véhi­cules auto­nomes sur les routes devient la norme en 2033. Immortalité de l’homme en 2042 et, enfin, la sin­gu­la­ri­té en 2045.

FAVIER Laurence, « De la science-fiction à la science : le mythe de la sin­gu­la­ri­té – Laurence FAVIER », Articles [En ligne], Web-revue des indus­tries cultu­relles et numé­riques, 2018, mis en ligne le 1er mars 2018. URL : https://industrie-culturelle.fr/industrie-culturelle/science-fiction-science-mythe-singularite-laurence-favier/

Laurence Favier

Professeure à l’université de Lille en information-communication à l’université de Lille 3, et membre du labo­ra­toire GERICO. Spécialiste des réper­cus­sions sociales et poli­tiques des tech­no­lo­gies numé­riques, elle est l’auteure de nom­breux articles scientifiques.