Ce que l’intelligence artificielle fera ensuite : onze prévisions – Ted GIOIA

L’original de ce billet, traduit par moi, a été posté sur le compte Substack de l’auteur, le 7 sept. 2024 (DB).

Avec chaque jour qui passe, les bots de l’intelligence artificielle (IA) et leur secte de vrais croyants deviennent plus bizarres et plus audacieux. Voici quelques faits récents :

* la bande-annonce du nouveau film (Megalopolis) de Francis Ford Coppola a été retirée, car un bot IA y a inséré de fausses citations.
* Une personne en Caroline du Nord a volé 10 millions de dollars de droits d’auteur en générant des chansons par IA, streamées plusieurs milliards de fois.
* Les promoteurs du National Novel Writing Month ont déclaré que l’opposition aux livres IA est « classiste » et « capacitiste ».
* Les enfants se servent régulièrement de l’IA pour faire des photographies nues des autres enfants.
* Pratiquement la moitié de l’équipe de sécurité à OpenAI a démissionné, sans grands remous.
* Le géant tech Nvidia a perdu 500 milliards de dollars en valeur boursière en deux jours, incluant la plus grande baisse quotidienne dans l’histoire du capitalisme.
* Par pure « coïncidence », le PDG de Nvidia a vendu 633 millions de dollars en actions dans les semaines précédant le krach.

Décidément, nous vivons dans une époque intéressante (pour reprendre la malédiction chinoise). Mais la situation va devenir encore plus intéressante, car la prochaine étape est déjà là : le lancement des agents intelligents.

Jusqu’ici, l’IA relevait du discours et non de la pratique. Les bots répondaient à nos questions et crachaient du texte. Ils étaient faciles à ignorer. Mais cela est en train de changer. Les agents intelligents se répandront et agiront sur le monde, voilà leur nouvelle mission. On a eu un aperçu de cet avenir fin août, quand Altera a annoncé qu’elle avait lâché mille agents intelligents (« êtres numériques » autonomes) sur un serveur Minecraft. Presque immédiatement, des choses étranges se produisaient. Dans la communauté des agents intelligents, le grand gagnant était un prêtre, qui a créé un culte gigantesque, en soudoyant les autres joueurs. Dans une autre simulation, les Démocrates et les Républicains ont livré combat à travers des constitutions concurrentes fondées sur l’idéologie (et non sur les droits).

Mais le pire est peut-être à venir. Dans une simulation antérieure, l’intelligence artificielle a montré une tendance inquiétante à résoudre des conflits par le recours aux armes nucléaires. La simulation Minecraft a aussi démontré comment les agents intelligents peuvent changer d’avis en un clin d’œil. Dans un cas, un agriculteur essentiel pour l’alimentation de tous décide spontanément de renoncer à son métier et de partir en voyage. Dans un autre, un village entier a cessé le travail à cause d’un seul bot manquant.

Pour l’instant, cela se passe dans des environnements expérimentaux. Mais bientôt, les agents intelligents agiront sur le monde réel, à un rythme auquel aucun d’entre nous ne sera préparé.

Voici mes onze prévisions (ou avertissements) :

1. Ce sont les gens qui possèdent l’IA qui constituent la plus grande menace.

J’entends toujours des prévisions insensées d’une prise de pouvoir par un superordinateur (comme HAL dans 2001). Mais l’avenir ne se passera pas ainsi. Le débat à propos de la menace posée par des ordinateurs surpuissants est à côté de la plaque. Bien entendu, la menace existe, mais elle vient des humains. La psychologie et la théorie des jeux sont plus pertinentes ici que le savoir tech. En fait, les gens de la tech sont peut-être les moins prêts pour ces changements, car ils pensent toujours en termes de codes et de logiciels, et non en termes de comportement humain.

2. Des centaines de gouvernements et d’entreprises sont déjà en concurrence pour la construction des empires IA.

Les gouvernements, les entreprises et d’autres (hackers, milliardaires, escrocs, etc.) auront tous leurs propres agents IA, aidés par des ordinateurs surpuissants qui draineront une part énorme des ressources énergétiques. On nous dit que les États-Unis sont en concurrence avec la Chine pour la maîtrise de l’IA, mais c’est une façon erronée d’aborder la question. Car bientôt, il y aura des milliers de stratégies en concurrence dans l’espace IA.

Agent intelligent

3. Prochainement, nous vivrons tous dans une zone de combat IA, car des agents intelligents en concurrence seront constamment en guerre pour la maîtrise de cet espace, avec nous en otages. 

On se souviendra avec nostalgie du temps où les bots ne faisaient que répondre à nos questions. Dans l’avenir, ils commenceront de présenter des demandes, ou de faire ce qu’ils veulent sans demander. Avec tant de programmes IA en conflit, les bots feront fatalement la guerre les uns contre les autres. Dès lors qu’ils posséderont le pouvoir d’agence, la guerre se déclenchera. Comme chez les pistoleros au Far West, ça se terminera en fusillade, peut-être même au sens propre. Essayez de ne pas en être un dommage collatéral.

4. Les entreprises lanceront des attaques furtives contre leurs propres fonds du talent.

Imaginez-vous que les studios de Hollywood vont virer les  acteurs et les actrices, ou que les labels de disques vont congédier les grands artistes ? Ou encore que les journaux vont se débarrasser de tous leurs journalistes ? Cela se produira, mais personne n’en parle pour l’instant. Aucun créatif travaillant pour une entreprise n’est en sécurité. Autrefois, les créatifs faisaient partie des actifs d’une entreprise, mais dans l’économie de l’IA, ce sont des passifs. L’attaque agressive par Adobe en 2024 contre ses propres photographes et graphistes (responsables historiquement de son succès) montre comment cette stratégie va se dérouler. Il y aura d’autres attaques de la sorte, avec des enjeux encore plus importants.

5. Les bots deviendront en réalité moins intelligents, en dépit des mille milliards de dollars d’investissements. Ces sommes ne font qu’accélérer leur dégradation.

Le déclin est déjà évident. Même OpenAI avoue que certaines tâches fonctionnent moins bien avec le dernier chatbot. On a déjà vu quelques signes troublants de « paresse » et de « stupidité » chez les bots, et des échecs « catastrophiques » sont de plus en plus fréquents. Il ne s’agit pas d’un défaut dans l’IA, mais d’une limitation dans les matériaux de formation. Les meilleures sources à cet égard ont déjà été épuisées (papiers scientifiques, littérature, modes d’emploi, etc.), et l’IA continue sa formation avec de « mauvaises » sources : les posts des particuliers sur Reddit et sur 4Chan, des tweets, des courriels, etc. Ce n’est pas le pire. Les spécialistes pensent que l’IA aura épuisé toutes les sources humaines de formation en 2026. À partir de cette date, l’IA apprendra des autres bots, menant à une massive dégradation de qualité. Autrement dit, l’IA se trouvera dans l’impasse, et face à une baisse de niveau sur une grande échelle, au moment où aucun domaine de la vie sociale n’y échappe. Inquiet ? Vous devriez l’être.

6. L’IA produira davantage de perturbation que de profits.

L’IA s’avère être un mauvais investissement. Même avant le krach récent, les fonds d’investissement en IA perdaient de l’argent. Les entreprises ont appris à quel point il est difficile de faire des profits de l’IA, et même de l’intégrer dans leur modèle commercial. Certains spécialistes craignent que d’éventuels bénéfices de l’IA ne soient jamais suffisants pour justifier les dépenses énormes. Cela dit, on continue de dépenser comme des matelots ivres en babioles de l’IA, malgré les déceptions. Les entreprises seront tellement désespérées de justifier les dépenses auprès des investisseurs qu’elles saisiront la moindre possibilité de faire des économies.

Ainsi, il y aura des projets de mise en œuvre qui ne tiennent pas debout, avec quantité de licenciements et de clients fâchés. La situation est comparable à un studio hollywoodien qui a produit une série de films mal reçus lors des projections tests, mais qui les sortent néanmoins tels quels. C’est ainsi que les entreprises voient ce genre d’investissement irrécupérable. Elles savent qu’il n’a pas de valeur, mais l’écoulent sur le marché quand même. Cette situation continuera pendant quelques années, alors que les entreprises cherchent désespérément à faire un retour sur investissement. La récompense future est incertaine, mais la douleur présente ne l’est pas.

7. Certaines catégories professionnelles profiteront de l’IA, mais non des travailleurs dans la tech, qui sont les plus vulnérables entre tous.

L’IA remplacera des emplois, mais les premières victimes seront des travailleurs du numérique, surtout les créateurs de logiciels. L’IA est très fiable pour écrire du code, car elle-même est un code. Plus un travail est à base de règles, plus il est probable qu’un bot finira par le faire. Mais l’IA est maladroite dans les zones grises où les compromis ne peuvent être quantifiés.

8. Les gagnants réels seront des penseurs holistes et des individus ouverts à autrui avec des compétences « humaines ».

Les choses les plus importantes de la vie ne peuvent être quantifiées ni numérisées : l’amour, les soins, la confiance, l’amitié, la compassion, la responsabilité, la famille, la gentillesse, le dévouement, la foi, l’espoir, le courage, l’humilité, le respect et la décence. L’IA ne peut livrer rien de cela. Au mieux, elle fait semblant. La prétention peut tromper quelques uns, mais elle semblera insultante à ceux qui savent mieux. Si vous cherchez ces qualités, et non un bot jouant un rôle, vous vous tournerez vers de vrais humains. Dans les cas où il faut faire des compromis entre ces facteurs intangibles, l’IA est non seulement peu fiable, mais réellement dangereuse.

9. Mais ces humains ouverts à autrui seront écrasés en nombre par l’IA malicieuse et trompeuse, qui prolifère actuellement.

La pollution de l’IA est partout : images fausses, articles faux, livres faux, artistes faux, vidéos fausses, sources fausses, citations fausses, infos fausses. Cette pollution est le résultat inévitable de la stratégie dominante de l’IA, qui est d’inonder le marché avec de la camelote artificielle. L’IA est le contraire de l’artisan, qui fabrique chaque objet individuel avec soin. Ainsi, les grands bénéficiaires de l’IA continueront d’être des escrocs, des spammeurs, des imposteurs et d’autres pourvoyeurs de fausseté, mais sur une plus grande échelle qu’actuellement.

10. Même quand l’IA peut remplacer des humains de façon adéquate, certains paieront plus pour avoir des travailleurs humains.

Cela deviendra un symbole du statut social. On peut mesurer ce que les consommateurs paieront pour quelque chose d’authentique. Même si « l’artificiel » est indifférenciable de « l’authentique », on préfèrerait cette dernière, intrinsèquement supérieure à la fausseté. Alors je m’attends à ce qu’accroîtra le statut social des consommateurs judicieux qui continueront de traiter avec des humains au lieu de l’IA.

11. L’IA créera une crise existentielle de proportions épiques, car toutes les divisions axiomatiques – entre réalité et illusion, entre vérité et mensonges, entre fait et contre-fait – s’effondreront.

Ce n’est pas une mince affaire. Les gens ont été avertis, mais ils ne peuvent imaginer à quel point la situation va s’empirer. Même leur propre réalité en tant qu’êtres humains sera attaquée. Prochainement, la preuve sera demandée qu’on est bien une personne humaine, et on sera obligé de créer des « mots de sécurité » pour ses amis et pour sa famille. La plupart des gens ne se soucient pas outre mesure de la différence entre vérité et fausseté. Ce qui compte pour eux, ce sont des résultats. Mais ils risquent d’être abasourdis par ce qui arrivera. Leur réalité empirique est sur le point de s’effondrer. Les prochaines années seront mouvementés ; il va falloir s’accrocher à notre sens du réel, l’ultime ressource rare.

Voir aussi dans la Web-revue :

1. https://industrie-culturelle.fr/industrie-culturelle/chatgpt-est-une-machine-dideologie-leif-weatherby/

2. https://industrie-culturelle.fr/industrie-culturelle/le-leviathan-et-la-cybernetique-alex-taek-gwang-lee/

Californien né en 1957, titulaire d’un MBA de Stanford Business School, Ted Gioia est critique et historien musical, spécialiste des musiques ethniques, et pianiste de jazz avec trois disques à son actif.

GIOIA, « Ce que l’intelligence artificielle fera ensuite : onze prévisions – Ted GIOIA», [en ligne], Web-revue des industries culturelles et numériques, 2024, mis en ligne le 1er octpbre 2024. URL : https://industrie-culturelle.fr/industrie-culturelle/ce-que-lintelligence-artificielle-fera-ensuite-onze-previsions-ted-gioia/

RETOUR HAUT DE PAGE

.

web mestre