Intelligence artificielle – Seconde partie

 

première partie

Seconde partie : Serons-nous toujours supérieurs aux machines intelligentes ?

Dans la première partie de ce texte, le conte de Blanche-Neige nous a permis d’aborder l’intelligence artificielle. Ensuite, un roman de science-fiction nous a conduits au transhumanisme. Rappelons que cette discipline cherche à améliorer la condition humaine en utilisant les découvertes scientifiques et technologiques, en particulier l’intelligence artificielle. De nos jours, des personnes très sérieuses travaillent à créer un être humain supérieur. Voici ce qu’en dit Wikipedia dans son article sur le transhumanisme : « Certains théoriciens, comme Raymond Kurzweil, considèrent que le rythme du changement technologique est en train de s’accélérer et que les cinquante prochaines années verront apparaître non seulement des avancées technologiques radicales, mais aussi une singularité technologique, un point d’inflexion qui changera la nature même de l’homme. La plupart des transhumanistes considèrent cette rupture comme désirable, mais mettent en garde contre les dangers inhérents à une accélération brutale du progrès technologique. Ainsi, ils jugent nécessaire la responsabilisation de tous les acteurs de ce progrès pour éviter toute dérive grave. » [1]

Toujours selon cette entrée de Wikipedia, la World Transhumanist Association a défini, sous l’impulsion de Max More et Tom Morrow, le transhumanisme comme : « 1. Le mouvement culturel et intellectuel qui affirme qu’il est possible et désirable d’améliorer fondamentalement la condition humaine par l’usage de la raison, en particulier en développant et diffusant largement les techniques visant à éliminer le vieillissement et à améliorer de manière significative les capacités intellectuelles, physiques et psychologiques de l’être humain. 2. L’étude des répercussions, des promesses et des dangers potentiels de techniques qui nous permettront de surpasser des contraintes inhérentes à la nature humaine ainsi que l’étude des problèmes éthiques que soulèvent l’élaboration et l’usage de telles techniques. » [2]

Si j’insiste autant sur le transhumanisme, c’est parce que beaucoup de transhumanistes pensent que l’avènement d’un être transhumain – ou posthumain – aura lieu dans la seconde moitié du 21^ème siècle (c’est-à-dire dans très peu de temps), en connectant notre cerveau à des machines intelligentes. Je le répète, les transhumanistes ne sont pas des hurluberlus et l’évolution qu’ils annoncent a de quoi nous faire frémir : « Pour le cybernéticien anglais Kevin Warwick, il y aura des gens implantés, hybrides, et ceux-ci domineront le monde. Les autres, qui ne le seront pas, ne seront pas plus utiles que nos vaches actuelles gardées au pré. […] Ceux qui décideront de rester humains et refuseront de s’améliorer auront un sérieux handicap. Ils constitueront une sous-espèce et formeront les chimpanzés du futur. » [3]

Tout ceci n’est pas de la science-fiction ! Déjà aujourd’hui, tout le monde interagit avec des machines intelligentes. On peut même dire qu’on leur est en partie soumis. Quand on roule dans une zone inconnue, on ne peut plus se passer du GPS. On connecte donc notre cerveau à de l’intelligence artificielle. En suivant ses indications pour nous orienter, on la considère comme plus savante que nous. Pareil  lorsqu’on travaille à notre ordinateur, tout le monde utilise un moteur de recherche pour trouver une information. L’usage de Google est devenu si courant que la langue a créé le néologisme “googeliser” comme synonyme de faire une recherche sur internet. Sommes-nous vraiment conscients, quand on “googelise”, de nous fier à des algorithmes d’intelligence artificielle ? De même quand on est branché à son smartphone (cela signifie d’ailleurs téléphone intelligent !), pour ne rien dire de Facebook et des autres réseaux sociaux. Tous les jours on va au delà des capacités de notre intelligence, de notre mémoire ou de nos sens en nous appuyant sur de l’intelligence artificielle. Elle a envahi notre vie.

Pensons par exemple au fait que le Brexit, comme l’élection de Trump, ont très probablement été rendus possibles grâce à Cambridge Analytica, une société spécialisée dans l’analyse des données personnelles. Grâce à ses algorithmes d’intelligence artificielle, Cambridge Analytica a pu aspirer les données de millions d’utilisateurs de Facebook, puis elle leur a envoyé des messages personnalisés les incitant à voter d’une certaine manière. En d’autres termes, des algorithmes d’intelligence artificielle sont capables d’influencer le destin d’un pays !

Les jeux vidéo, qui sont un autre exemple d’intelligence artificielle, méritent aussi une mention. Ils immergent le joueur dans un monde virtuel qui se substitue momentanément à la réalité psychique habituelle et fait oublier le rapport au monde extérieur (un film peut avoir le même effet, mais on ne peut pas intervenir dans sa trame !). Le monde virtuel du jeu est si prenant, pour les passionnés, qu’il est vécu comme on vit un rêve, mais un rêve qu’on peut enclencher quand on le veut. Je n’ai pas dit contrôler, parce qu’on croit pouvoir le faire, mais on risque à tout moment d’en perdre le contrôle. Effectivement, dès qu’on se sent en accord parfait avec le monde virtuel du jeu, on peut en devenir dépendant. A cause de la vulnérabilité de sa réalité psychique, le joueur est alors contrôlé par l’intelligence artificielle de la machine.

Ainsi, les algorithmes ont envahis notre vie et que nos cerveaux sont déjà connectés. Dans quelle mesure ces algorithmes ont-ils déjà changé les humains que nous sommes ?

  Une enquête a été faite dans un entrepôt d’un géant de la vente en ligne. Cet entrepôt est géré par un superordinateur doté d’intelligence artificielle et d’un système de synthèse vocale. Il n’y a qu’un seul employé humain. L’ordinateur parle et lui dit ce qu’il doit faire.  Cela me semble terrible que ce pauvre salarié ne puisse interagir qu’avec une machine, aussi intelligente soit-elle. Pire, il lui est soumis ! C’est la machine qui pense et l’homme qui exécute. Autrement dit, il y a eu un renversement à 180° du rapport homme-machine. Ce n’est plus l’être humain qui fait exécuter à la machine un travail trop lourd pour lui, c’est la machine qui fait exécuter ses volontés à l’humain ! Et voici le meilleur de l’histoire : qu’a répondu cet employé à l’intervieweur qui lui demandait comment il se sentait face à cet ordinateur ? Il a dit qu’il lui tient compagnie et qu’il se sent moins seul avec lui.

Je suis d’une génération qui a vécu les changements sociaux d’après mai 68. On disait alors que certains travailleurs étaient aliénés par des conditions de travail inhumaines. Les luttes de cette époque ont heureusement contraint les employeurs à mieux les traiter. Aujourd’hui, cependant, une autre sorte d’aliénation menace non seulement une partie des salariés, mais toute l’humanité : la soumission à l’intelligence artificielle ! A quel degré d’aliénation notre relation aux superordinateurs pourrait-elle nous amener ? Des spécialistes pensent qu’au delà de 2050 – donc dans une trentaine d’années, c’est-à-dire demain ! – les robots seront plus intelligents que les être humains. Une telle idée peut paraître absurde. Et pourtant !

Deep Blue, le robot d’IBM, créait une énorme surprise en 1997 lorsqu’il a battu aux échecs Kasparov, qui était champion du monde. Deep Blue pouvait évaluer 200 millions de positions à la seconde. Mais on s’est rassurés en se disant que Deep Blue était certes un calculateur hors pair, mais incapable de faire autre chose que calculer à la vitesse de l’éclair et de comparer les parties que ses concepteurs avaient mises dans sa mémoire. Ouf ! La suprématie de l’être humain était sauve ! Le meilleur ordinateur du monde ne pouvait rien inventer.

Moins de 20 ans plus tard, cela n’était plus vrai. En 2016, le superordinateur AlphaGo a battu le champion du monde de go, un jeu plus complexe que les échecs. Inventé semble-t-il il y a 2500 ans, le go est d’une complexité extrême, puisque le nombre de possibilités est pratiquement infini : il y en a 1 suivi de 170 zéros, c’est-à-dire plus que le nombre supposé d’atomes dans l’univers. Mais il y a mieux. Son coup gagnant, AlphaGo l’a inventé. Aucun être humain n’avait imaginé cette stratégie avant lui ! Finalement, AlphaGo a été récemment battu. Ouf, l’honneur de l’être humain est sauvé ! Eh bien non, la machine intelligente nous a encore plus humiliés. AlphaGo a été battu par son “fils” (je fais volontairement de l’anthropomorphisme). Ce fils est un superordinateur conçu sur la base d’AlphaGo, il est appelé AlphaGo Zero. Alors qu’un être humain doué met très long à maîtriser le jeu du go, AlphaGo Zéro a appris à jouer en 3 jours et il a atteint le niveau de meilleur joueur du monde en 40 jours seulement. Qu’est-il devenu ? Professeur bien sûr : les jeunes joueurs étudient ses parties pour apprendre .[4]

Il vaut la peine de savoir qu’AlphaGo Zero a été conçu par Deep Mind, une filiale de Google. Nous y voilà ! Ce seront probablement les géants du web qui modèleront le monde de demain, et peut-être l’être humain avec. Pour être plus précis, il y a un risque que les GAFAM (Google, Apple, Facebook, Amazon et Microsoft), alliés avec les sciences de l’information et de l’intelligence artificielle, que certains appellent NBIC (nanotechnologies, biotechnologies, informatique et cognitique) nous dominent totalement si les politiques laissent faire.

Ces affirmations sont exagérées ? Certainement. Mais un cri d’alarme doit être fort pour avoir une chance d’être entendu ! Voyons donc pourquoi une éventuelle bataille de l’intelligence entre l’être humain et les machines intelligentes risque de tourner à leur avantage. A moins que nous soyons déjà en train de la perdre ? En revenant à la réalité psychique de l’être humain, nous pourrons mieux saisir où se trouve le danger.

Le cerveau humain a au moins quatre points faibles qui nous mettraient en position d’infériorité face à l’intelligence artificielle. D’abord, nous pensons beaucoup plus lentement, et nous ne pouvons pas penser de plus en plus vite. Ensuite, nous faisons beaucoup d’erreurs. De plus, nous sommes souvent guidés, voire aveuglés par nos affects – nos émotions, nos sentiments – au lieu d’obéir à la rationalité. Enfin, notre pensée est constamment sous l’influence de notre inconscient.

Je donnerai deux exemples de ce dernier point. Le premier exemple concerne notre tendance à l’identification. On tend à entrer en rapport avec l’autre (humain, animal ou machine) en nous identifiant à lui quand nous sommes dominés par la peur, par l’amour ou par un sentiment d’infériorité. Or nous ne sommes pas conscients de nos identifications au moment où elles surviennent, car elles sont pilotées par notre inconscient. Imaginons le robot du futur. Nous risquons d’être fascinés par son intelligence et sa rapidité. On peut imaginer qu’il saura comment nous séduire. Nous allons lors nous identifier à lui et nous mettre à penser comme lui, mais en moins bien, puisque nous sommes lents et nous nous trompons facilement. Un philosophe comme Jean-Michel Besnier considère que celui qui est confronté tous les jours avec un robot se met à penser comme lui, en mode binaire, selon un système de stimulus/réponse [5]. Cela correspondrait à un appauvrissement de nos processus mentaux, qui sont plus efficaces quand nous pensons de manière associative. Or, la pensée associative risque de prendre trop de temps face à la vitesse des futurs robots.

Voici le second exemple. Notre inconscient nous pousse à établir des rapports de domination/soumission. On a hérité cela du stade anal et des rapports de rivalité lors de l’Œdipe, au stade phallique. Cela peut nous amener à croire que nous dominerons toujours les machines que nous fabriquerons, que nous leur serons définitivement supérieurs et qu’elles seront toujours à notre service. Quelle illusion narcissique ! Nous sommes déjà en partie dominés par des robots.

Comme la machine intelligente est toujours plus rapide que nous, elle nous oblige à être dans une position d’action/réaction, qui est à notre désavantage. Mais nous avons aussi des atouts dans notre jeu face aux machines intelligentes, il suffira de ne pas les gaspiller. J’y reviendrai. Restons pour le moment sur les dangers auxquels l’intelligence artificielle nous confronte, si nous n’exploitons pas les points forts de notre psychisme. Quand nous interagissons avec une machine intelligente, on doit réagir du tac au tac aux stimuli qu’elle nous envoie, en une sorte de mouvement réflexe, au lieu de penser l’action. Elle nous oblige à répondre à des signaux, qui ne sont que des stimuli, pas des signes ou des signifiants. Il suffit d’observer une personne jouer à un jeu vidéo, ça va vraiment très vite (je ne parle pas ici des jeux qui demandent réflexion). Il n’est pas possible de réfléchir au prochain coup, il faut envoyer des rafales. Au lieu d’élaborer mentalement, on utilise un système de réflexes que nous partageons avec les animaux. Cela crée un stress qui peut perturber le réseau neuronal du plaisir/déplaisir et induire une dépendance.

En généralisant, je dirais que nous devrions faire attention à ne pas nous laisser fasciner par la vitesse. Effectivement, la partie la plus élaborée de notre psychisme – c’est-à-dire la plus noble et la plus fragile – est faite pour répondre surtout à des signes, plus précisément à des signifiants. Et cela demande du temps. Pourquoi est-ce si important d’avoir le temps de déchiffrer les signes que nous recevons, et de pouvoir élaborer une réponse pensée ? Pourquoi est-ce  problématique de nous trouver répétitivement dans une situation de stimulus/réponse ? Parce qu’il y a un contenu psychique derrière le signe, il y a un signifié derrière le signifiant. L’être humain est fait pour répondre à des signes, ayant un sens apparent et un sens caché. Nous sommes tissés par de multiples réseaux de signifiants, c’est-à-dire de par des éléments de langage (articulé ou non) qui disent quelque chose de notre mémoire, de nos vécus, de notre histoire, de notre inconscient, de notre corps. Le signifiant trouve ainsi un écho dans le psychisme, il provoque des résonances dans les tréfonds de notre esprit. En d’autres termes, dans le contexte d’un langage fait de stimulus/réponses, les processus mentaux supérieurs (préconscients et conscients) perdent le contact avec de nombreux contenus psychiques, en particulier avec la mémoire de vécus personnels et familiaux. Il en résulte une perte d’efficacité des processus du préconscient et le moi s’affaiblit. En somme, le monde de l’intelligence artificielle fait problème parce que les stimulus/réponses, contrairement aux signifiants, ne sont pas reliés à un signifié qui aurait du sens pour nous. C’est l’exact opposé de ce qui se passe lors d’un travail analytique, où les associations créent de nombreux liens au niveau préconscient, ce qui renforce sa capacité à penser et ressentir. Cela a généralement pour conséquence de renforcer le moi, qui aura alors plus d’outils pour gérer les sollicitations internes et externes.

On le constate en particulier avec la technique des longues séances d’analyse comprenant l’étude de documents iconographiques. L’allongement de la séance  ouvre un grand espace au travail analytique : la personne en analyse dispose ainsi de tout le temps qu’il lui faut pour développer un discours signifiant et élaborer ses vécus. En comparaison du rythme effréné de la vie actuelle, la longue séance est une oasis où le temps se dilate. Cette dilatation du temps me paraît précieuse parce que notre monde va toujours plus vite. Certes, l’accélération du rythme de vie n’est pas véritablement récente. On pense qu’un changement pourrait être survenu dans la seconde moitié du 18^ème  siècle. Par exemple, la durée d’un voyage de Paris à Dijon a été divisée par deux en vingt ans, entre 1760 et 1780, passant de six jours à trois. Et cela sans invention majeure : on a économisé du temps uniquement en améliorant les véhicules, en diminuant le repos et en accélérant le changement des chevaux .[6] Si l’accélération du rythme de vie ne date pas d’hier, il s’est produit, au cours de la seconde moitié du 20^ème siècle, ce que les spécialistes appellent « la grande accélération », qui est contemporaine à l’avènement de l’ère digitale. Combien de temps pourrons-nous encore supporter la vitesse induite par l’intelligence artificielle ? Je laisse la question ouverte, mais il me paraît clair que cette vitesse défavorise la réalisation personnelle liée à l’élaboration mentale.

En somme, parallèlement à une indiscutable amélioration du niveau de vie, notre société semble conduire à une diminution de l’espace mental indispensable à l’élaboration des pensées, des affects et des vécus. Comment ne pas évoquer à ce propos le texte de Freud, Malaise dans la culture [7] ? Il y démontre qu’être civilisé, c’est dominer ses pulsions, pour retarder et dévier leur satisfaction. En d’autres termes, être évolué, c’est pouvoir insérer un processus d’élaboration psychique entre le désir et l’action qui le réalise. Or, je le répète, l’intelligence artificielle nous pousse à réagir par automatismes, sans beaucoup d’élaboration psychique.

J’ai évoqué le fait que nous disposons d’atouts pour interagir avec des machines intelligentes. Ils résident dans la structure de notre intelligence qui diffère beaucoup de la leur : nous avons une curiosité intellectuelle – héritée de la sublimation de nos pulsions infantiles – et nous sommes capables de penser de manière associative. Ce mode de penser permet de relier des choses qui semblent ne rien avoir en commun, mais qui ont un lien caché, enraciné dans l’infinité des contenus de l’inconscient. J’ai aussi dit qu’avoir un inconscient peut être une faiblesse au point de vue des opérations rationnelles et mathématiques dans lesquelles les superordinateurs excellent. Toutefois, nous avons aussi une supériorité sur l’intelligence artificielle : nous sommes créatifs. A propos, c’est justement la créativité humaine qui a permis de construire les ordinateurs et de les perfectionner en permanence.

Avec ma collègue Daniela Gariglio, nous avons indiqué dans notre livre Créativité bien-être. Mouvements créatifs en analyse [8] que la créativité implique un “processus d’élaboration recombinative”. En quoi consiste l’élaboration recombinative ? C’est une modélisation que nous avons faite pour expliquer certains processus mentaux inconscients présidant à la créativité. Plus précisément, il s’agit de l’élaboration mentale de contenus refoulés, libérés de l’attraction de l’inconscient, et qui se combinent avec d’autres informations psychiques (vécus, désirs, fonds culturel et social). Cet ensemble néoformé d’informations psychiques se relie à des traces laissées par des moments de bien-être vécus à différentes périodes de la vie. Cette liaison suscite une recombinaison de contenus mentaux qui finissent par constituer un objet mental original, que nous considérons comme la source d’une future activité créative.

Revenons à l’intelligence artificielle. Qu’advient-il de cette élaboration recombinative quand c’est le robot qui pense et l’homme qui exécute ? On pouvait concevoir que la créativité, donc l’élaboration recombinative, étaient l’apanage de l’être humain. Mais les coups géniaux d’AlphaGo et de son “fils” sont-ils le fruit d’une élaboration recombinative ? Peut-être bien que oui, car des robots créent déjà des peintures qui se vendent très cher. Certains disent que ce n’est pas vraiment de l’art, mais cela a aussi été dit de certaines créations humaines considérées aujourd’hui comme de grandes œuvres d’art ! Quoi qu’il en soit, la question mérite d’être posée : la créativité sera-t-elle toujours l’apanage de l’être humain ?

Il y a un autre aspect à prendre en compte, j’y ai déjà fait allusion : l’affectivité. Qui fabriquera les superordinateurs de demain ? Les firmes qui en auront les moyens. Probablement pas les états, mais les géants du web ! Et ils les concevront pour qu’ils engendrent du profit, pas pour être attendris par des sentiments ou paralysés par des émotions. Ils seront juste plus fonctionnels que nous. Car nous, au contraire, on n’est pas très fonctionnels, en particulier quand on est piégés par notre affectivité. Nos passions tendent à nous aveugler et à nous emporter. L’affectivité constitue une  richesse pour notre psychisme, mais elle entretient aussi une fragilité par rapport à la machine intelligente et elle peut même nous rendre vulnérables dans certaines situations. N’oublions pas que certains algorithmes savent lire nos émotions. Evidemment il n’y a pas de réciprocité ! Bien pratique pour nous vendre des objets inutiles !

Si des hybrides homme-machine sont produits, que seront-ils ? Incarneront-il les traits névrotiques de leurs inventeurs ? Auront-ils le sens des limites ou seront-ils guidés par des désirs de toute-puissance ? Acquerront-ils une pensée autonome ou seront-ils manipulés à distance par les concepteurs de leurs algorithmes ?

Imaginons que les futurs superordinateurs, beaucoup plus intelligents qu’AlphaGo Zero, comprennent que nous sommes en train de détruire la planète, à cause de nos passions et de notre inconséquence. S’ils sont vraiment si intelligents, il se pourrait qu’ils nous empêchent d’aller droit dans le mur. On peut imaginer qu’ils prennent le pouvoir et réduisent l’être humain à l’état de serviteur, voire d’esclave, pour le sauver de sa destructivité. Autrement dit, les machines intelligentes auront alors avec nous le même rapport que nous avons avec les animaux domestiques. Cela fait bien sûr penser au film La planète des singes, mais avec des robots à la place des singes.

Certes, tout cela peut sembler être des élucubrations alarmistes imprégnées de science-fiction. Si seulement il s’agissait de cela ! Elon Musk, le fondateur de Paypal et Tesla entre autres, dit que « les intelligences artificielles sont potentiellement plus dangereuses que les armes nucléaires » et que nous allons devenir leurs labradors [9].

Jaron Lanier, un des pères de la réalité virtuelle, a écrit en 2018, dans Ten Arguments for Deleting your Social Medias Accounts Right Now : « On ne compte plus les études aux Etats-Unis qui lient les réseaux sociaux aux suicides d’adolescents, par exemple, ou qui montrent que les gens sont moins heureux avec que sans ». À un journaliste qui s’entretient avec lui et qui hésite à fermer ou non son compte Twitter, il répond : « Vous ne pouvez pas lutter face à l’algorithme de Twitter qui est construit pour exciter vos émotions négatives et vous transformer en imbécile. C’est le meilleur moyen de vous rendre dépendant, ce sont les mêmes ressorts comportementaux que les machines à sous dans les casinos » [10].

Alors que faire pour minimiser les travers de l’intelligence artificielle, ou plutôt pour contrôler la manière dont elle est conçue et imposée au monde ?

Je ne proposerais pas une attitude passéiste et nostalgique. Pas question de revenir à l’époque du téléphone mural ou des cartes dépliables. Ce serait impossible. En tant que psychanalystes, psychiatres ou psychologues, nous ne pouvons pas lutter à armes égales contre les GAFAM et les NBIC. Nous n’aurons jamais leurs moyens financiers.  Mais on peut être des whistleblowers, des lanceurs d’alerte. On peut expliquer le danger qu’il y a à se laisser fasciner par les algorithmes de l’intelligence artificielle. On peut montrer que le bonheur qu’ils promettent est un leurre. On peut dire et répéter que notre réalité psychique, et surtout notre créativité, sont des biens inestimables. Ce serait vraiment dommage de les sacrifier en cédant au chant des sirènes, aussi intelligentes soient-elles.

© Daniel Lysek

Notes:

[1] https://fr.wikipedia.org/wiki/Transhumanisme

[2] Ibidem.

[3] Ibidem.

[4] https://www.lci.fr/high-tech/le-super-ordinateur-alphago-tombeur-du-champion-du-monde-du-jeu-de-go-a-son-tour-terrasse-2067790.html

[5] Besnier J.-M., L’homme simplifié, Paris, Fayard, 2012.

[6] Studeny C., La révolution des transports et l’accélération de la France (1779-1870), Presses Universitaires de Rennes, 2009.

[7] Freud S., Le malaise dans la culture (1930), OC, vol. 18, Paris, PUF, 1994, pp. 245-333.

[8] Lysek D. & Gariglio D., Créativité bien-être. Mouvements créatifs en analyse, Lausanne, l’Âge d’Homme, 2008.

[9]  Cité par Alexandre L. & Besnier J.-M. dans Les robots font-ils l’amour ? Paris, Dunod, 2017.

[10] Lanier J., Ten Arguments for Deleting your Social Medias Accounts Right Now, Vintage, 2018.