« e-Homo » : retour sur une anticipation

Sur le site armees.com, consacré aux questions militaires, on trouve, entre inquiétudes sur les possibilités de guerres atomiques, articles de généraux salivant à la pensée d’essaims de nano-robots combattants et l’inévitable rubrique « total forme », un article intitulé : « e-Homo : le nouvel homme du futur proche ». Il est signé par Alexandre Nariniani, de l’Institut d’intelligence artificielle de Russie. Je ne suis pas un grand familier des sites militaires, mais je dois avouer que cet article m’a beaucoup impressionné et que je me suis senti obligé d’y réagir.

Que dit-il ? En deux mots, quelque chose dont on entend beaucoup parler depuis déjà un certain temps : que la fusion entre l’être humain et les technologies de l’information (TI) va donner naissance à une nouvelle catégorie d’êtres que l’auteur appelle « e-Homo ». Ce n’est pas très nouveau, de nombreuses œuvres de science-fiction se sont essayées à dresser le portrait d’une telle créature avec plus ou moins de talent. Ce que je trouve nouveau dans cet article est son ton : on ne se situe pas dans le domaine de la fiction, mais dans le domaine de l’induction, assénée avec beaucoup d’autorité par un homme de science (je ne peux malheureusement lire le russe, aussi ne puis-je confirmer si cet homme existe réellement, le seul Alexandre Nariniani dont j’ai trouvé la trace sur internet est un spécialiste russe du bouddhisme).

À bien des égards, je suis d’accord avec son diagnostic, qui vient confirmer et élargir mes intuitions et mes peurs ; la mutation a déjà commencé, les interfaces homme-machine se développent. J’ajouterai à titre personnel qu’un vecteur privilégié de cette mutation est la médecine, selon un schéma dorénavant bien rodé : un cas « héroïque » (maladie, handicap...) justifie la mise au point de nouveaux médicaments ou d’une nouvelle technologie qui sera par la suite étendu à l’ensemble de la population. Le cas symbolique par excellence : le viagra, qui a été introduit pour pallier aux déficiences des hommes âgés et qui est aujourd’hui utilisé comme dopant sexuel par une population beaucoup plus large. On peut se demander ce qu’il adviendra des électrodes implantées dans le cerveau pour soigner les malades atteints de Parkinson ou pour permettre aux amputés de manipuler un curseur d’ordinateur directement depuis leur cerveau.

L’e-Homo : le surhomme, enfin ?

Mais ce ne sont là que balbutiements en comparaison de ce qui, selon A. Nariniani, nous attend :

« L’e-Homo » aura accès à toutes les informations et connaissances accumulées par l’humanité, aux technologies globales de calcul et de recherche, aux systèmes d’expertise dans tous les domaines pour faire des analyses, des évaluations, tirer des conclusions et faire des généralisations. En possédant le potentiel d’un individu moyen, cet homme nouveau pourra disposer d’autant de connaissances et de possibilités qu’un (ou même plusieurs) institut de recherche contemporain.
Des micro-robots à l’intérieur de l’organisme humain auront pour tâche de corriger de fond en comble son fonctionnement, d’optimiser le travail de chaque organe, voire de reconstruire l’ensemble du corps humain pour le rapprocher de l’idéal sans faire recours à de longs et fatigants exercices de bodybuilding. »

L’e-Homo est vraiment le rêve de la puissance qui aurait enfin accouché de son « idéal » : omniscience, immortalité et... ubiquité potentielle grâce à la dissolution des frontières entre réel et virtuel  :

« La réalité virtuelle s’impose : aujourd’hui déjà, en tournant un film, on peut représenter tout l’arrière-plan à l’aide de l’ordinateur et ce sera moins onéreux (et plus naturel en apparence) que d’organiser un tournage en extérieur. Attendons encore un peu, et les acteurs vivants seront aussi rarissimes et extraordinaires que l’étaient hier des dinosaures virtuels.
Il n’y a aucun doute que la culture de masse possède tout le nécessaire pour devenir le principal commanditaire de l’informatisation totale de cette sphère, c’est-à-dire, d’elle-même.

La virtualité empiète sur l’univers du toucher et des odeurs, dans la sphère des émotions. Dans l’avenir, il sera possible d’établir un contact direct avec votre proche (ou avec son imitation) à n’importe quelle distance. La nécessité d’une expérience directe se réduit au minimum. Un conducteur débutant pourra avoir ses premiers acquis en sillonnant une Moscou virtuelle dans des conditions qui diffèrent peu des conditions réelles. À l’exception de la possibilité d’avoir un vrai accident de la route.

Demain, une expérience réelle ne sera nécessaire que là où l’objet de l’étude n’est pas encore assez bien analysé pour pouvoir créer sa simulation électronique. »

Il est proprement grisant, pour un journaliste ou quiconque travaille dans la recherche, de lire pareilles perspectives de développement des capacités individuelles de traitement de l’information. Mais le prix à payer sera à la hauteur des bénéfices attendus, comme l’indique le paragraphe suivant :

« Ici, comme toujours, les limites entre l’influence exercée dans l’intérêt de la personne, de la société ou d’une « partie tierce » sont très conventionnelles et présentent des possibilités de manipulation de plus en plus larges.
Dans la civilisation électronique, on observe des éléments manifestes d’anti-utopie : la transformation de l’Homo en « e-Homo » rend la vie d’un membre de la société transparente dans presque tous les domaines, ce qui fait de l’individu un objet idéal d’influence psychologique ou morale visant à le retourner dans le sens voulu. »

Où les rêves de « transparence » de nombreux groupes contestataires prennent tout à coup des accents étranges... En parlant de contestation, il semble d’ailleurs que la tendance de ma génération à vouloir se réfugier dans la fonction publique pour échapper à la brutalité du marché du travail ne soit pas une très bonne idée : qui dit fonctionnaire dit fonction, et qui dit fonction, aujourd’hui, dit de plus en plus ordinateur :

« Le fonctionnaire ne survivra pas à cette transformation, devenant un élément virtuel d’une bureaucratie électronique, qui sera virtuelle elle aussi : même les bureaux des personnes habilitées à prendre et à concerter des décisions disparaîtront. Ceci est inévitable, car le volume et l’inefficacité de la bureaucratie s’accroissent à des rythmes fulgurants. Elle devient le problème numéro un pour une évolution stable et raisonnable de l’humanité. »

L’extension toujours croissante des domaines à réglementer du fait de la progression exponentielle des connaissances et des techniques corrobore ce qu’il dit. J. Rifkin évoque déjà ce remplacement des salariés par les ordinateurs dans « la fin du travail », bien que l’on puisse reprocher à cet ouvrage une vision trop statique des choses ; plutôt que l’apparition d’un chômage de masse né du remplacement du travail humain par celui des machines (en), il me semble plutôt que ce qui est à redouter, comme le travail et l’utilité restent les valeurs sociales largement majoritaires, est que tout ce qui est encore gratuit dans le monde humain devienne l’objet de relations marchandes. Par exemple, le monde anglo-saxon, en avance de ce point de vue, connaît à la fois une progression terrible de l’isolement individuel (en) et le développement tous azimuts de nouvelles professions du type « life coach » et autres « thérapeutes » ; la relation entre les deux me semble assez évidente. Une relation marchande est une relation fondée sur le contrôle de l’accès à un bien, et il n’y a potentiellement pas de limites au phénomène autres que la capacité de circonscrire et d’exploiter toujours davantage de « champs » (où l’on constate entre industrie pétrolière, agriculture et sociologie une homonymie qui ne doit rien au hasard).

Cette tendance vers toujours davantage de contrôle, consubstantielle au développement du système technicien, est d’ailleurs clairement envisagée par A. Nariani dans son introduction :

« [...]la dépendance croissante de « l’e-Homo » vis-à-vis de son milieu, allant jusqu’au contrôle total. »

Inutile de se projeter jusqu’en 2050, en effet, pour comprendre de quoi il est question ici. Je me souviens très bien de mon premier téléphone portable, il y a dix ans, et de cette angoissante question qui est née avec lui : sonnera-t-il ? Aurai-je la preuve physique, tangible, démontrable, d’avoir des amis ? Ce qui jusqu’alors pouvait être caché ou laissé de côté se voyait tout à coup révélé et affiché avec une précision d’horloger.

Si la dépendance n’était que de type psychologique, elle serait réversible : il est toujours possible, quoique douloureux si la dépendance est forte, d’éteindre son portable ou d’avoir assez de force de caractère pour ne pas se laisser dévorer par ses nouveaux amis numériques (ça n’est pas toujours évident, je crains d’être en train de perdre un ami pour cause de dissolution de celui-ci dans l’univers du jeu virtuel).

Mais elle est, de plus en plus, professionnelle : de nombreux travailleurs ne peuvent que très difficilement se passer des TI pour exercer leur activité ; je passe moi-même la moitié de mes journées devant un écran d’ordinateur pour cause professionnelle et aurais bien du mal à m’en passer sans changer de contexte (quitter la ville). Du reste, nombre d’entreprises offrent ainsi gentiment à leurs salariés des téléphones mobiles, histoire d’être sûres de pouvoir les joindre à tout moment.

Mais dans le cas du cœur de notre sujet, l’implantation de machines dans le corps humain, la dépendance est potentiellement totale, comme l’indiquent Nariniani et le Dr Patrick Barriot, un colonel spécialisé dans les questions de sécurité, qui traçait en annexe d’un article récapitulatif sur les nouvelles technologies l’évolution probable de l’interface homme-machine :

1. La machine restitue des aptitudes perdues ou détériorées
2. La machine améliore les capacités sensorielles ou cognitives
3. La pensée dirige la machine
4. Le cerveau communique avec la machine
5. La machine décrypte les pensées
6. La machine dirige le cerveau

L’on se situe actuellement entre les phases 3 et 4, la suite est encore de la science-fiction. Quoique (en)...

Évaluer les risques

Les auteurs de ces deux articles, qui s’accordent pour signaler l’existence de risques fondamentaux dans cette évolution (le contrôle total de la personne humaine par des dispositifs techniques), se bornent à souligner l’existence de ces risques, sans les détailler. Il faut pourtant le faire ! En gardant à l’esprit que de telles spéculations flirtent dangereusement avec le ridicule compte tenu de l’échelle des problèmes considérés. Je sollicite donc l’indulgence de mes lecteurs... et essaie tout de même.

Un premier point, culturel, concerne ce que je soulignais précédemment au sujet des privatisations successives permises par les progrès de l’exploration techno-scientifique et l’exploitation marchande de ses découvertes (un dicton du business : « once it’s measured, it’s done »). Dans la mesure où qui dit relation marchande dit relation de contrôle, on peut se demander ce qu’un sentiment comme la confiance, la paix intérieure qu’elle procure et la qualité de relation qu’elle permet pourraient devenir dans un monde où chacun sera obligé de contrôler l’intégralité de ses relations aux autres, en permanence. « En politique, tes meilleurs amis sont toujours tes pires ennemis... » (Harry Mullisch, À la découverte du ciel). C’est fondamental, au moins pour moi ; je me sens tout à fait incapable de vivre dans ce genre de société, à moins d’être anesthésié/drogué en permanence de façon à ne plus souffrir du manque de possibilités d’empathie. Je pense ne pas être le seul ; en fait, je pense même que la faculté de se relier « gratuitement » est à la base de toute société. Peut-être est-ce pour cette raison que la nôtre est jugée aussi sévèrement dans le texte de Rajagopal sur les vrais enjeux du « développement » et les ONG du Nord vues par le Sud. Il paraît que seuls les psychopathes sont capables d’avoir des comportements absolument rationnels : ils n’ont pas de conscience, que des intérêts. Cela dit, ce qui est considéré comme une pathologie aujourd’hui pourrait bien ne plus l’être demain et inversement. L’ennui d’être aujourd’hui attaché à des choses anciennes, c’est qu’elles disparaissent vite...

Un second point : les problèmes sanitaires posés par le voisinage de plus en plus étroit entre nos corps et les machines posent la question de la possibilité brute d’une cohabitation entre eux. La polémique qui enfle actuellement sur les effets des micro-ondes hertziennes (GSM, WI-FI et autres standards de la communication sans fil), de la pollution génétique et hormonale, etc. ne présage rien de bon. Pourrons-nous supporter nos implants, ou, à terme, faudra-t-il tout remplacer pour cause de dégénérescence des tissus intermédiaires ?

C’est que, au même titre qu’il est illusoire de parler d’identité strictement limitée à l’individu (nous sommes, corporellement, le fruit de l’interaction entre notre génome et son environnement, et, psychiquement, le fruit de notre insertion dans la culture humaine), il est illusoire de séparer le corps de l’environnement qui le fait vivre. Une différence essentielle entre l’Homo et l’e-Homo, au-delà de leur composition, réside dans le milieu qui permet leur existence. Nous avons avant tout besoin d’un milieu vivant, l’e-Homo a avant tout besoin d’un milieu technique, artificiel (au sens de : créé exclusivement par l’homme)... Les frontières entre le vivant et le non-vivant sont difficiles à tracer et souvent arbitraires, mais une définition revient : est vivant ce qui a la propriété de s’auto-entretenir et de se reproduire en fabriquant ses propres constituants à partir d’énergie et/ou à partir d’éléments extérieurs. J’ajouterais : dans la limite des connaissances actuelles, est vivant ce qui correspond à la définition précédente tout en appartenant à la biosphère terrestre. Notre e-Homo, totalement dépendant de ses producteurs pour la maintenance de ses organes de substitution, me paraît aux antipodes de cette définition puisqu’il ne fabrique pas lui-même ses propres composants. Il n’y a qu’à penser à la durée d’utilisation moyenne des téléphones portables pour comprendre à quelle fréquence il nous sera nécessaire d’aller racheter une oreille - pardon, un implant auriculaire. De plus, s’il est possible de faire survivre de façon autonome un certain temps - et parfois même un temps long - des machines en milieu non-vivant, comme des satellites sur la Lune ou Mars, les hommes n’y parviennent pas de manière autonome : trop d’éléments dont ils ont un besoin vital n’existent qu’au sein de la biosphère, ne serait-ce que les innombrables bactéries avec lesquelles nous vivons en symbiose et qui nous rendent d’innombrables services (sur la peau, dans le système digestif...), et doivent donc être importés de cette dernière.

Depuis que nous considérons que la Terre nous appartient au lieu de l’inverse, nos créations techniques ne cessent de dégrader un environnement dont pourtant nous ne pouvons nous passer, pas plus que nous ne le maîtrisons puisque nous sommes incapables de le dupliquer (cf l’échec du projet Biosphère II (photo)). Les nombreuses espèces que l’on continue de découvrir attestent de ce fait : non seulement nous détruisons, mais nous ignorons ce que nous détruisons. Mais, répondront Nariniani et tous les tenants du transhumanisme, quelle importance ? La technique nous promet enfin de dépasser nos limites corporelles, pourquoi s’interdire de le faire ? Se dépasser, progresser : une vieille lune pourtant ! Qui rappelle l’absurde et éternel combat entre l’épée et le bouclier. Aujourd’hui que l’épée est en mesure de détruire la planète pour de bon, pouvons-nous en tirer les conséquences adéquates ? Le pouvons-nous vraiment L’hypothèse la plus probable aujourd’hui est que même ceux qui ne s’y résoudront pas seront poussés à dépendre toujours davantage des machines puisque nous sommes de toute façon en train de détruire un milieu vivant dont nous ne sommes qu’un maillon et dont nous dépendons absolument sous notre forme actuelle. La vie est mouvement et évolution, la technique est clôture : deux élans de plus en plus contradictoires au fur et à mesure que la technique parfait et étend son emprise.

Ce que l’on considère en général comme indiscutablement humain, c’est la conscience de soi, ou représentation de sa propre existence. Ce n’est pas exclusivement humain non plus : on a pu constater l’existence d’un tel phénomène à l’état embryonnaire chez les grands singes anthropoïdes, la notion même de « propre de l’homme » n’est plus considérée sérieusement par les scientifiques (indépendamment de toute considération religieuse). Cette conscience de soi et du monde aboutit à ce que le psychanalyste et philosophe M.  Benasayag nomme joliment la « fragilité  », la perception à la fois de son existence et de la possibilité de sa non-existence. La conscience de la conscience, en quelque sorte. Cette perception de la fragilité des choses, de leur complexité, de leur mystère, de leur beauté... fait tout le sel de la vie humaine, au moins de la mienne. Pourtant, la forme, la nature, la composition, la structure de cette conscience sont l’objet de davantage de questions que de réponses : pour certains psychologues, notre conscience est divisée en conscience langagière et conscience pré-langagière, la première constituant une séparation d’avec la seconde. L’on pourrait ajouter à cela une conscience dite collective, sur le modèle de ce que proposent les psychogénéalogistes (voir à ce propos l’amusant Théorème du Singe)... D’innombrables oeuvres littéraires et philosophiques, et plus récemment scientifiques, traitent de la question : la réponse, et la possibilité même de cette réponse, restent un mystère.

À la question de savoir si cette conscience pourrait être indépendante du corps humain, il me semble que la seule possibilité qui puisse valider une telle hypothèse serait celle d’une conscience purement langagière - ou au moins basée sur un langage, sous forme de programmation - adossée à une puissance de calcul brute. Pensée étrange : notre langage - et ce qu’il permet - est ce qui nous différencie le plus des autres animaux, mais a-t-il encore un sens sans son soubassement animal non-verbal ? Peut-on même l’en séparer ? On ne cesse de découvrir l’importance des formes non verbales de communication : postures, mimiques, gestes, phéromones, coloration de la peau, taille des organes... Une conscience purement langagière serait donc la conscience non d’un corps humain, mais uniquement de l’hémisphère gauche du cerveau, siège supposé du langage et du raisonnement logique, couplée à des appareils de perception et d’émission. Il me semble qu’une composante majeure de notre conscience est absente de ce schéma : le temps. Nous sommes, humains, hantés par le spectre de notre finitude ; croissance, maturation, dépérissement, les trois âges de la vie sont notre lot commun ; ce temps vivant est à la fois cyclique et linéaire, une sorte de spirale... Alors que le dispositif de perception-communication que représente e-Homo ne fonctionne, comme toute machine, qu’au long d’un temps linéaire. Une « migration » de cette conscience du corps humain vers un dispositif technique suppose donc, en l’état des connaissances actuelles (pour autant que je puisse en juger), une perte, un assèchement.

Une autre approche de la « migration de la conscience » consiste à s’intéresser au désir, qui joue un rôle fondamental dans la psyché humaine. G. Deleuze et F. Guattari, dans leur livre L’Anti-Oedipe, parlent d’une structuration machinique de l’inconscient par l’intermédiaire du concept de « machine désirante » ; si ce qui produit le désir est machinique, alors il devrait être possible de reproduire sa structuration. Mais sa teneur, son sens (au sens de sa direction) ? Le désir se forme et s’articule en fonction d’une configuration spécifique, intégrant à la fois sa production immanente et l’objet vers lequel il tend et qui lui est apporté par son environnement (aussi bien naturel que culturel). À nouveau surgit cette question de l’environnement : si celui-ci diffère, alors le désir diffère évidemment aussi. Toute « migration », si « migration » il y a, implique donc une modification profonde de l’objet de désir.

La question d’une « nature humaine spécifique » essentielle et constante, que l’on pourrait du même coup transposer à notre convenance, me paraît ainsi nulle, non avenue et relever d’une forme de superstition ; parler de l’homme comme d’une entité individuelle se suffisant à elle-même n’a pas de sens (sauf pour la propagande publicitaire, mais c’est un autre sujet). Notre e-Homo n’aura de toute évidence ni les mêmes besoins ni les mêmes désirs ni la même conscience que nous. Lui restera-t-il, me restera-t-il, si je suis contraint d’évoluer sous cette forme, quelque chose de ce que j’aime dans ma vie actuelle : la beauté, la fragilité, la joie, l’amour, les illusions à perdre ? Cet e-Homo pourra-t-il encore comprendre ses ancêtres avant de les reléguer au musée ? Notre espèce, l’espèce humaine, pourra-t-elle lui survivre sous une forme purement biologique ?

On peut cependant, et je suppose que c’est ce qui est espéré, imaginer des solutions intermédiaires, comme ne conserver du corps humain que le système nerveux et entourer ce dernier d’artefacts techniques plus puissants que notre organisme actuel (ou au moins capables de résister à des conditions de vie plus dures), en attendant d’« améliorer » ce système nerveux de l’une ou l’autre manière. Peut-être y a-t-il moyen de trouver un modus vivendi entre le règne biologique et le règne technique, le fameux « développement durable » (pour le moment, une blague de très mauvais goût sous forme d’oxymore). Le défi est sans exemple : nous sommes la première société de l’histoire - corrigez-moi si c’est une bêtise - à tenter de s’auto-limiter... Mais, même dans le cas où l’on parviendrait à trouver un équilibre, peut-on réellement penser qu’un système nerveux relié en permanence à des dispositifs techniques et dépendant absolument d’eux pour sa survie pourrait maintenir un semblant d’autonomie ? Croire que ce système nerveux pourrait demain maîtriser son environnement technique revient à faire la même erreur que de croire que nous maîtrisons aujourd’hui notre environnement naturel : nous sommes en interaction avec lui, et il nous maîtrise tout autant que nous le maîtrisons. Pour preuve, les sueurs froides que chacun éprouve en constatant l’ampleur des dégâts que nous lui infligeons et de leurs conséquences... pour nous. La soumission aux lois de la nature n’a jamais été une partie de plaisir, inutile de tenter de dresser le portrait d’une nature généreuse, douce et désintéressée comme on la raconte aux petits enfants des villes. La nature est et reste un endroit aussi beau que dangereux. Mais à quoi bon quitter ce maître exigeant si le prix à payer est un esclavage définitif ? Il n’y a qu’à penser à l’esclavage psychique qu’entraîne la dépendance aux drogues et autres antidépresseurs pour avoir une idée de ce que peut être la dépendance technique...

Si « migration de la conscience » il y a, on peut d’ores et déjà affirmer un certain nombre de choses à son sujet :

- elle sera une modification profonde de ce qui est perçu, assèchement probable de la diversité des sensations contrebalancé par une montée en puissance de celles qui feront l’objet d’une médiation technique ;

- cette modification sera sans retour en arrière possible du fait de l’altération de l’environnement vivant qui aura été nécessaire à sa fabrication et à son maintien ;


- cette montée en puissance se fera au prix d’une dépendance considérablement accrue vis-à-vis du système technique ambiant dans lequel nous vivrons.

Assèchement et dépendance collective comme prix de la puissance individuelle : y gagnons-nous ? Une soumission aussi totale au système technicien nous rend-elle réellement plus puissants ?

Surtout : sortir de l’humanité pour se fondre dans la technique sera-t-il possible sans mourir pour de bon ? La question se pose au fur et à mesure que nous développons l’intelligence artificielle. Comme le dit très bien E. W. Dijkstra (en), «  La question de savoir si un ordinateur peut penser n’est pas plus intéressante que celle de savoir si un sous-marin peut nager  », autrement dit compter sur l’éventuelle empathie d’une intelligence artificielle - ou d’un e-Homo entièrement soumis à des impératifs techniques - pour nous préserver est commettre une lourde erreur, du même genre que celle consistant à prêter des sentiments humains à des animaux (l’exemple de Grizzly Man(en), ce militant de la cause animale américain tombé amoureux des grizzlis d’Alaska et dévoré par l’un d’entre eux est éclairant). Même dans le cas où nous parviendrions à reproduire les processus à l’œuvre dans le désir et la conscience sous une forme artificielle, pourrions-nous entrer en empathie avec le produit de notre travail et, surtout, réciproquement ? C’est le rêve esquissé dans le magnifique manga Ghost in the Shell où un programme d’espionnage et de manipulation politique, le projet 2501 (en), atteint ce stade de conscience de soi à force de collecter et recouper des informations. L’issue de la rencontre entre les êtres humains et le projet 2501 est pacifique... mais il pourrait en être autrement. Il s’agit-là d’un pari sur l’avenir, consistant à dire que la conscience résulte d’une puissance de calcul
- ou de formalisation - supérieure. Cela reste à prouver. Rien, aujourd’hui, ne permet d’affirmer qu’une conscience de soi compréhensible par les humains et pouvant comprendre ceux-ci pourrait exister au sein d’un environnement purement technique et donc garantir, sous une forme ou l’autre, la perpétuation de la spécificité humaine sous une forme non biologique... Au contraire.

« La nouvelle civilisation des "e-Homos" est trop proche pour classer cette question dans la catégorie de la science-fiction. Elle approche, on le sent déjà très bien aujourd’hui. Nous apportons nous-mêmes une contribution à sa formation. »

[...]

« Il n’est pire sourd que celui qui ne veut pas entendre. »

Cela vaut-il la peine de sacrifier la proie pour l’ombre ? Peut-on empêcher cela ?