Najat,

Si je vous ai parlé de la science-fiction, c’est pour vous dire qu’il convenait de ne pas en tenir compte parce qu’elle véhicule des fantasmes qui n’ont rien à voir avec une approche rationnelle des questions. La dialectique du maître et de l’esclave, par exemple, est bien celle qu’il convient d’écarter de toute urgence, tout aussi bien que les stupidités théoriques d’un Asimov.

Je vous ai parlé de ces questions touchant à l’avenir de la cybernétique et des nanotechnologies parce qu’elles nous obligent à considérer ce qui nous attend à plus ou moins long terme et à confronter les extrapolations raisonnables qu’on peut faire aux révélations apocalyptiques des religions qui ne sont évidemment pas de même nature. Ce n’était qu’une manière de déplacer un peu la question des fins dernières tout en restant dans notre discussion autour de la question des religions.

Il faut poser d’abord que ce qu’on appelle « intelligence artificielle » n’existe pas même si les machines sont capables, paradoxalement, de résoudre des problèmes mathématiques très complexes ou de nous battre aux échecs à plate couture. Il n’y a aucune machine existante avec qui je puisse converser comme je le ferais avec vous à propos de Racine ou de Bach. Si l’homme « est un être pour lequel il est dans son être question de son être », on ne peut dire cela d’aucune machine actuelle.

Mais qu’est-ce que c’est que la conscience ? Je ne peux pas dire que mes perruches qui viennent d’atterrir près de mon ordinateur et me regardent écrire avec un air penché en sont complètement dépourvues : elles me reconnaissent très bien ; quand je me promène dans la rue en regardant les arbres et les vitrines, je ne suis pas sûr d’être beaucoup plus conscient qu’elles ne le sont en ce moment. Il y a des degrés dans la conscience, et par ailleurs, je ne suis pas idiot au point d’être incapable de concevoir un niveau de conscience très supérieur à celui dont je suis capable et à la limite à laquelle je suis condamné.

Il semble que le développement de la conscience soit en raison directe de celui de l’encéphale, vous en conviendrez probablement, mais les échanges électro-chimiques dans notre cerveau ne diffèrent pas de ceux qu’on observe dans celui du hareng. C’est organisé autrement, il y a plus de neurones, les circuits sont plus complexes. Tout ce qu’on peut dire c’est qu’à partir d’un certain niveau de complexité, ça pense, et qu’une variation quantitative assez infime permet un saut qualitatif important.

C’est ce que les informaticiens appellent une émergence. On s’est aperçu que lorsqu’on faisait interagir des petits robots très simples, capables par exemple de jouer au football, on observait des types de comportements résultant de leurs interactions et qui n’étaient pas a priori prévisibles : le tout devient plus que la simple somme des parties.

Il y a donc tout lieu de supposer que dans une machine capable de simuler autant d’interactions qu’il s’en produit dans un cerveau humain – et même plus pendant qu’on y est
- , on observera quelque chose qui ressemble aussi à la conscience. Le problème est simplement technique : on ne sait toujours pas très bien synchroniser les échanges entre des processeurs qui fonctionnent en parallèle et là, ce ne sont pas trois ou quatre processeurs comme sur nos ordinateurs de bureau qu’il faudrait mettre en oeuvre, mais une quantité prodigieuse, leur très grande vitesse de calcul permettant quand même à un seul de prendre en charge le contrôle d’un grand nombre de neurones virtuels. On commence aussi à comprendre le fonctionnement du cerveau (voir le dialogue entre Changeux et Ricoeur) mais on n’en est qu’au début.

On n’en est donc plus depuis pas mal de temps à se demander si une machine pensante est concevable, ce qui était un faux problème, mais simplement à essayer de trouver les solutions techniques appropriées.

Vous pouvez par exemple lire le bouquin d’Alain Cardon, chercheur à Paris VI et professeur d’informatique, qui s’intitule : « Modéliser et concevoir une machine pensante. Approche de la conscience artificielle ». A bien des égards, son « approche » me paraît contestable en ce qu’il inclut dans son cahier des charges des fonctions qui permettraient d’implémenter toute sorte de sentiments humains -et très humains !-, comme par exemple la peur. Et pourquoi pas l’amour  ? Il me paraît très clair qu’une machine pensante dégagée des contraintes qui conditionnent notre existence n’aurait pas exactement la même conception que nous d’un réel qu’elle appréhenderait tout autrement.

Il faut donc se faire à cette idée qu’avant la fin du siècle, les machines penseront à peu près comme nous ; en tout cas, vous pourrez poser à Google ou à ce qui le remplacera des questions en langage naturel, du genre : « Le commerce des céréales en méditerranée, au IIe siècle, ça se passait comment ? ». Et au lieu de vous renvoyer à des pages internet, il vous fera une synthèse. Vous n’aurez même pas besoin d’écran : vous poserez la question en vous promenant dans la rue ou du fond de votre baignoire et il vous répondra comme un spécialiste à qui vous auriez téléphoné.

De cela on peut être à peu près certain. Le reste est affaire de littérature, mais il n’y a pas lieu de penser a priori, qu’une créature plus intelligente que l’homme puisse être encore au même degré animée par des pulsions aussi abominables que les siennes.

Au fond, s’il y a un jugement dernier, ce sera probablement celui des machines pensantes qui prendront inévitablement notre succession, mais à tout prendre, cela m’inquiète beaucoup moins que la sombre et divine brute de l’ancien testament !

PS- Je n’ai pas parlé des nanotechnologies. Elles sont au coeur de toutes ces questions : nous maîtrisons encore très mal la matière, les pattes des processeurs ont la largeur d’autoroutes où l’on se proposerait de faire circuler des fourmis. Quand les assembleurs d’atomes sur lesquels on travaille seront au point – c’est l’affaire de quelques années- on pourra organiser la matière atome par atome et réduire encore la taille des dispositifs électroniques. Tout cela, je le répète, n’a rien à voir avec la science-fiction.