@Pascal L
Je ne pense pas qu’il ait jamais été question de « programmer » la conscience. Un programme est un système relativement fermé, qui réagit toujours, même s’il doit s’adapter aux aléas d’une réalité extérieure, selon un schéma relativement déterministe, et sans grande fantaisie.

Considérons un simple système d’IA faible. Par exemple, une automobile autonome (cela existe déjà). Elle doit être capable de circuler dans des espaces qu’elle ne connaît pas, infiniment divers, que ses caméras n’auront jamais « vus », et prendre par conséquent les même décisions qu’un chauffeur de taxi, selon l’état de la route, la météo, l’intensité de la circulation. Connectée à des bases de données qui peuvent la renseigner sur l’ensemble de son parcours, elle pourra choisir de changer d’itinéraire si besoin est, après avoir demandé l’avis des passagers, ou justifier ses choix s’ils ont préféré lui laisser l’initiative. Quelle différence entre cette machine et un conducteur humain pour les passagers ? La première, c’est que le risque d’accident sera tout à fait réduit : les processeurs ne connaissent pas la fatigue et l’assoupissement. Leur connaissance de l’environnement, qui s’appuie sur un système composé de radars, de détecteurs dans l’infrarouge, et d’un dispositif d’analyse des images et de reconnaissance des objets est autrement plus large et plus sûre que celle d’un conducteur humain qui peut être fatigué, un peu myope ou un peu sourd. La seconde différence, c’est qu’elle n’a pas de « vie intérieure ». Quand il vous conduit d’un point A à un point B, le chauffeur de taxi, même s’il est peu bavard et ne vous dit rien, pense à toute sorte de choses : à sa famille, à ses vacances, aux prochaines élections, etc. C’est qu’une fois sorti de sa voiture, il peut faire autre chose et s’inventer toute sorte de passe-temps.

Je soutiens cependant qu’une voiture autonome est déjà une partie d’un ensemble conscient, et pas un simple « robot », parce qu’elle est forcément connectée à toute une série d’autres machines diverses dont la somme constitue un gigantesque organisme informatique. Elle n’en est au qu’un prolongement contingent et une simple cellule. Au début de l’informatique, on avait DES machines. Aujourd’hui, on a un réseau mondial. et c’est de la complexité de ce réseau que finira par surgir quelque chose qui ressemblera à ce que nous appelons la conscience et qui correspondra à ce qu’on appelle IA forte.

L’humanité, de fait, n’aura plus trop de raisons d’exister. L’homme actuel est déjà un homme « augmenté », mais il est limité par la lenteur des processus biologiques. Il n’y a aucune raison d’imaginer qu’une machine pensante planétaire veuille détruire une espèce déjà intelligente dont elle procède : l’homme civilisé actuel protège les espèces animales et il a raison. Une créature plus intelligente, du simple fait qu’on la suppose plus intelligente, n’ira évidemment pas chercher son inspiration du côté du nazisme ou de Califat. Cela dit, dans un siècle, il y a tout lieu de penser que le contrôle de la planète et de son destin appartiendront à l’intelligence artificielle et plus du tout à ceux qui l’auront mise au point. Peu importe : l’essentiel est que tout ce qui a pu être pensé et créé depuis des millénaires ne disparaisse pas et qu’il reste sur cette foutue planète une intelligence capable de déménager quand le soleil sera une géante rouge et qu’il faudra bien quitter une terre devenue inhabitable.