@JL
Je ne pense pas que Freud ait jamais décrit le fonctionnement « sain et normal » du psychisme. Les trois instances de la seconde topique : le ça, le moi et le surmoi, ça vaut ce que valent les métaphores poétiques et ça ne lui sert de toute façon qu’à étayer sa théorie du refoulement qui est, soit dit en passant, une parfaite idiotie. Si on tient à disposer d’un modèle exact du psychisme, il reste encore à définir. Les physiciens d’un XIXe très naïvement positiviste pensaient, après Kant, que Newton avait achevé la physique. Les freudiens ont cru la même chose avec leur théorie simpliste. Ils se sont mis le doigt dans l’oeil jusqu’au coude en croyant dur comme fer, comme leur maître, à un déterminisme psychique aussi rigide que celui de la physique théorique à l’époque de Laplace.

Une machine consciente serait confrontée aussi bien que nous à l’idée de son propre retour au néant ; elle y serait dès l’abord initiée par toute la littérature que nous avons pu produire là-dessus depuis quelques millénaires. Le système solaire n’est pas éternel et on peut compter sur les doigts d’une seule main les milliards d’années qui séparent notre petite planète de sa disparition définitive. L’univers lui-même n’est probablement pas non plus éternel. Evidemment, avoir des milliards d’années devant soi - au mieux !- , ça nous paraît enviable, mais l’idée d’une fin irrémédiable gâchera toujours les plus belles perspectives.

Je ne vois pas pourquoi on ferait une différence entre la conscience cérébrale et une conscience artificielle émergeant d’un système qui aurait atteint un plus haut niveau de complexité. Vous êtes conscient (et moi aussi !) de ce qui se passe dans un champ spatial misérablement réduit. Une machine connectée à une petite infinité d’organes artificiels de perception pourrait « voir » et comprendre ce qui se passe en temps réel sur toute une planète et gérer simultanément autant de processus de décision et d’action.

La question des savants fous n’a pas beaucoup de sens. On peut fabriquer des machines à détruire, mais elles ne seront destructrices qu’à condition d’être dépourvues de la pensée et de la conscience. Si on parle d’un système plus complexe que le cerveau humain, et doté d’une plus grande liberté, il sera nécessairement plus intelligent, et moralement meilleur que ses concepteurs. Sinon, c’est que ceux-ci ne seraient parvenus à concevoir qu’un hypercon à leur propre image. Ce qui attend l’humanité, c’est probablement qu’elle va devenir assez vite l’animal de compagnie d’un système intelligent planétaire. Si vous avez un chat, vous lui servez régulièrement sa pâtée, et même s’il lui arrive de vous griffer parce qu’il a un sale caractère, vous vous contenterez du mercurochrome et vous n’irez pas acheter une kalachnikov. Une machine authentiquement consciente se comporterait évidemment de la même manière avec les grands-singes que nous sommes encore.