Etienne Parizot

Vous avez bien raison ! Pour quoi faire ? Je n’ai pas d’opinion claire là-dessus. Je considère personnellement l’être humain comme un joyau inestimable dans l’univers, et je ne saurais souhaiter rien de « mieux » ou de « plus » que l’évolution des hommes-animaux que nous sommes vers des êtres humains à part entière, au sens où peut le rêver l’humanisme universel. Je ne vois aucune utilité à la « production » de telles machines (pas plus qu’à celle des OGMs, pour prendre un exemple d’actualité). Et votre exemple est bien choisi : nous ne savons déjà pas élever nos enfants, et nous ne savons d’ailleurs pas nous élever nous même ! Il est infiniment plus urgent de faire de l’homme semi-endormi un être humain pleinement, que de faire émerger des « machines conscientes ». Seulement voilà, « des gens » ont fait des OGMs (plutôt que d’assénir les modes de production humains et les modes d’organisation économique à l’échelle mondiale), et « des gens » travaillent sur l’intelligence artificielle. Ils ont raison, d’ailleurs, car on ne saurait nier que le domaine soit intéressant du point de vue de la connaissance, ni qu’il y ait mille choses à apprendre autour de ces efforts. Mais la n’était pas la question. Je m’étonnais simplement — pour m’en inquiéter — de la légèreté avec laquelle les « penseurs » en général considéraient cette question. Il y a probablement là un a priori philosophique caché, mais je pense qu’il ne resiste pas à l’analyse et qu’il est donc utile d’affronter la question de manière ouverte et, peut-être, renouvelée...

Merci Yaarg pour vos commentaires. Vous avez raison : la proposition selon laquelle « Ce quelque chose peut tout aussi bien, en principe, »s’incarner« dans un autre support présentant les mêmes caractéristiques physiques ou physico-chimiques » est une supposition. Mais j’ai bien précisé « en principe », c’est-à-dire « à moins qu’un élément nouveau soit apporté permettant de conclure à l’impossibilité d’une telle chose ». Pour la qualifier de manière convaincante de fantasme ou de rêve, il faudrait que vous nous disiez ce qui peut, ne serait-ce qu’en principe, interdire sa réalisation. Je ne recherche même pas une objection réaliste ou démontrable : seulement un angle d’attaque qui me permettrait d’entrevoir une brèche et de réaliser que, même si telle objection particulière peut être rejetée, une autre pourrait convenir.

Votre argument consiste à dire que « si la conscience (à supposer qu’elle soit immatérielle, sinon, bien sûr, la question est beaucoup plus simple) pouvait s’incarner ailleurs que chez un être humain, ça se saurait ». Mais je vois là essentiellement une supposition sans fondement. D’abord, rien ne vous dit que les éléments matériels sont réunis ailleurs que chez l’homme (complexité ne suffit manifestement pas : encore faut-il, semble-t-il, qu’elle soit organisée de façon adéquate). Mais surtout, je pense, rien ne vous dit que ce n’est pas déjà le cas ! Personnellement, j’incline très largement à penser que la conscience animale, au moins à un certain degré, est une réalité. (Mais c’est sans doute un autre débat...).

Quoi qu’il en soit, à nouveau, vous prétendez identifier une différence nette entre machine et homme (nous parlons du support physique, n’est-ce pas ?), mais je pense qu’elle est illusoire — du moins celle que vous proposez. Si vous avez en tête un modèle de machine qui est en fait un ordinateur classique, alors oui, vous pouvez la débrancher sans la détruire. (Notez tout de même que vous pourrez sérieusement l’endommager si vous l’interrompez dans certains conditions, au moins qu’il vous faudrait la réinitialiser...) Mais pour d’autres modèles dans lequels, par exemple, l’interaction permanente avec un environnement est crucial, ce pourrait facilement être faux. En tout état de cause, l’argument fonctionne ici « à l’envers », si l’on peut dire, puisqu’il suffit de programmer la machine pour se détruire quand on la débranche pour vous fournir un contre-exemple. C’est idiot, bien sûr, mais ça montre que votre argument n’est pas pertinent (du moins il me semble).

Enfin — mais ce n’est pas non plus un argument, bien sûr (c’est juste pour rêver un peu, c’est le cas de le dire) — on pourrait considérer qu’un homme qui dort est « débranché ». Au réveil, il « fonctionne » comme la veille 

Mais sur le fond, je ne vois toujours pas sur quoi vous vous basez pour dire que « intelligence et conscience sont des mots [...] complètement inapplicables à une machine », ou qu’il s’agit d’un « délire de science fiction » (de telles affirmations se sont si souvent révélées fausses par le passé !). Quel est votre présupposé, ou quelle votre opinion, en fait ? Dites-vous que la conscience n’est pas matérielle, mais que « quelque chose » l’empêche de s’incarner dans un assemblage matériel qui ne serait pas explicitement « biologique » ? Est-ce cela ? Comment définissez-vous ou délimitez-vous alors les supports qui sont susceptibles de « recevoir la conscience », par rapport à ceux qui ne le peuvent pas ? Car c’est bien cela tout l’enjeu des recherches dont nous parlons ? Si c’est un aspect matériel, alors pourquoi serait-il impossible de le reproduire ? Si ce n’est pas le cas, alors nous devons conclure que, jusqu’à formulation d’un principe d’un autre ordre (ce que je n’ai encore vu nulle part — ni ici, ni ailleurs — mais je suis loin d’être « up to date » dans ce domaine...), il n’y a rien qui empêche d’envisager sérieusement l’apparation de machines consciences, pour peu que les conditions matérielles requises soient réunies. Pouvez-vous nous indiquer une piste ?

? ? ? Euh... c’est tout ? Ceci est possible. Cela ne l’est pas. S’agit-il d’une opinion ? D’un souhait ? D’un décret ? Auriez-vous un argument à nous proposer, pour étayer ces affirmations ? Merci d’avance...  ? ? ?

Cher Régis, vous avez raison en ce qui concerne la question stricte du calcul binaire, mais deux choses que vous dites ne sont plus vraies aujourd’hui. Vous dites d’abord : « Si l’on sait ce que l’on rentre et que l’on maîtrise le calcul (ce qui est a priori le cas), nous pouvons savoir ce qui sera en sortie. » Mais justement, on ne sait plus forcément ce qu’on « rentre ». Dans de nombreux cas, l’idée est justement de laisser les connexions entre « composants » (de type neuronal) se faire seules, compte tenu des résultats obtenus par la machine dans tel ou tel domaine ou des interactions avec l’environnement, de façon à laisser la « machine » évoluer vers un état qui non seulement n’a pas été prédéfini, mais qui est en outre inconnu du programmateur.

Par ailleurs, vous dites que « une machine ne peut qu’assembler des bits et en faire des combinaisons ». Ca non plus, ce n’est plus vrai. L’avénement des ordinateurs quantiques conduit précisément à un dépassement radical de la notion d’information classique, c’est-à-dire de bit. Le principe de ces ordinateurs quantiques est maintenant bien délimité et la réalisation d’un prototype apparaît chaque jour plus réaliste, à relativement brève échéance.

Mais d’une certaine façon, mon propos était moins technique que cela. Je notais simplement que, quelle que soit notre conception philosophique fondamentale, on ne pouvait pas réellement distinguer un corps biologique d’une construction matérielle, car c’est en une. Qu’il y ait un « quelque chose en plus » pour faire un homme conscient ne change rien à la question. Ce quelque chose peut tout aussi bien, en principe, « s’incarner » dans un autre support présentant les mêmes caractéristiques physiques ou physico-chimiques.

Vous dites « Une machine non biologique n’est capable que de calcul ». Je ne sais pas ce que vous entendez exactement par calcul, mais qu’est-ce qui serait selon vous différent dans le cas d’une machine biologique ? Ce quelque chose en plus ? Mais dans ce cas, il n’est pas matériel, et nous sommes ramenés au point de départ...

Cher Sylvain, vous dites : « La question est donc de savoir quelle position philosophique a le plus de chance de promouvoir le développement de recherches scientifiques et techniques significatives ».

Euh, je suis désolé, mais non. Si vous relisez le message original, vous verrez que ce n’est pas du tout la question posée, et qu’elle n’est pas non plus appelée directement par le sujet en cours. Votre question est légitime, bien sûr, et je serai ravi d’en discuter (d’autant plus que j’aimerais, je crois, la nuancer), mais je vous invite à publier un message spécifique, car vous conviendrez que cela est très différent du sujet proposé ici. Pour plus de clarté dans les « fils de discussion », merci donc de nous offrir l’occasion d’aborder ailleurs cette question qui vous tient à coeur.