la question n’est pas de savoir si le programme est prévisible. La question est de savoir si il est conscient.
La réponse est : la conscience n’est pas un calcul. Le cerveau n’est pas une calculette. Le lait n’est pas le produit d’un calcul. Le pis d’une vache n’est pas une calculette.
Ressentir une douleur : ce n’est pas faire « 2+2=4 donc 4+4=8 », c’est ressentir. Voir du rouge ce n’est pas faire : « 0001111 proviennent de l’unité x00ffa donc 111101111 », c’est voir.
Au passage, AUCUN ORDINATEUR aujourd’hui n’est capable de simuler l’ensemble du cerveau humain et de ses connexions neuronales. Il y a 10 puissance 15 synapses dans le cerveau, qui travaillent en parallèle (auxquelles il faut ajouter le circuit de cellules gliales qu’on vient tout juste de découvrir), qui n’échangent pas uniquement des informations comme dans une simulation de neurone artificielles, mais qui échangent aussi dans une véritable bouillie chimique faite de neuro-transmetteurs et d’hormones (qui en sont absolument pas simulé).
Bref, aucun ordinateur n’arrive à la cheville du cerveau humain en terme de complexité. La simulation des réseaux de neurones est une simplification à outrance du fonctionnement du cerveau, qui élimine tout ce qui n’est pas calcul. Quand bien-même on simulerait convenablement un seul cerveau humain, dans toute sa complexité chimique (et cela demanderait une puissance de calcul supérieur à tous les ordinateurs au monde réuni), cette simulation ne produirait pas de l’intelligence, de la conscience, pas plus que la simulation du pis d’une vache ne produira JAMAIS du lait.
L’esprit est matière chimique, réactions chimico-électriques, pas « information » éthérée.
Le calcul n’est qu’une toute petite partie de ce qui le constitue.