Expérience de la Chambre Chinoise :
On te place dans une pièce sombre, devant un bureau, avec une petite lampe, des feuilles de papiers, un crayon, et un glossaire chinois. Ce glossaire contient des règles du type : « si tu lis telle suite de caractères chinois, alors, derrière, répond telle suite de caractère chinois » Bien entendu, tu ne parles pas un mot de chinois.
La pièce est fermée par une porte avec une boite à lettre. Derrière la porte, se situe un chinois, à qui on demande d’écrire sur des feuilles de papier des phrases en chinois du type : « salut, comment ça ? » (disons en chinois : « ching chang chong »), qu’il glisse dans la boite au lettre.
Tu vas chercher la lettre dans la boite au lettre, tu l’ouvres : c’est écris en chinois, tu ne comprends rien. Tu prends ton glossaire qui t’indique : « si tu vois la phrase »ching chang chong« », écris sur une feuille de papier « chang choung chen ». Cela veut dire « je vais bien et toi ? », mais tu n’en sais rien. Tu ne comprends ni ce qui est écrit sur la feuille, ni ce que tu écris en réponse. Tu as juste appliqué les règles d’association de symbole.
Tu prends ta feuille de papier avec écrit « chang choung chen » (« je vais bien et toi ? »), tu la glisses dans la boite au lettre. le chinois la consulte et se dit : « super ! derrière la porte, il y a quelqu’un qui parle chinois ! » Pourtant, tu ne comprends rien au chinois, tu as juste appliquer des règles d’associations de symboles dépourvu de signification.
UN ORDINATEUR NE FAIT QUE ÇA, ET STRICTEMENT RIEN D’AUTRE. DES RÈGLES D’ASSOCIATIONS SUR DES 0 ET DES 1 NE PERMETTENT PAS DE FAIRE ÉMERGER DE LA SIGNIFICATION OU DE LA CONSCIENCE. LA CONSCIENCE, LA SIGNIFICATION, NE SE RÉSUME PAS À DES RÈGLES DE LANGAGE.