La nature de l’intelligence

 Les questions de nature philosophique, comme celle de la nature de l’intelligence, donnent parfois l’impression d’être un peu vaines. Mais cette fois-ci, on peut s’interroger dans un but précis. J’avoue être parfois un peu naïf. Il m’arrive de croire que certaines questions n’ont pas à être abordée tant elles sont évidentes. Mais visiblement, à la lumière d’un nouveau mouvement intellectuel, je me trompais.

Certains semblent avoir développé une foi quasi religieuse envers la science. Ce qu’ils attendent de la science n’est ni rationnel, ni réfléchi et ne repose sur aucune connaissance, seulement sur une confiance aveugle. L’intelligence n’est pas un thème facile et la définir est presque impossible. Démontrer à quel point le sujet est complexe, si cela était encore nécessaire, serait une chose facile. Cette évidence ne semble pas être celle de tous.

Depuis quelque temps, sur la côte ouest des États-unis, une théorie fait son chemin dans les esprits. « Dans trente ans les réseaux d’ordinateurs dotés de systèmes d’intelligence artificielle seront devenu plus intelligents que leurs créateurs. Ils seront capables de se reproduire industriellement sans intervention humaine, de s’autoaméliorer, d’avoir des sentiments, de l’imagination, de faire des projets et de les mettre en œuvre. Bref, ils pourront gérer la planète plus rationnellement que nous. Ils prendront donc le pouvoir. »

Les adeptes de cette théorie appellent cela la singularité. Pour éviter que ceux-ci ne se débarrassent de nous ils comptent bien leur inculquer des valeurs humaines. Peut-être même que notre esprit pourrait être transféré dans ces ordinateurs nous faisant accéder à la vie éternelle. Si ce n’est pas de la foi.

Cette thèse est soutenue avec beaucoup de sérieux par le « Singularity institute » (http://singinst.org/) qui compte en son seins nombre d’esprit brillants, comme des mathématiciens, des informaticiens et un grand nombre de chercheurs.

Leur théorie suppose un certain nombre de faits. Premièrement, pour supposer qu’un ordinateur surpassera un esprit humain puisqu’il verrait sa capacité se multiplier par un milliard, il faut être capable de comparer l’un à l’autre. Si le fonctionnement d’un ordinateur est connu, celui du cerveau l’est nettement moins. Pour l’instant ce que nous savons de cet organe se résume à quelques substances chimiques influençant son activité et à une cartographie selon la fonction, mais nous n’y comprenons rien de plus ! Comment la conscience émerge de ce capharnaüm, nous n’en avons pas la moindre idée. Ce n’est pas que nous ne sachions pas grand chose, c’est que nous ne savons rien. Savoir où ça se passe et avec quoi, ce n’est pas savoir comment.

Peut être se sont-ils dit que l’évaluation des capacités humaines étaient une chose superflue étant donné le facteur de croissance impressionnant des capacités d’un ordinateur. Mais une émotion, qu’ils imaginent émerger d’une carte à puce, est elle l’effet d’une somme de calcul ? Nous ne savons rien non plus du processus menant à son apparition. Encore une fois nous ne sommes que spectateurs de l’activité du cerveau. Pour l’instant nulle émotion ne traverse nos PC. N’est il pas possible que cela fasse appel à un type de capacité que nous ne sommes pas en mesure de leur donner ? Il ne s’agit pas d’améliorer une capacité en partant de très bas, pour qu’un ordinateur ait une émotion il va falloir probablement lui donner de nouvelles capacités qu’il n’a pas, et là nous ne pouvons pas savoir quand nous en serons capables.

Par ailleurs cette réflexion peut s’étendre à toute l’intelligence. Est-ce qu’être doté d’une importante puissance de calcul fait de nous quelqu’un d’intelligent ?

L’intelligence est une mosaïque complexe de capacité plus ou moins harmonieusement répartie d’un individu à l’autre et difficilement évaluable avec précision à cause de la multitude de ses composants. Il est quasiment impossible de faire une liste exhaustive de ces composants en question, mais il me semble que chez un ordinateur cette liste est tout à fait faisable. Que vaut un calcul sans personne pour l’interpréter ? Comment se motiver à une action quelconque si l’on aime rien ? Car jusqu’à preuve du contraire, il sera difficile de doter un cerveau synthétique d’un centre du plaisir temps que nous ne sauront rien d’autre que c’est de « là » que nous vient le plaisir et il se déclenche sous telle ou telle condition.

Un autre paramètre de l’intelligence humaine est passé sous silence, ils en font pourtant largement usage en faisant appel aux réseaux informatiques et aussi scientifiques. L’homme est un animal social et en tant que tel il ne profite pas seulement de son propre raisonnement. Les tâches sont partagées, les progrès des uns permettent des progrès plus importants chez les autres ; les idées circulent et se construisent collectivement. A la manière d’une fourmilière, les capacités de la société humaine surpassent celle d’un individu isolé ou leur simple addition. Comment évaluer cette capacité là, qui s’accroît au fur et à mesure que nos sociétés tissent des réseaux entre elles et en elles. L’informatique n’est pas la seule à bénéficier de l’existence de réseaux pour augmenter ses capacités. Je ne pense pas que l’homme puisse être évalué si facilement...

Cette augmentation de capacité des réseaux informatiques peut elle résoudre beaucoup de nos problèmes, comme cela est avancé ? Je suis persuadé que nous en savons déjà assez pour agir et que nous serions déçus par toute analyse fournie par une intelligence supérieure. Ce dont nous manquons le plus pour mieux gérer notre planète, ce n’est pas d’informations, mais de volonté.

Si je devais me tromper ce serait une chose inquiétante. Car je peux me faire cette réflexion très simple, quand on est intelligent ont est capable de revoir ou de se créer de toute pièce ses propres valeurs. C’est être très naïf de croire qu’il est possible d’inculquer des valeurs à une intelligence supérieure. Elle n’a pas besoin de nous pour cela et sera tout à fait capable de les remettre en cause. Si je suppose que j’ai tort, je peut aussi supposer que l’intelligence est une chose simple et monochrome que nous pouvons multiplier. Si c’est le cas, je peux me permettre une comparaison. Si l’ordinateur devient supérieurement intelligent à l’homme au point que le rapport homme-levure soit comparable, quel sacrifice serait capable de consentir un tel être pour nous ? Les ressources étant par nature limitées, ne préférera-t-il pas la multiplication de ses semblables ou de ses capacités jusqu’au limites des ressources plutôt que notre conservation ? Et bien avant cela il existe tout une palette de possibilités. Mais j’avoue ne pas être inquiet, j’ai une confiance absolue en notre ignorance. 

En analysant bien la situation, on s’aperçoit que ces chercheurs, biologistes et autres grands esprits, nous apportent une partie de la réponse à notre questionnement sur ce qui fait l’intelligence. Être brillant dans un domaine sans disposer des autres ce qui empêche d’avoir une vision globale, correspond assez à l’impression qu’ils me laissent. Ils en viennent à regarder le monde par la fenêtre de leur discipline, les mathématiques, voire même la statistique... On ne peut donner à un ordinateur que ce que l’on comprend et ce que l’on a, aussi je vois au moins trois bonnes raisons pour qu’ils ne parviennent pas à donner l’intelligence et la conscience à un ordinateur.

Au moins ont ils la vertu de rassurer toute personne n’ayant pas réussi ses études, ils prouvent on ne peut mieux que cela ne dit vraiment que peu de choses sur un individu...