"Ces conclusions anxiogènes doivent nous faire bondir car bien au contraire elles devraient annoncer un monde meilleur basé sur le travail des machines et la libération de l’humain.« 

L’hypothèse que les machines puissent à terme remplacer les humains pour la plupart des tâches aliénantes, est évidemment une très bonne chose... à condition que les richesses produites soient équitablement réparties.

Mais l’auteur de l’article n’a visiblement pas compris que ce qui motive les prédictions »anxiogènes" de Hawking, Musk et consorts n’a rien à voir avec le volet social et sociétal de l’avènement (éventuel) d’une véritable IA. Ce qui motive leurs craintes, c’est la perspective de ce que l’on appelle la singularité.

En astrophysique, une singularité est quelque chose qui empêche de savoir ce qui se produit au-delà de la limite de son horizon. Par exemple les trous noirs sont des singularités dans l’espace-temps, parce que tout ce qui entre dans leur horizon ne peut plus en sortir, notamment la lumière. La singularité la plus célèbre, c’est l’atome primordial qui fut à l’origine du Big Bang. Bref, au-delà d’une singularité, c’est la Terra incognita.

Or, comme l’a montré la mathématicien Irwin Good, si une machine peut imiter l’homme dans tous les domaines, elle peut donc, entre autres, construire et programmer des machines. Cela veut dire que l’ordinateur qui aura atteint le niveau de l’intelligence humaine pourra travailler à produire une version améliorée de lui-même, laquelle version améliorée produira encore plus rapidement une autre version améliorée, et ainsi de suite jusqu’à produire une super intelligence, quelque chose qui nous surpassera de plusieurs ordres de grandeur, comme la différence qu’il y a entre nous et des fourmis.

Le moment où émergera cette super intelligence constituera alors une singularité dans l’histoire humaine. La singularité marquera un moment où toutes les cultures, toutes les religions, tous les rapports sociaux, tous les systèmes politiques tels que nous les connaissons seront obsolètes ou cesseront de fonctionner.

La super intelligence sera la dernière invention de l’espèce humaine et marquera la fin de son règne sur Terre. Car bien-sûr, c’est notre intelligence, et non notre force physique ou toute autre caractéristique, qui a permis la domination de l’homme. L’existence d’une intelligence des milliers de fois supérieure à la nôtre ne peut donc que conduire à notre déclassement, ou plus probablement à notre disparition.

Cela dit, tout ceci est basé sur l’hypothèse qu’une IA soit un jour fabriquée. Or pour l’instant, on en est très loin. Rien ne prouve que cela soit possible, à commencer par le fait que la science n’a aucune définition précise de ce qu’est l’intelligence, et surtout la conscience. Il est facile de comprendre que prétendre fabriquer artificiellement quelque chose dont la nature nous est inconnue est une gageure...