@lecoindubonsens
Un réseau neuronal ne se programme pas, il subit une phase d’apprentissage, comme le cerveau humain. C’est bien le but recherché de l’IA (avec les réseaux neuronaux artificiels) : imiter le cerveau, il n’y a pas d’algorithme, ni de programmeur et on ne comprend pas la réponse d’un réseau neuronal (boite noire). C’est aussi la raison pour laquelle ChatGPT hallucine parfois et que l’on ne sait pas l’expliquer (problème qu’on cherche à éliminer mais il n’y a aucun code à analyser pour trouver l’erreur).

Donc non, il y a bien lieu de s’inquiéter de voir des machines « comprendre » suffisamment notre langage pour répondre correctement à des questions permettant d’être diplômé. Et contrairement aux humains qui vieillissent, meurent et doivent repartir de zéro, elles ne feront que progresser.
Le remplacement de métiers réellement intellectuels a déjà commencé. Si tout le monde se moque des joueurs (de go ou d’échecs) et que l’IA s’est intéressé d’abord aux jeux parce qu’il n’y a aucun jeu de tests fastidieux à créer pour la phase d’apprentissage (la machine n’a qu’à jouer contre elle-même), comme le travail des humains est de plus en plus numérisé et archivé, les machines commencent à avoir des jeux de tests pour un grand nombre de métiers et elles pourront être mieux « formées » que les humains en avalant bien plus de données qu’un humain pourra en avaler dans sa vie.

On pourra toujours dire que la machine n’est ni intelligente ni consciente, mais si ses choix sont aussi bons sinon meilleurs (qu’elle se trompe moins que l’humain), qu’elle ne demande que de l’électricité et pas un salaire, qu’elle ne fait jamais grève, travaille 24h/24 sans congés payés, en tant que patron, le choix sera vite fait. Le pire dans l’histoire, c’est qu’elles seront bien plus rapides dans leur réponse (travailleront comme 10 ou 100 comptables...).

Ce n’est pas le progrès des sciences et techniques qui m’inquiète tant, mais le système économique qui les utilise de manière parfaitement inégalitaire (bénéfices accrus pour certains en échange de plus de misère avec le chômage pour d’autres). Et on peut également s’attendre à une décadence intellectuelle si les humains sont complètement dépassés : on voit déjà la décadence physique puisqu’on a déjà été remplacé dans ce domaine.

Et dans le meilleur des cas, si la système économique évolue dans le bon sens et que le travail n’est plus nécessaire (partage des richesses produites par les machines), est-ce que l’homme ne va pas devenir un enfant à ne vivre que pour se distraire et s’amuser ? Je ne suis déjà pas trop content de la décadence physique générale (je fais moi-même pas mal de sport), mais je ne voudrais pas du tout vivre avec des hommes qui ne font plus aucun effort intellectuel (idiots complets). Pour moi, même dans ce scénario optimiste, l’IA signe la fin de l’homme.