@Francis, agnotologue

Voici ce que personnellement je sais sur l’apprentissage d’une IA et la façon d’abandonner l’enseignement humain. Le sujet est infini.

Un point important est que nombre de problèmes comportent plusieurs solutions selon ce que l’on cherche à optimiser. Dans une phase initiale, le programmeur humain indique à la machine un premier choix.

En le suivant, la machine est dite en mode d’exploitation (sous-entendu exploitation de l’acquis apporté par l’humain). Cependant, l’IA (grâce à sa mémoire) peut s’apercevoir (en utilisant le critère de convergence donné par humain) que le plan résultant (on peut dire l’évolution qui s’en suit) n’est pas optimal par rapport à l’objectif fixé . Donc, la machine peut, lorsqu’une même situation se représente, ne pas appliquer le choix humain. Elle peut avoir aussi réalisé des simulations pour estimer si un nouveau choix qu’elle pourrait appliquer donnerait une meilleure convergence vers l’objectif (exemple : jeu d’échecs). Elle fait comme un humain qui se dirait : je ne vais pas suivre ce qui est fait habituellement  ! Quand la machine fait un choix différent, elle opère en mode dit d’exploration ce qui est évidemment risqué et peut entraîner sa destruction.

Cependant, il n’y a rien de nouveau sous le soleil, car l’espèce humaine a procédé très souvent par exploration, même s’il y avait des risques. Un exemple simple est la cueillette de champignons. Ceux qui cueillaient n’avaient souvent aucune connaissance, et il en résultait des empoisonnements. Cependant, la population mettait dans sa mémoire collective qu’il ne fallait pas manger tel champignon et l’espèce en ressortait renforcée. Il en sera de même si des IA sont interconnectées et peuvent se transmettre des informations. Ceci pour bien souligner que, même si l’IA n’a pas d’intuition et essaie au hasard des réponses différentes de celle de l’humain, elle peut collectivement apprendre de ses échecs et progresser pour atteindre un objectif assigné.

Par contre, une IA est créée par l’humain pour un problème donné, mais ne définit pas elle-même des problèmes dans des domaines nouveaux.

Je dois souligner que je n’ai donné que quelques indications dans un domaine infini.