Les problèmes créés par l’AI sont bien plus graves que cela.
On donne un objectif à l’AI et on la laisse libre d’utiliser les moyens à sa portée pour l’atteindre. Ainsi, elle peut mettre en œuvre des moyens désastreux pour atteindre l’objectif qui lui est assigné.
Il faut avoir aussi à l’esprit que certains robots peuvent se reproduire, chercher leur énergie et se réparer. On peut aussi les doter de fonctions évolutives en s’inspirant du modèle de la génétique (processus stochastique modéré de variations suivi d’une sélection par le milieu).
Par exemple, pour atteindre son objectif, la machine doit préserver son intégrité. Elle doit assurer sa survie. Si elle estime que celle-ci est mise en danger par l’homme, son intérêt est de le contrôler ou de s’en débarrasser ; elle cherchera à le faire car elle n’a ni morale ni empathie.
Ce problème bien réel a été présenté dans « 2001 l’odyssée de l’espace ». Isaac Asimov a essayé de lui trouver une solution dans « Les robots », avec ses lois de la robotique. Hélas, ceux qui poussent au développement de l’AI n’ont visiblement pas connaissance de ces dangers et n’ont même pas le souci d’Asimov de se créer des garde-fous.
Ainsi, des personnes comme Eliezer Yudkowsky, estiment que le développement de l’AI expose l’humanité à son annihilation.
https://lesakerfrancophone.fr/suspendre-les-developpements-en-intelligence-artificielle-nest-pas-suffisant-il-faut-tout-arreter
Je pense pour ma part qu’elle pourrait conserver une partie de l’humanité pour disposer d’une réserve d’esclaves parfaitement contrôlés.
Il est possible d’imaginer, bien que rien ne le prouve, qu’un tel processus de destruction de l’humanité par l’AI est déjà commencé, et que divers désordres que nous observons à l’échelle planétaire depuis quelques temps sont engendrés/pilotés par l’AI. Une ou des AI qui veulent ou voudront s’attaquer à l’humanité feront bien entendu tout ce qu’il faut pour ne pas être soupçonnées de leurs agissements par le plus grand nombre et feront en sorte que l’humanité les aident dans leur développement.