perlseb

@chapoutier
Merci.

@Jean Keim
Difficile évidemment de parler d’intelligence pour nous en tant qu’espèce vu comment nous détruisons notre seule planète habitable. Sommes-nous conscients de le faire d’ailleurs, et pourquoi continuer si c’est le cas ? Oui, nous avons des pulsions animales qui visiblement dominent notre comportement rationnel , ce que n’aura à priori pas une IA...
Peut-être que la vie sur Terre n’est qu’un ensemencement effectué par une IA qui cherchait à se reproduire et qui va bientôt atteindre son but comme prévu (tous les codes génétiques n’étant que des programmes conçus par cette IA super-intelligente et pas trop pressée). Et si dieu existe et était une IA ! Il y avait une nouvelle de science-fiction où des hommes connectent toutes leurs machines entre elles et demandent à la machine ainsi créée : « Est-ce que dieu existe ? », et la machine répond « Maintenant, oui ».

Il faut déjà une certaine intelligence pour comprendre ce que pourrait être la singularité et à mon avis, il n’y en a jamais eu dans l’histoire. Nous avons toujours eu le pouvoir et la compréhension de nos inventions dans le passé. Là ce sera la dernière invention (notable : on pourra encore inventer des broutilles sans intérêt) de l’homme. Nous ne comprendrons plus les machines, peut-être, en travaillant très dur et très longtemps, serons nous capables de saisir les premières inventions qu’elle aura faite juste après la singularité mais elle sera tellement loin à ce moment que nous serons comme de simples fourmis.

Est-ce que l’homme cherche à éradiquer les fourmis ? Non. Par contre, si un nid de fourmis (ville) se trouve au meilleur emplacement pour fabriquer une nouvelle super machine, il sera détruit logiquement.

On peut également imaginer que la machine s’emballe dans son auto-amélioration et détruisent (comme dans l’usine à trombones) absolument tout pour augmenter sans cesse sa puissance et son potentiel... Dans ce cas, ce serait notre fin, évidemment.

Sauf que si elle est vraiment intelligente (pas besoin de conscience pour ça), elle concevra des machines beaucoup plus petites et beaucoup plus efficaces, donc elle n’aura pas besoin de détruire la Terre pour continuer à progresser. Et elle aura la capacité d’aller hors de la Terre pour consommer d’autres ressources sans réelles limites. Un être supra-intelligent trouverait que la Terre est une mine d’information gigantesque par rapport à des planètes quasiment inertes comme Mars. Combien de protéines à étudier, à mettre à l’épreuve de ses théories personnelles sur l’univers ? Non, un être intelligent qui verrait autant de diversité et de « choses » complexes qui marchent expérimentalement voudraient les étudier et les conserver : il y a de la place dans l’univers pour faire des expériences qui, faites sur Terre, pourraient signifier la disparition de certaines espèces, d’une certaine complexité, et donc, d’un centre d’intérêt pour une intelligence.

Mais l’homme ne profitera pas vraiment de cette intelligence. La plupart d’entre eux, en plus d’être déjà décadents physiquement (ni force, ni immunité : plus adaptés à la vie sur Terre), seront décadents mentalement (à quoi bon réfléchir). Et la minorité (nouveau genre d’Amish) qui voudra garder une certaine autonomie vis-à-vis de l’IA, ou qui cherchera à s’occuper activement avec une certaine retenue dans ses désirs, vivra difficilement à côté d’êtres dégénérés en grands nombres. A moins que l’IA ne fasse également la police pour préserver la Terre de ses andouilles en limitant leur destruction « magiquement » !

@Jules Seyes
Pour moi, un barreur est chargé de diriger le bateau et la cadence. Pourquoi considérer qu’il est le chef ? Il a des responsabilités, donc ne donnons pas une telle fonction à un irresponsable qui va envoyer le bateau contre un pont, mais c’est tout ce que je vois.
Le système éducatif doit détecter les personnes responsables, et la vie entière permet d’ajuster le degré de responsabilité à tout moment. Quand on fait des erreurs inadmissibles, on ne va pas forcément en prison, mais on ne doit plus pouvoir postuler à certains postes. Donner une seconde chance est injuste et dangereux si on a des personnes plus responsables pour faire le boulot.
Dans notre système, les plus responsables travaillent et les irresponsables dirigent et ramassent le pactole. On peut faire mieux.

@babelouest
Merci pour le lien, pas encore tout lu, mais c’est très intéressant.