La « Robolution » : Quand la réalité rejoint la Fiction

Bravo pour cet article, mais il est impossible de savoir si l’avenir sera celui que vous décrivez ; il y a bien des années que je crois l’avenir humain en voie de terminaison (voir le livre de Christian GODIN « La Fin de l’Humanité »). Le seul successeur possible est non pas un homme hybride, cybernétique, qui porterait en lui tous les défauts qui ont provoqué les monstruosités parsemant l’histoire humaine, mais UNE conscience artificielle. Celle-ci nous traiterait alors comme des enfants, et nous ne pourrions rien tenter contre elle : tous les secteurs d’activité étant depuis longtemps informatisés, plus rien ne serait sous notre contrôle.

Un philosophe, Miguel BENASAYAG, vient d’écrire « Organismes et Artefacts » ouvrage dans lequel il soutient l’impossibilité de créer de toute pièce ne serait-ce que un organisme vivant, et encore moins une intelligence artificielle.

@Cinquiemevitesse

Merci de votre réponse : mon cursus autant universitaire (sciences cognitives, cybernétique, DSP) que professionnel me confronte en effet à ces nouvelles problématiques et les divers projets pluridisciplinaire dans lesquels j’ai pu être impliqué me pousse d’un à les considérer comme base de travail et deux à m’interroger sur l’émergence plus que probable de ces nouvelles espèces dans un avenir pas si lointain ; la montée en puissance des mouvances dites transhumanistes se fait de plus en plus sentir dans les orientations autant en recherche universitaire qu’en R&D dans le domaine privé : recherches d’ailleurs bien souvent menées conjointement entre labs universitaires et privés : l’orientation des investissements ne fait que confirmer cette dérive ou tendance transhumaniste .

 @makikobet

Je crains que M. Bensayag soit peu au fait de l’évolution de la recherche dans le domaine de l’IA ainsi que des développements en cours : soutenir l’impossibilité de créer de toute pièce un organisme vivant ou une IA est contredit par les recherches actuelles et non futures : la base d’une IA est la faculté d’auto-compréhension que l’on peut considérer comme le germe de la conscience de soi : auto-compréhension impliquant la capacité à détecter ses erreurs, les corriger et ne plus les répéter ce qui nous mène à l’auto-amélioration et donc à une évolution dépassant les capacités humaines : la formule « l’erreur est humaine, persévérer est diabolique » a une pertinence avérée : l’IA ne connaît pas l’erreur ou en tout cas ne persévère pas : question d’efficacité et de rapidité de compréhension.

Des travaux en cours se fondant sur la modélisation du cerveau humain et sa reproduction virtuelle en vue de simulation : les développements sont déjà très avancés ; l’association directe avec les progrès en interface neurone-IA nous mène de plus en plus rapidement vers la possibilité de l’apparition d’un cerveau IA ( avec support strictement virtuel ou matériel (silicium) : le remplacement de neurones biologiques par des neurones artificiels sera réalisé sans doute d’ici quelques années).

Il y a deux lignes d’évolution principales possibles : l’une partant de l’homo sapiens : donc hybridation&mutation via bio-enhancement, manipulations génétiques, cybernétique et l’autre partant de l’IA strictement qui évoluera sans nul doute vers l’apparition d’entités intelligentes strictement artificielles avec donc un avantage évolutif certain puisque non soumis aux contraintes biologiques : que certains tentent de nier ou relativiser ces développements et avancées est non seulement prévisibles mais compréhensibles : l’affrontement entre sapiens, H+ et IA sera ce qui marquera notre avenir prochain sans donner dans la SF ; les réactions autant philosophiques que religieuses à cette nouvelle réalité seront sans nul doute violentes mais il est fort peu probable que H+ et IA soient les vaincus : la dépendance à la technologie et la passivité en résultant chez sapiens sont déjà agissantes et incapaciteront toute possibilité de réaction suffisamment rapide (réaction qui d’ailleurs ne saurait avoir la rapidité de celles de ces nouvelles espèces à venir).

Quant à savoir comment H+ et IA considèreront sapiens : nul ne saurait le dire : nous ne sommes que sapiens et notre intelligence ne saurait appréhender la perception qu’auront de nous ces futures intelligences.    

@Razzara

Je vous rejoins parfaitement : sachez que je conçois parfaitement cet aspect inhumain, privé de toute âme : mais là n’est pas ma perspective mais celle qui tend à devenir dominante notamment dans le domaine IA où se retrouvent les plus fervents adeptes et promoteurs du transhumanisme, extropianisme,etc…tendance allant du simple enhancement à un fanatisme de type religieux  :  promothéisme, transtopianisme en représentant les branches les plus radicales : les plus inhumaines si vous préférez.

Exemple de mantra H+ : "Biology is not destiny. It was never more than tendency. It was just nature’s first quick and dirty way to compute with meat. Chips are destiny."

Effectivement, c’est là une vision non seulement niant l’essence du vivant mais méprisant aussi le biologique : ainsi que la dualité inhérente de l’Humain : matériel/spirituel, créature/créateur, etc…mais elle n’est là qu’une projection et manifestation de l’évolution actuelle de nos sociétés : la recherche avancée dans les domaines évoqués (IA, robotique, nanotechnologie, cybernétique, anthropotechnie, génétique, etc…) ne faisant que préparer ce bouleversement radical dans le cours de l’évolution humaine ( je vous renvoie à mes commentaires s’intéressant à la fin de la Culture qui elle aussi participe à cette évolution négative).

Cependant dans le schéma évolutif proposé : je me permets de vous faire remarquer que l’optique connaît deux horizons évolutifs un partant de sapiens, l’autre de IA : les deux donnant naissance à différentes espèces : d’abord optimisation puis hybridation et dans une perspective plus lointaine fusion soit effectivement disparition de homo mais la résultante ne sera pas forcément pure IA : plus le bâtard évolutif de ce schéma.

Sur le renoncement : je pense que le degré de dépendance technologique et la passivité que cela entraîne ne feront que s’accroître et qu’en effet à moyen terme : nous serons supplantés comme nous avons supplanté les espèces qui nous sont inférieures en intelligence. (ce schéma pose comme intervalle de temps probable : 200 ans à peu prés soit grosso modo le même entre aujourd’hui et les débuts de la révolution industrielle pour l’extinction de homo ludditus soit homo sapiens après apparition de la première espèce supérieurement intelligente à l’espèce homo sapiens que celle-ci soit de la branche homo ou celle IA).

Sur votre question quant aux trois lois établies par Asimov : d’un elles concernent les robots tels que perçus il y a quelques décennies : l’évolution dans les domaines cités en introduction montre que la tendance n’est pas spécialement centrée sur la robotique : mais multidirectionnelle : nano, bio, génétique, IA, cyber, etc…les robots ainsi n’apparaissent que grosso modo comme de simples véhicules pour IA et je crains donc que ces lois fassent l’impasse : sur les capacités d’auto-compréhension&d’auto-amélioration (donc mécanique évolutive et d’expansion) des IA et donc sur l’émergence certaine d’une conscience de soi et donc à un moment donné de considérer comme prioritaire la survie ainsi que l’évolution de son groupe, son espèce propre avant celle des sapiens ; que ces lois pourront donc apparaître comme contraignantes et illogiques dans cette perspective : l’erreur est humaine et non IA : aucune raison dés lors pour ces entités intelligentes de se plier à la volonté d’une espèce inférieure en tout point à un certain degré de développement ; enfin seule une perception anthropocentrée et donc renvoyant à nos propres tares permet de supposer que ces espèces auraient les mêmes pulsions meurtrières, violentes que notre espèce : la libération des contraintes biologiques et donc la possibilité à essaimer dans des espaces jusque là interdits à sapiens atténuera sans nul doute la concurrence inter-espèces : je pense quant à moi que les conflits seront bien plus entre H+ et sapiens qu’entre IA et sapiens : H+ représentant de fait pour sapiens sa succession et entraînera donc nombre de réactions hostiles face à cette première dans l’histoire humaine : faire face à une descendance qui ne nous ressemble pas ou plus.  Conflits d’autant plus prévisibles que H+ sera encore humain  avec tout ce que cela entraîne.

Bien entendu, tout cela reste spéculatif car comme déjà dit nous ne pouvons concevoir ce que des intelligences qui nous seront supérieures seront à même de concevoir et donc quelle sera leur perception quant à notre espèce primitive : mais la conclusion demeure la même : l’Humanité est bien vouée à l’extinction et cela par sa volonté manifeste d’échapper à ce qui la définit en fait : à sa nature fragile, mortelle, éphémère.

cher M. Carnehan :

grand fan de SF fût un temps : et il est certain que des auteurs tels qu’Asimov, K. Dick, Vinge, etc...peuvent être considérés comme des prophètes dans leur genre : mais je crains que leurs prophéties non seulement se réalisent mais bien plus qu’ils n’auraient pu l’imaginer le Réel dépassant la Fiction : le transhumain puis le post-humain étant plus effrayants que les robots d’Asimov ou les mondes virtuels de Dick. 

Cher M. Shawford, ravi de vous compter parmi ceux qui s’infligent la lecture de mes longs et monomaniaques commentaires…  et encore plus ravi que tu ai su percevoir la manière dont tous s’emboîtent et se complètent : à l’évidence tu as saisi the big picture : et j’imagine donc que tu as déjà la réponse à ta question : « La vraie question n’est elle pas : les zélites n’ont elles pas déjà enclenché un processus les menant à devenir rapidement des H+ ? »

Oui effectivement, nos zélites ont déjà enclenché ce processus et cela depuis des décennies : le premier territoire fut celui des sciences cognitives (années 50/60), beaucoup moins lourd en matière de technologies et qui connaît un essor remarquable voir prodigieux dés lors qu’on l’intègre dans les NBIC (Nanotechnology, Biotechnology, Information Technology and Cognitive science) : secteur qui est allègrement arrosé de milliards de $ depuis quelques temps aux US : je te laisse deviner quelle est la tendance et quels projets sont favorisés.

http://www.agoravox.fr/actualites/religions/article/le-pape-contre-la-medecine-72872#forum2508265

Effectivement dés lors, chacun pourra considérer l’intérêt de la mécanique de Contrôle&Conditionnement à perspective globale actuelle qui en elle-même est la garantie de la pérennisation d’une domination des uns (dominants) sur les autres(exclus) : avec l’hypothèse d’une élimination progressive des autres : la technologie devenant alors le support de la future lutte des castes puis des espèces. De là, effectivement les premiers transhumains aboutis appartiendront à ceux issus de nos actuelles classes dominantes/élites : cette problématique est au coeur de nombreux débats aux US, et comme à notre habitude nous avons bien une dizaine d’années de retard sur ces questions : les simples termes transhumains/posthumains, etc…évoquant généralement chez l’individu lambda plus la SF que la réalité des progrés technologique actuelle (nano, bio, IA, génétique, info, etc…). 

Ce qui nous renvoie à cette partie de ton commentaire : « A tout le moins cela nous renverrait plutôt alors à ton analyse récente sur le développement parallèle et hermétique de sociétés d’en haut et d’en bas, et sur l’impossibilité pour la société « vulgaire » d’influer désormais sur le cours politico-légal des choses .  » oui effectivement, ceux des serres ont le contrôle et sont en train de déterminer notre évolution future : et cela avec l’aval de la société d’en bas qui soumise au conditionnement constant accepte facilement cette évolution contrôlée et orientée qui la condamne inéluctablement à demeurer dans ces enfers inférieurs et à plus ou moins long terme à disparaître.

Une simple illustration de cette collusion et convergence d’intérêt chez nos élites, et la manière dont cette évolution est subtilement orientée en usant et du conditionnement et de l’ignorance relative des masses face à ces nouvelles questions : partons donc de notre bien-aimé président et de ses divers discours puis élargissons à l’ensemble du discours ambiant supporté et promu par les tenants du système actuel : le point principal sera le retour de l’eugénisme et sa banalisation programmée avec l’aval de masses conditionnées.

Donc petit exercice de réflexion : partons de l’actualité et de ces éternelles évocations de questions telle que celle de l’immigration, les banlieues,etc…notre bien-aimé président s’est souvent exprimé sur le caractère inné de certaines conduites et comportements : racaille, pédophile, etc…bien entendu, ces thèmes sont très porteurs dés lors qu’il s’agit de flatter l’électorat d’extrême-droite mais ce serait là une erreur de considérer que leur portée est de nature raciste ou racialiste : elle renvoie à la notion d’utilité et par extension à celle de l’eugénisme : concept d’utilité et donc réduction de l’humain à sa stricte nature matérielle typique des tenants du système actuel dit ultra/néolibéral …Bref, nous assistons peu à peu à une banalisation des concepts de l’eugénisme mais à l’acceptation passive de la majorité de mesures qui réduisent l’humain à un outil, de la viande, etc…exemple : loi sur l’immigration, et biométrie : promulguant l’étiquetage de produits humains étrangers sans soulever quelque contestation que ce soit d’ailleurs, pas plus que l’ensemble des mesures élargissant l’usage de la biométrie à l’ensemble de la population.

D’un point de vue économique, ces mesures et d’autres s’apparentent plus à la gestion d’un cheptel ou de bétail qu’à une politique : à savoir gouvernement de la Cité et des Hommes : dérive à nouveau acceptée par tous sans réaction massive : tant le Conditionnement fonctionne et opère : chacun accepte d’être réduit à son utilité, son potentiel économique, etc…des concepts telle qu’immigration choisie renforce cette perspective de sélection soit d’eugénisme plus largement : d’abord les étrangers ensuite les notres : mécanique classique de mise en place d’un totalitarisme : nouveauté celui-ci est fondé sur un Conditionnement que bien peu remettent en cause et que beaucoup avalisent et supportent.  

Acceptation passive du fait que la science se doit de tendre à assurer de plus en plus non seulement l’identification des individus mais aussi leur sélection (le regroupement des bases de données informatisées ainsi que les divers lois sécuritaires, internet, etc… ne sont que les premières étapes.) la suivante est l’association informatique et génétique (ex : le projet Google de création d’une base de données en ligne contenant l’ensemble de l’information disponible sur les génomes et préparant l’avènement de « la médecine personnalisée », avec l’excuse qu’ainsi chacun pourrait gérer son existence en fonction de son capital génétique... mais aussi permettant indirectement ou subtilement à un employeur d’évaluer « scientifiquement » son personnel ; sans compter tous les usages parallèles que tel ou tel gouvernement pourrait avoir).

Plus largement, on peut observer à quel point le fait de catégoriser des individus ou des groupes dans les catégories inutile, improductif, parasite, etc… devient non seulement banal mais ne suscite aucune réaction massive : étrange situation alors que le devoir de mémoire constant devrait permettre à chacun de s’astreindre à une petite réflexion :    

le généticien et prix Nobel Hermann Muller écrivait "l’eugénisme de la société future, libéré des traditions de caste, d’esclavage, de colonisation, pourra être une eugénique véritable et radicale" : illustration contemporaine : Singapour où sont récompensés  autant les mariage entre diplômés que la stérilité des couples sans diplômes ; ou comme en Europe&US où il n’y a pas si longtemps : stérilisation forcée ne visait pas tant la dissémination d’une « tare génétique » que l’incapacité du porteur à « assurer la subsistance de ceux qu’il pourrait engendrer » : soit nos chômeurs, nos improductifs, nos inutiles,etc…ces fameux 80% des tenants les plus influents du système actuel.

La passerelle avec les courants transhumanistes est évidente : nous partirons au départ de l’optimisation puis passerons à la sélection et enfin à l’élimination des exclus : exclus car génétiquement non-conformes, économiquement inutiles, etc…ou bien encore ceux qui refuseront d’opter pour la dite optimisation.

Ce processus a déjà débuté : la banalisation de l’avortement avec en miroir la sélection des embryons, les banques de sperme/ovules, les diagnostics génétiques préimplantatoires, etc…bref le tri sélectif appliqué au matériel humain : la programmation génétique de l’homme-machine ou du matériel humain : en parfaite adéquation avec le système actuel qui ne fera que se renforcer jusqu’à être autant global que total.

Rapide retour sur les lois asimoviennes qui semblent tant d’intéresser : je crains que d’un cette perspective éthique dans le but de la préservation de l’Humanité ne soit pas partagé par ceux qui aspirent à l’avènement de H+ et IA : or ces individus sont ceux qui décident : entre homme réparé et homme amélioré : la frontière est très incertaine : tout comme entre chirurgie réparatrice et chirurgie esthètique : le principe de liberté individuelle étant la faille évident : or les courants tranhsumanistes, etc… appartiennent généralement à la catégorie anarcho-capitaliste, à cela s’ajoute que chez les tenants de H+ et IA : robots et IA sont à juste titre considérés comme des singularités et donc des individus (la déclaration des droits de H+ et des Robots est déjà prête) : donc les lois asimoviennes iraient à l’encontre de ces droits individuels pour H+, IA, robots, etc…car ce serait des mesures coercitives fondées sur la présomption de culpabilité. Enfin, rien ne laisse supposer que les futures espèces IA (et robots=véhicules pour IA) soient hostiles ou dangereuses pour sapiens : à nouveau, nous ne pouvons concevoir ce que ces espèces seront capables de concevoir et comment elles nous considèreront : simple observation : nous aurons là des espèces : potentiellement éternelles, sans nulle contrainte biologique ou physiologiques, avec le concept mort inconnu pour elles ; capables de diffuser dans des espaces interdits à l’humain et dans l’ensemble de l’univers ; capables de se sauvegarder, se répliquer, s’adapter instantannément,ect…je pense donc que sapiens sera bien loin de leurs préoccupations : les conflits me semblent plus probables non entre IA/robots et sapiens mais entre H+ et IA qui elles seront définitivement concurrentes si la fusion n’opère pas assez rapidement.

Sur ce, déjà long comme com, (kom dâbbb koîiii….  ) : je reste dispo si tu veux continuer cette discussion.  

@ryukin :

Petite liste non exhaustive de références (auteurs, livres,etc…) sur les questions évoquées ici :

Bien que ce ne soit pas là mon habitude, je me permets un renvoi sur wikipedia (anglais) où vous pourrez constater que le monde anglo-saxon est bien plus au fait et avancé sur ces questions que notre hexagone (la différence de volume entre la page française transhumanisme et le portail assez complet anglais est flagrante) donc : http://en.wikipedia.org/wiki/Portal:Transhumanism

Sur les penseurs ( opposants) principaux sur ces questions : je pense que la lecture de Fukuyama ainsi que de Sloterdijk (notamment ces réflexions sur le parc humain) ainsi que Stiegler serait une bonne introduction pour ne pas se laisser convertir aux promesses de bonheur perpétuel des différentes écoles transhumaniste, extropianiste, prométhéiste, etc…enfin lecture de Nietzche (Zarathoustra, concept du Surhomme) ainsi que du cousin de Darwin (eugénisme) est aussi importante pour saisir certaines bases idéologiques de ces mouvements qui s’inscrivent principalement&généralement dans les courants ultra-libéraux, libertariens, anarcho-capitalistes…

Passons maintenant aux grands penseurs et maîtres en matière de H+, IA et Singularité Technologique :

En premier lieu Ray Kurzweill site : http://www.kurzweilai.net

Importante bibilographie en anglais, en français je ne sais pas ce qui a été traduit mais un bon aperçu serait la lecture de  Humanité 2.0 : la bible du changement ou Serons-nous immortels ? : Oméga 3, nanotechnologies, clonage... Ray Kurzweil&Terry Grossman

Ensuite N. Bostrom :  Human Reproductive Cloning from the Perspective of the Future.

A Transhumanist Perspective on Human Genetic Enhancements.

Site : http://www.nickbostrom.com/

Un autre grand penseur courant extropianiste/post-humanisme More M. 

Extropian Principles 3.0. A Transhumanist Declaration.  On Becoming Posthuman.

Sur le net : bonne introduction sur More : http://editions-hache.com/essais/more/more1.html

Son site : http://www.maxmore.com/

Eliezer Yudkowsky (sur la Singularité Technologique) : http://editions-hache.com/essais/yudkowsky/yudkowsky1.html

Fereidoun M. Esfandiary : http://en.wikipedia.org/wiki/F._M._Esfandiary

Vernor Vinge : http://en.wikipedia.org/wiki/Vernor_Vinge

Jeff Hawkins :  http://en.wikipedia.org/wiki/Jeff_Hawkins

Mais encore Dawkins R. The Genetic Revolution and Human Rights. (Oxford University Press)

Un autre site sur ces sujets :  http://www.acceleratingfuture.com

Bon la littérature est très conséquente dans le monde anglo-saxon : côté français : quelques références et lectures

Le Nouvel Homme nouveau - Voyages dans les utopies de la posthumanité
d’Antoine Robitaille

Demain les posthumains : Le Futur a-t-il encore besoin de nous ? Jean-Michel Besnier

L’homme symbiotique de De Rosnay (fondateur d’AV me semble-t-il)

Nanosciences : La révolution invisible Joachim&Plévert

Le meilleur des nanomondes D.B. Browaeys

ProspecTIC - Nouvelles technologies, nouvelles pensées ? La convergence des NBIC de Jean-Michel Cornu

Bien entendu : la lecture d’Huxley est recommandé ainsi que celle de Theodore Kaczynski plus connu sous le nom de Unabomber (certes un peu retro mais trés intéressant…)

Sur ce, reste dispo pour complément d’information…

cher M. Shawford, rendez-vous est donc pris aprés le coucher du soleil...