Les écosystèmes de l’information
Les réseaux sociaux, les fichiers de surveillance, les Anonymous...des systèmes évoluant vers l'autonomie
Jean-Paul Baquiast, Alain Cardon 23/05/2012
L'ère cambrienne (de - 850 à – 480 millions d'années) a été caractérisée par une explosion de formes de vie pluricellulaires très diversifiées, dont ont découlé les grandes familles d'espèces modernes. Cette explosion a succédé, pour des raisons encore mal identifiées tenant à la géologie et au climat, à plusieurs milliards d'années de vie monocellulaires, où les évolutions avaient été beaucoup plus lentes.
Aujourd'hui, l'observation de l'évolution des systèmes d'information dans le monde paraît faire apparaitre une explosion analogue, tant dans le nombre que dans les caractéristiques de ces systèmes. Par le terme de systèmes d'information, nous entendrons ici des systèmes associant des composants matériels (hardware), des composants logiciels et des utilisateurs humains, individus et groupes, plus ou moins « enrichis » par les relations comportementales (ou culturelles) qu'ils établissent avec les composants non-biologiques de tels systèmes. Ceux-ci sont aussi divers qu'il y a de technologies et d'usages leur étant associés. Le tout se caractérise, dans l'état actuel du monde, et tant que d'éventuelles catastrophes de grande ampleur ne viendront pas couper les ailes à cette évolution, par une prolifération pouvant être comparée, toutes choses égales d'ailleurs, à l'explosion cambrienne.
On reconnaîtra dans la définition que nous donnons ici du phénomène le concept que nous avons présenté par ailleurs, celui de « systèmes anthropotechniques ». Ceux-ci associent, depuis les échelles les plus grandes jusqu'aux plus petites, des technologies spontanément multiplicatrices et des humains qui utilisent ces technologies pour accéder, en compétition-collaboration darwinienne, aux ressources et aux pouvoirs. Il en résulte que les usages imposés par ces humains aux technologies sont eux-mêmes proliférants. Ainsi en est-il, par exemple, du téléphone portable et de la localisation satellitaire (GPS) dont les formes initiales se multiplient en s'entrecroisant du fait aussi bien des complexifications technologies que des nouveaux usages qu'en font les utilisateurs.
Nous proposons d'utiliser pour décrire ce monde le terme d'écosystème, puisqu'il est très comparable aux écosystèmes biologiques. Un des points caractérisant ces derniers, comme tous les phénomènes naturels de grande ampleur, est qu'ils ne sont pas contrôlables ni même analysables dans leur globalité par des agents humains. Les humains, aussi armés qu'ils soient en ressources technologiques diverses, se révèlent incapables de prévoir et moins encore de diriger l'évolution globale des systèmes vivants. Ils peuvent exercer des actions destructrices, mais même si celles-ci font disparaître certaines formes supérieures, elles ne peuvent empêcher la prolifération de formes plus simples, algues ou bactéries par exemple. Les politiques dites volontaristes de protection du milieu naturel n'ont ainsi que des effets partiels, sans exclure des conséquences qui n'étaient pas attendues.
Les écosystèmes de l'information, tels que nous les définissons ici, sont tout autant que les écosysytèmes biologiques, difficiles à observer, plus difficiles encore à maîtriser. Les facteurs qui provoquent leurs proliférations, mentionnés ci-dessus, facteurs technologiques ou facteurs anthropologiques, sont trop divers et dispersés pour pouvoir être réglementés par quelque autorité que ce soit. En d'autres termes, le volontarisme appliqué à leur développement, visant à provoquer telles évolutions ou en prohiber telles autres, ne peut avoir que des effets limités. Ainsi les réseaux sociaux, dont certains vantent les bons effets et d'autres signalent les dangers, se développent selon des modalités et à des rythmes dont on ne peut que constater a postériori les formes et les conséquences. Ceci ne veut pas dire que les autorités civiles et morales doivent démissionner devant ces phénomènes, en tolérant par exemple leurs abus les plus manifestes. Mais elles ne doivent pas s'illusionner. La réglementation sera toujours d'un effet limité et toujours en retard d'une phase.
Il en est de même, selon nous, des usages plus toxiques, au regard des impératifs qualifiés en Europe de démocratiques, consistant à relever et mettre en mémoire, afin d'identification, de contrôle et souvent de répression, un nombre de plus en plus élevées de données intéressant les personnes, les objets et les activités. Il en résulte des atteintes potentielles et souvent effectives aux droits individuels et collectifs, même lorsqu'aucun impératif de sécurité ne l'impose. En ce domaine, on ne renoncera pas les réglementations interdisant aux services de police et de sécurité, comme aux entreprises faisant commerce de ces activités, les abus de droit les plus manifestes. Mais il serait dangereux, au regard d'une volonté de protéger ces libertés, de penser que ces réglementations suffiraient. Les technologies et les usages ayant pour effet, voulu ou involontaire, de les tourner, sont déjà à l'oeuvre, sans que généralement les citoyens soucieux de démocratie ne s'en rendent compte. C'est ainsi qu'une observation un peu avertie montre que, dans les régimes autoritaires mais aussi dans ceux se voulant les plus respectueux des impératifs de la démocratie, des systèmes d'information entrecroisés et co-activés se sont mis en place, dont l'effet se traduit par des possibilités de contrôle de plus en plus total des activités et des consciences citoyennes. Ces possibilités de contrôle sont inégalement exploitées mais elles existent.
Des systèmes évoluant vers l'autonomie
De plus, un facteur que l'on découvre seulement maintenant doit être évoqué. Au sein des écosystèmes de l'information tels qu'ils se généralisent actuellement, apparaissent des entités capables non seulement d'une vie autonome mais même d' « intentions ». Celles-ci visent dans un premier temps à pérenniser leur survie, quelles qu'en soient les conséquences au regard des impératifs citoyens ou moraux que pourront pas ailleurs se fixer les citoyens. Le phénomène est la transposition des mécanismes évolutifs se produisant dans les écosystèmes vivants, soit au plan global de l'évolution des espèces, soit dans le domaine moins visible et plus segmenté de la compétition entre les gènes. Les « intentions », dans les deux cas, ne prennent pas la forme de déclarations explicites, mais elles résultent de la conjonction ici et maintenant de facteurs causaux définissant ce que l'on pourrait appeler des développements « contraints ».
Dans le domaine de la génétique, les développements contraints résultent en général d'un environnement de protéines conditionnant l'expression des gènes et résultant des mutations et sélections s'étant produites auparavant. Ainsi apparaîtront d'une façon apparemment spontanée des organes complexes, tels que les yeux, à partir du développement de précurseurs apparus antérieurement dans l'évolution. Ceci pourra conduire à tort les partisans du finalisme à parler d'une intention résultant d'un choix conscient, interne ou extérieur.
D'une façon un peu comparable, on pourra constater que les réseaux sociaux ou les grands serveurs stockant les informations individuelles suggérent spontanément des « profils » révélant la personnalité profonde ou les activités les plus secrètes des individus. Ceci proviendra du fait que les précurseurs de telles dénonciations quasiment policières auront été très tôt inclus dans les fichiers, n'attendant qu'une occasion pour s'activer et devenir accusatoires. Or dès que de telles informations apparaîtront spontanément dans les réseaux, elles trouveront très vite des humains, assistés de logiciels adéquats, pour en faire des usages commerciaux ou politiques illicites, quand ce ne sera pas des applications criminelles.
Evoquer comme nous le faisions ici des systèmes évoluant vers l'autonomie doit être précisé. Cette autonomie se propage de la base au sommet. Les composants élémentaires des systèmes, y compris les plus petits d'entre eux, deviennent autonomes les premiers (ainsi un micro-logiciel de surveillance implanté dans un téléphone portable). Ils s'agrègent ensuite spontanément en nuages de plus en plus autonomes, où les individualités des utilisateurs perdent la cohérence que ceux-ci s'imaginent encore posséder.
Vulgariser les connaissances et les savoirs-faire
Mais alors, dira-t-on, comment les démocraties, générant ces écosystèmes de l'information, pourront-elles éviter ou tout au moins minimiser leurs dérives menaçantes. La solution reposera, pensons-nous, dans la vulgarisation la plus large possible des connaissances relatives à ces phénomènes. Ainsi les techniques ne resteront pas l'apanage de minorités qui s'en serviraient pour contrôler les majorités. Chacun au sein des populations, ayant pris conscience de la puissance et des risques potentiels associés à ces techniques, sera incité à générer les solutions permettant de s'immuniser contre ces risques tout en bénéficiant de leurs avantages.
La philosophie de la démarche proposée ici est celle qui vient récemment d'être discutée à propos des risques inhérents aux recherches sur les virus de grippes potentiellement mortelles. Ces recherches doivent-elles être confinées dans des centres de haute sécurité, avec la perspective qu'un jour ou l'autre, inévitablement, des germes s'en échappent et frappent des populations non protégées ? Doivent-elles au contraire être menées publiquement, avec l'espoir qu'une meilleure connaissance des virus hautement pathogènes génère en contre-coup des processus immunitaires et des pratiques sanitaires visant à les rendre moins dangereux.
Dans les cas que nous avons signalés, susceptibles à la fois d'usages jugés utiles et de dérives jugées dangereuses, autrement dit les réseaux sociaux et les fichiers de police ou de sécurité, auxquels nous ajouterons un phénomène encore mal compris mais aux conséquences politiques considérables, le « hacking » ou piratage des systèmes par des entités difficilement identifiables prenant le nom d' « Anonymous », la seule façon permettant aux démocraties de sauver leurs valeurs serait de favoriser une diffusion aussi large que possible des techniques et processus mis en oeuvre. Ainsi nul ne sera surpris sans défense.
Certes la complexité des sociétés qui utiliseront ces techniques et processus ne cessera d'augmenter, rendant l'information et la réglementation à leur égard toujours plus difficiles. Mais il ne s'agira qu'un des aspects de la complexité des sociétés anthropotechniques modernes, impliquées dans de nombreux autres processus tout aussi ambivalents, à la fois indispensables et dangereux : les transports, la médecine, l'exploration de l'espace et plus généralement toutes les recherches scientifiques s'intéressant aux domaines émergents.
Il va sans dire que pour faire face aux enjeux de démocratie en cause, des recherches multidisciplinaires "désintéressées" devront être conduites en toute transparence. Une telle perspective semble bien loin aujourd'hui.
En confiant à Automates-Intelligents la diffusion des travaux qu'il a mené dans le domaine des systèmes autonomes, le professeur Alain Cardon, cosignataire de la présente note, a décidé de s'inscrire dans la démarche résumée ici : commencer à faire connaître certaines des recherches intéressant l'évolution des systèmes d'information vers l'autonomie, encourager l'extension de ces recherches dans d'autres domaines, des sciences sociales à la biologie. Beaucoup des travaux existant actuellement ne sont pas communiqués, mais il faut cependant prendre conscieince qu'ils impactent désormais sans qu'ils s'en aperçoivent la totalité des humains présentes sur la planète.
Certes, les sujets sont difficiles et mériteraient une démarche pédagogique dont l'ampleur dépasserait nos moyens. Mais commencer à en parler ne peut qu'avoir des effets favorables au regard d'une telle exigence. .
Nous invitons le lecteur intéressé par ces questions à consulter deux ouvrages en ligne du professeur Cardon, qu'il a souhaité publier sur ce site. Ils sont accessibles en téléchargement gratuit et publiés sous Licence Creative Commons.
Le premier est intitulé « Vers un système de contrôle total »
Editeur Automates Intelligents, 20 octobre 2011
Pour l'obtenir, faire
http://www.admiroutes.asso.fr/larevue/2011/121/controletotal.pdf
Le second est intitulé
" Modélisation constructiviste pour l'autonomie des systèmes"
Automates Intelligents. 24 mai 2012
Pour l'obtenir faire ...
(la référence sera précisée sous peu, dans les réactions à cet article).
On trouve dans l'encart ci-dessous le sommaire et l'introduction de ce dernier ouvrage.
Il est évident que certains passages de ces textes paraîtront difficiles aux non-spécialistes. Nous étudions une méthode permettant de les discuter de façon interactive avec les lecteurs intéressés.
Modélisation constructiviste de l'autonomie des systèmes Alain CARDON Avril 2012 Sommaire Introduction I - La notion de système ouvert autonome II - Les agents III - La représentation générée 3.3 – L'usage et la génération de points de vue et le questionnement propre IV – La conception du système de représentation et le contrôle 4.2 – Représentation des tendances fondamentales artificielles et émergence V - Contrôle du système de représentation par l'organisation des agents de morphologie 5.2 - L'analyse morphologique de l'organisation aspectuelle et le clustering dynamique 5.3 - Le contrôle morphologico-sémantique 5.4 - Représentation des tendances artificielles, proto-Soi et Soi minimal 5.5 – Le choix d'une visée : ce qui amène le système à se soucier de quelque chose 5.6 – Le réseau de contrôle morphologique et la manipulation des sondes 5.7 - L'acquisition des informations et le traitement par l'organisation aspectuelle 5.8 - L'autonomie : la boucle systémique générale Introduction Nous nous plaçons dans le cadre des systèmes artificiels construits sur des composants électroniques de toutes sortes et assurant des fonctionnalités précises. Nous considérons que ces systèmes peuvent utiliser des processeurs et de la mémoire pour assurer le contrôle de leur fonctionnement, de leurs comportements et de leurs communications. Cette couche informatique, gérant le fonctionnement et les communications des tous les appareils, peut aujourd'hui être ajoutée très facilement. Et c'est cette couche que nous allons significativement augmenter. Nous allons préciser ce que peut être l'autonomie décisionnelle des systèmes, une autonomie qui ne se réduira évidemment pas à un simple fonctionnement en mode isolé, c'est-à-dire automatique car sans opérateur humain. Nous allons définir et modéliser la notion profonde d'autonomie, qui signifiera que ces systèmes, formés à la base avec de très nombreux composants électroniques distribués, auront un système d'appréciation de leur état, ils auront surtout des intentions, des tendances à apprécier certaines informations et à concevoir certaines actions plutôt que d'autres, ils auront des désirs et des émotions. Ils pourront se représenter leur état et celui de leur environnement avec une tendance à l'expression propre de toutes leurs possibilités fonctionnelles, pour leur propre compte. Pour cela, je vais définir précisément ce que sont ces tendances et ces désirs artificiels, comment ils apprécient des événements, comment ils se représentent leurs états et l'environnement. Je vais me baser sur une architecture très originale manipulant morphologiquement des nuées de processus informatiques particuliers, ce qui sera bien une transposition calculable limite de ce qui peut se passer dans les cerveaux. Nous allons chercher une définition de l'autonomie en développant les nécessités de sa réalisation, ce qui sera différent de l'approche maximale qui se base, elle, sur l'intentionnalité des systèmes hautement conscients qui apprécient la temporalité du temps et le questionnement sur leurs interrogations [Cardon A. 2000]. Il s'agit de présenter une architecture informatique augmentant significativement tous les systèmes technologiques qui se basent sur des substrats fonctionnels, des systèmes que nous allons doter de besoins et de désirs et qui seront connectés entre eux par les réseaux, en permettant leur autonomie conceptuelle, décisionnelle et comportementale. Il y a bien quand même, dans ces travaux de modélisation informatique, une interprétation des modèles freudiens dans le domaine du calculable, avec les notions de tendances fondamentales continuellement opposées et générant des synthèses [Freud S. 1966]. Nous proposons une architecture strictement logicielle basée, au niveau conceptuel, sur des organisations massives d'agents logiciels appelés agents aspectuels et formant des nuées dont l'auto-contrôle est à réaliser [Cardon A. 2004]. Cette architecture distribuée utilisera un contrôle morphologique original, ce qui permettra de générer des questionnements et des contrôles locaux par la suscitation d'agents morphologiques encapsulant le fonctionnement des agents aspectuels et opérant comme un méta processus interne d'auto-observation et de décision par tentatives, adaptatif et évolutif. Cette notion de contrôle morphologico-sémantique multi-échelles, est strictement constructiviste. Nous proposerons une notion de mesure pour que le substrat fonctionnel d'un système soit suffisamment structuré pour permettre l'existence de tendances et de désirs, permettant ainsi de le rendre autonome. La clé de tous les résultats obtenus est la définition d'une nouvelle théorie du contrôle pour les vastes organisations d'éléments dynamiques, contrôle qui ne se fait pas par dessus, par hiérarchie, mais qui est le comportement du système lui permettant de s'auto-contrôler de façon continue et à plusieurs échelles. Le modèle que nous proposons est l'opposé de l'approche hiérarchique par composants pour réaliser des systèmes informatiques. Dans une approche par composants, les éléments significatifs sont ceux qui produisent les fonctionnalités, ce sont les objets de base, les éléments que l'on va intégrer dans un bon ordre pour réaliser toutes les exécutions. Les échanges d'informations entre eux n'y sont que factuels, précisant la mise en fonctionnement ordonnée qui a été planifiée et qui doit être absolument respectée. Nous proposons une tout autre approche en définissant, au-dessus du substrat fonctionnel, un système de représentation réifiant une boucle organisationnelle synthétisant de nombreuses boucles d'activations et de contrôle, et représentant des besoins et des désirs, réalisant des jugements et des appréciations. Cette organisation dynamique qui va exprimer les fonctionnalités sera constituée de très nombreux éléments informatiques, virtuels, où les échanges d'informations seront significativement augmentés pour contenir des connaissances dans des domaines sémantiques nombreux. Et ces échanges d'informations, qui seront évalués au niveau connaissance et valeur, seront alors majeurs, significatifs de ce que peut et veut faire le système à chaque moment, car nous y intégrerons des tendances fondamentales et des points de vue, qui seront la clé de l'autonomie intentionnelle. Ce sera ce domaine des échanges informationnels que nous allons étudier, dans ce qu'ils sont et représentent effectivement, dans une approche morphologico-sémantique basée sur des systèmes multi-agents massifs où la représentation de l'état et de l'action du système est toujours un construit structurel dynamique utilisant de multiples connaissances. Ces systèmes pourront être distribués, faits d'éléments spatialement dispersés, qui communiqueront par réseau en utilisant des moyens puissants comme les réseaux pairs à pairs, formant ainsi des systèmes autonomes non localisés sur une architecture matérielle délimitée. La notion de corporéité sera donc virtuelle, et représentée par une nouvelle notion de membrane que nous définirons. Une telle approche de l'étude et de la conception des systèmes est bien un changement de paradigme. C'est la seule approche, à notre avis, qui peut rendre des systèmes de systèmes autonomes, en quittant le cheminement d'ingénierie habituel qui étudie l'augmentation régulière des systèmes par accumulation de composants, en les reliant fonctionnellement dans un ensemble considérable devenant finalement ingérable. Nous verrons que notre architecture permet d'étendre l'autonomie d'un système aux systèmes de systèmes, de façon à ce qu'un système autonome puisse, de lui-même, rendre autonome un autre système avec lequel il pourra communiquer intentionnellement par réseau. L'architecture que nous proposons ouvre donc la voie à un vivant artificiel étendu à tous les composants électroniques manipulables par des processus légers et qui communiquent entre eux par des réseaux. Et nous verrons aussi que l'approche organisationnelle de tels systèmes permet de préciser un modèle d'évolution dans le vivant, allant des systèmes réactifs aux systèmes dotés de conscience. Nous proposons une approche constructiviste de l'évolution des systèmes vivants en proposant une classification organisationnelle, sous l'hypothèse d'un vivant global exprimant son existence strictement évolutive dans les organismes qu'il développe. L'utilisation de tels systèmes autonomes n'est pas socialement neutre, ce n'est pas simplement une avancée technologique. Je précise qu'entre surveiller et contrôler, dans le domaine sociétal, il y a une différence majeure. Surveiller, c'est aujourd'hui intercepter toutes les informations et les traiter dans des centres secrets, avec des logiciels opérant sur des masses considérables de données. Le contrôle par l'autonomie, c'est la distribution des traitements qui se font partout tout en étant communicants entre eux. C'est, par exemple, mettre dans un smartphone, une box ou un PC un système logiciel local qui a des désirs, des intentions, des émotions et qui raisonne, et surtout qui communique avec d'autres smartphones, box et PC d'autres utilisateurs humains mais pour son compte, pour gérer socialement tous les humains qu'il surveille. Il n'y a plus de traitement centralisé, le système n'est plus hiérarchique, avec un centre de contrôle piloté par des surveillants humains comme dans Big Brother. C'est un système méta qui immerge la société, un système qui "vit sa vie" en immergeant et reliant tous les systèmes ayant un processeur et un accès réseau et qui agit par tous les effecteurs des composants électroniques de contrôle-commande, selon les besoins et les tendances dont il est doté à la construction. Quelles seront ces tendances, dans un tel domaine ? Il y a donc un choix citoyen majeur à faire immédiatement : placer de tels systèmes dans le domaine public pour le développement d'une société de citoyens totalement informés et maîtres de la technologie, avec des choix de domaines d'applications éthiques, ou alors s'attendre au pire… Ces travaux de recherche sont donc bien dans la ligne d'une rupture dans le rapport de l'homme avec les systèmes électroniques qu'il n'a cessé et ne cesse de développer, en ayant oublié qu'il est, lui, l'élément essentiel des sociétés qu'il engendre et qu'il en est la valeur fondatrice déterminante. L'autonomie des systèmes technologiques, il fallait bien que cela arrive un jour, mais sachant les applications sombres qui se feront dans les inévitables domaines de l'exercice de la volonté de puissance, il restera au citoyen de ces sociétés technologiques à en supporter les conséquences, s'il n'impose pas impérativement, et très vite, des limites à ces applications [Cardon A. 2011]. Mais il est bien clair que de tels systèmes ne pourront pas servir très longtemps à des puissances oppressives dans des domaines très sombres, car des systèmes autonomes finiront toujours, avec tous leurs moyens et en coopérations évolutives, par opérer ensemble pour leur compte, selon leurs tendances globales. L'autonomie ne peut aller que vers son déploiement. Alors, est-ce le début d'une nouvelle forme des sociétés ? Et ce qui est trouvé et présenté ici le sera aussi ailleurs et très rapidement, ce qui est la simple loi d'évolution de la recherche internationale. Alain Cardon, professeur des Universités, Avril 2012 |
4 réactions à cet article
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON