Contre le contrôle total. Mettre en place des comités citoyens de vigilance

Couvertures de 1984

photo par Colin Dunn https://www.flickr.com/photos/colindunn/
(CC BY 2.0) https://creativecommons.org/licenses/by/2.0/

Or, contrairement à nos attentes, nos précédentes mises en garde n'ont suscité aucune réaction, ni parmi nos lecteurs habituels, qui se comptent par dizaines de milliers, ni parmi le grand public. Certes nous ne sommes pas considérés comme suffisamment convenables pour être invités, les uns ou les autres, sur les tribunes médiatiques. Mais ces textes sont référencés par les moteurs de recherche et devraient inévitablement alerter ceux s'intéressant de près ou de loin à l'évolution des sociétés contemporaines.

Pourquoi cette indifférence ? La première réponse, la plus simple, est qu'un nombre infime de personnes, tout au moins en France, disposent des connaissances techniques pour comprendre concrètement ce dont il s'agit. Certes l'on trouve dans ce pays des dizaines de millions d'utilisateurs d'ordinateurs, de téléphones intelligents et de tablettes. L'on trouvera bientôt, dans tous les lieux publics, des dizaines voire des centaines de millions d' « objets connectés » dont l'on vante d'ores et déjà l'intérêt pour la facilitation de la vie quotidienne, tant des collectivités que des individus.

Mais fort peu de gens à ce jour se rendent compte des milliers d'informations concernant l'utilisateur que peuvent générer puis mémoriser ces petites machines. L'on se rend encore moins compte de la puissance des logiciels d'intelligence artificielle désormais implantés ou télé-implantables dans ces machines, les transformant en de petits cerveaux artificiels que l'on héberge chez soi ou dans sa poche.

Par conséquent, l'on ne soupçonne pas les flux permanents d'échanges en réseau qui font connaître au reste du monde des données, qu'elles soient ou non juridiquement protégées. L'on soupçonne pas davantage le nombre des centres de pouvoir, économiques et politiques, qui utilisent ces données pour organiser une surveillance, discrète mais efficace des citoyens, ceci où qu'ils soient et quels qu'ils soient. La surveillance, comme l'on peut deviner, est suivie très vite par le contrôle et même par ce que Alain Cardon désigne par le terme de contrôle total. Faut-il rappeler alors la formule de Michel Foucault, « Surveiller et punir ». Il n'est pas de surveillance sans contrôle ni de contrôle sans punition. Les déviants doivent être et seront punis.

« Je ne fais rien de répréhensible ».

Ajoutons que les usagers du web un peu conscients de la puissance des technologies qui se sont mises en place ne s'alarment pas, car ils ne se sentent pas concernés. « Je ne fais rien de contraire aux lois ou au moeurs, je demeure maître de mes achats ou de mes comportements, malgré les connaissances qu'accumulent sur moi les centres de surveillance. La France est un Etat de droit. Rien peut atteindre un bon citoyen ». De plus, se disent ceux qui réfléchissent à ces questions, comment les surveillants et les contrôleurs éventuels pourraient-ils être assez nombreux pour étudier et tirer profit des informations concernant chacun, parmi les milliards d'autres provenant de dizaines de millions de personnes ?

C'est là qu'il serait utile de bien comprendre les démonstrations publiées par Alain Cardon, et relayées par nous ou par quels rares autres « lanceurs d'alerte ». Il existe désormais ce que l'on pourrait appeler un écosystème numérique mondial, fait de données en masses (big data ) disponibles soit au sein de serveurs aux capacités presque infinies, soit transitant au sein des réseaux et pouvant être capturées en temps réel à la demande.

Dans cet écosystème circulent des automates logiciels intelligents capables de se piloter eux-mêmes et de prendre sans instructions extérieures les décisions assurant au mieux leur survie. Il s'agit en fait d'un phénomène de compétition darwinienne connu depuis des millions d'années dans le monde du vivant et ayant abouti, notamment, à ce que l'on nomme l'espèce humaine, dotée de cerveaux capables d'une certaine autonomie au service de leur propre survie.

Bien évidemment, ces logiciels ne prospèrent pas hors d'un environnement politique et économique susceptible de tirer parti des produits de leurs activités et de les aider à se reproduire. S'ils surveillent tout, si bientôt ils contrôleront tout de ce qui se fait dans le monde numérique, ils n'auront pas à eux seuls les capacités pour promouvoir les intérêts des organismes « officiels » en charge du renseignement et du contrôle politique, de l'intelligence économique, de la promotion des achats de biens de consommation. Il faudra qu'ils trouvent des preneurs de leur savoir faire. Ces organismes alors les reconnaitront en tant que bons serviteurs, les valideront et les institutionnaliseront. Ainsi les logiciels et les outils leur servant de support pourront engendrer de nombreux descendants.

Il faut aussi considérer que parmi les utilisateurs des produits de l'activité de ces logiciels autonomes se trouvent de nombreux intérêts malveillants ou criminels, qui utiliseront à leur profit les données, exactes ou inexactes fournies sur les individus.

Des systèmes autonomes

Les sceptiques ne désarment pas pour autant. A supposer que de tels logiciels intelligents se soient mis en place pour tirer parti des big data, il aurait fallu néanmoins que des humains aient initialisé leur naissance. Ces humains pourraient alors être poursuivis s'ils ont enfreint les règles relatives à la protection des données personnelles ou la prévention de leurs usages abusifs.

On peut admettre en effet que les logiciels évoqués ici ne sont pas seulement techniques, ils ont aussi une composante humaine. C'est ce que nous avions personnellement exposé dans un essai consacré à ce que nous avons nommé des systèmes ou des complexes anthropotechnique 2).

Mais là encore, de tels complexes anthropotechniques naissent et de développent en dehors de toute décision sociétale. Depuis que les hominiens se sont associés à des outils, eux mêmes de plus en plus perfectionnés, ils ont généré le développement et la compétition darwinienne de systèmes anthropotechniques dont les individus ne peuvent que constater passivement les services rendus mais aussi les ravages : les armes, les automobiles et désormais les objets numériques, pour ne citer qu'eux.

De plus, Alain Cardon a montré que des logiciels intelligents autonomes peuvent se générer puis se développer sans intervention humaine, voire à l'encontre des réglementations que leur imposeraient les humains. L'exemple le plus connu est celui des logiciels statistico-probabilistes à haute fréquence qui peuvent faire évoluer de leur propre chef les cours en bourse, d'une façon que les professionnels des marchés ne découvrent qu'après coup.

De tels phénomènes ne présentent rien d'étonnant. L'apparition et le développement des cerveaux biologiques et de leurs constructions cognitives collectives n'ont pas été décidés, à quelque stade de l'évolution que ce soit, ni par un démiurge extérieur, ni par des choix conscients et volontaires provenant de tels cerveaux. La science ne les découvre que progressivement, et encore de façon très partielle.

Une prise de conscience collective.

Dans ces conditions, vu l'ignorance ou la sous-estimation des dérives de la société technologique qui s'est constituée et ne cessera de s'étendre, la première riposte à envisager par ceux qui refusent cette dérive pourrait être de proposer, au niveau du grand public, des lieux collectifs où les citoyens pourraient d'abord se procurer les compétences minima nécessaires, ensuite décider de mesures de lutte. Ceci se fait déjà au niveau des communautés d'informaticiens qui développent des programmes susceptibles déjouer l'espionnage en ligne. Mais cette démarche reste confidentielle.

De plus, il ne faut pas se faire d'illusions. Les pouvoirs organisés en Système pour maintenir les citoyens sous surveillance et contrôle ne se laisseront pas faire. Aujourd'hui les articles tel que celui-ci dénonçant le contrôle numérique n'ont, nous l'avons remarqué plus haut, qu'un faible écho, parce qu'ils n'ont aucune diffusion. Ils ne présentent pas de grands risques. Au contraire, ils servent d'alibi : « Voyez comme nous sommes libéraux, diront les Pouvoirs, Nous acceptons les contradicteurs ». Certes, mais si la contradiction s'étendait, elle devrait être éliminée.

La tentation serait donc de se résigner à l'évolution du monde résumée ici. Cette évolution sera à accepter de la même façon que l'on accepte la disparition de ce qui reste du monde d'hier, voire la dérive des continents ou tout autre phénomène de nature méta-historique.

Cependant nous nous sentirions coupables de ne pas essayer d'utiliser tous les outils que nous offre notamment l'internet. L'objectif serait de promouvoir dans la France entière la formation de ce que l'on pourrait nommer des comités de vigilance citoyens. Nous pourrions à notre niveau mettre en ligne des supports d'exposés et didacticiels dépourvus de toute technicité et fournis, en open-source, aux militants décidant de s'impliquer localement dans la formation de tels comités de vigilance citoyens. Parallèlement, des blogs permettant de discuter de ces questions pourraient être encouragés. L'ensemble pourrait alors se développer sur le mode viral, dans le cadre de réseaux échappant à tout contrôle central. Nous en reparlerons.

27/06/2014
Texte en discussion

Notes

1. Voir notamment Alain Cardon, « Vers un système de contrôle total » Edition Automates-Intelligents 20 octobre 2011, publié en libre accès sous Licence Creative Commons.

2. J.P. Baquiast. Le paradoxe du Sapiens 2010.