L’espèce en pilotage automatique... ou en roue libre ?

 L’utilisation croissante des technologies numériques a transformé radicalement la nature d’une multitude de métiers. L'automatisation envahit notre quotidien et jusqu'à notre vie intérieure - du gadget "connecté" à la voiture sans chauffeur bientôt... Elle se solde par la déqualification généralisée des travailleurs et la dévalorisation permanente de nos compétences, intelligences et savoir-faire… Est-il encore possible de freiner la course de la machine infernale qui pixélise le monde à la mesure de notre techno-mania et nos addictions gadgetovores ? Ou bien la laisserons nous piloter notre vie ?

En juin 1964, le magazine Réalités consacrait un numéro spécial à l’avenir, dirigé par l’académicien Louis Armand (1905-1971). Ce dernier se réjouit que « la machine, si elle crée des problèmes, nous donne les moyens de les résoudre, et c’est ce qui permet de concevoir un raisonnable optimisme »… En ce temps-là, la nouvelle Renault 8 Major au moteur Sierra 1100 se vendait à 7490 francs et le diagnostic par endoscopie faisait son apparition. Le mot d’ordre était : « Achetez une machine, elle résoudra tous vos problèmes  »… Jean-Louis Clément arbitrait le match homme-machine en ouvrant son article sur cette interrogation : « Si la troisième guerre mondiale doit un jour éclater, l’Histoire ne posera qu’une question ; ce ne sera pas : « Qui a gagné ? » mais « Pourquoi la guerre a-t-elle commencé ? » Nous devons tout faire pour ne pas être obligés de répondre : « Parce que l’ordinateur a dit qu’il fallait le faire ».

Cela a failli arriver près de vingt plus tard, en 1983 – mais la décision humaine, alors, a évité la catastrophe… Aujourd’hui, celle-ci pourrait bien avoir de moins en moins de latitude depuis le 9 octobre 2010 : ce jour-là, le roboticien Sebastian Thrun, annonce la mise au point par Google « des voitures capables de conduire toutes seules  »… Jusqu'alors, il était communément admis que l'humanité tenait encore ferme entre ses mains le volant de son évolution - et la barre de son aventure vitale...

Pour Nicholas Carr qui signe un essai mettant en garde contre l’automatisation intégrale de la société, « l’irruption des voitures sans conducteur bouleverse plus que notre seule conception de la conduite »… Désormais, le rôle des humains se réduirait-il juste à "envoyer des signaux électroniques aux ordinateurs qui dirigent leurs véhicules" comme leur vie ? 

La voiture « autonome » et la frénésie innovatrice auront-elles raison de la décision humaine ? Annonceraient-elles un modèle civilisationnel fondé sur une guidance algorithmique de notre existence et le dessaisissement de notre pouvoir de décision voire sur la suppression de nos ultimes marges de liberté et la soumission à la méga-machine ?

No limit !

La parole est à la machine. Le monde est vide comme un écran. Nicholas Carr, considéré comme l’un des principaux penseurs critique du numérique aux Etats-Unis, avait publié Internet rend-il bête ? (Robert Laffont, 2010) et interroge le « grand remplacement » de la main-d’œuvre humaine par les machines.

Le vertige technologique du « progrès-qu’on-ne-peut-pas-arrêter » emporte nos sociétés, brise les digues censées garantir des principes fondateurs comme il brise les existences… Au-delà des problèmes moraux posés par les drones et autres robots tueurs comme par les voitures sans conducteur, l’automatisation de la société interpelle en bousculant voire balayant les « normes, les principes et les valeurs de la société et par conséquent l’ensemble des rapports sociaux et des relations humaines »...

Depuis l’invention du levier, de la roue et du boulier, constate Nicholas Carr, « nous n’avons jamais cessé de déléguer des tâches aussi bien physiques qu’intellectuelles à des outils toujours plus sophistiqués  »…

Mais l’outil informatique, « loin de nous avoir ouvert de nouvelles perspectives, a fortement réduit nos capacités d’action et de réflexion  » et impose « la logique de l’automatisation dans la culture au sens large  »… Ainsi, « des services publics aux liens amicaux et familiaux, la société se reconfigure pour s’adapter à la nouvelle infrastructure numérique »…

Puisque chacun de nous se voit sommé de « gérer sa vie au travers d’écrans, la société adapte en conséquence son mode de fonctionnement pour qu’il corresponde à celui de l’ordinateur »…

Si l’automatisation dans l’aviation civile altère le contrôle cognitif des pilotes tout comme l’usage immodéré des GPS altère nos facultés d’orientation, un mode de vie ultra-connecté « au moyen » d’une profusion de gadgets « intelligents » s’insinuant dans nos environnements ne nous prive-t-il pas de l’usage de nos sens ? N’atrophie-t-il pas nos facultés et ne fait-il pas le lit d’une rampante déshumanisation à la mesure de nos addictions technophiles à « nos applis » et autres capteurs de performances ?

Sommes-nous assez sûr de connaître les « motivations commerciales, politiques, intellectuelles et éthiques des programmateurs de logiciels  » pour nous en remettre à leurs intentions, compte tenu de l’opacité des lignes de code ? Au fond, le logiciel est-il conçu « pour nous aider ou pour nous contrôler  » ?

En 1964, les maîtres de l’économie annonçaient : « Le temps où l’homme d’affaires peut faire joujou avec l’ordinateur est terminé. Ou il saura donner à la machine un rôle essentiel dans son entreprise, ou l’entreprise découvrira un jour ou l’autre que c’est lui qui n’est plus un rouage essentiel »…

A Détroit, le président-directeur-général de Ford se flattait d’en connaître « plus et plus vite » sur l’activité de sa filiale de Malaisie que le directeur de celle-ci… Quel désastre a emporté Détroit depuis ?

Au-delà du constat de notre dépendance aux systèmes automatisés, Nicholas Carr suggère des solutions alternatives : « Nous feignons d’ignorer comment les logiciels et les systèmes automatisés pourraient être reconfigurés de telle sorte qu’ils augmentent notre compréhension du monde, au lieu de la réduire »…

Mais « la société » retrouvera-t-elle le « point d’équilibre entre la puissance de calcul des ordinateurs et la finesse du jugement humain  ». La « part de raison » dont elle a investi la machine pour aboutir à un « monde plus organisé » n’a-t-elle pas tourné à un programme de conquête interrompu précisément du monde et du vivant ?

Avant d’avoir une société ressemblant de plus en plus à une « conversation entre machines », il faut bien être conscient que les « problèmes socio-économiques provoqués ou exacerbés par l’automatisation ne seront pas résolus par un surcroît de technologie »… Pas plus que notre qualité de vie et le bien-être social ne peuvent être assurés par un surcroît d’asservissement à un arsenal de gadgets numériques de plus en plus envahissants.

Bien au contraire, ils passent par une limite imposée au fondamentalisme technologique qui franchit un seuil critique et outrepasse notre consentement - jusqu’à nous dérober notre réalité sensible.

L’ « optimisme raisonné » de l’académicien Louis Armand (polytechnicien promotion 1924) est-il encore de mise ? Ou faudrait-il envisager d’urgence la définition de « droits naturels » et fondamentaux, propres aux humains et opposables à toute dérive siliconienne qui les violerait ?

Nicolas Carr, Remplacer l’humain – critique de l’automatisation de la société, éditions L’Echappée, 268 p., 19 €