Le danger peut venir d’une génération de machines, plus ou moins interconnectées, ayant en commun un but, un ’programme’ en contradiction avec la survie de l’espèce humaine.
Pour le moment nous en sommes loin, très loin. Les machines sont entièrement dépendantes des humains comme les virus le sont des organismes vivants. Bien qu’il soit en théorie possible d’éduquer un robot pour aller se brancher lui-même, en pratique les machines sont fabriquées, entretenues, alimentées, et programmées par des humains. Donc avant que les machines acquièrent globalement une sorte de conscience qu’il existe une rivalité ou une incompatibilité avec l’espèce humaine, il coulera encore de l’eau sous les ponts.
Il y a cependant un risque immédiat. nous abandonnons de plus en plus des tâches de contrôle sécuritaires à des machines. Ceci concerne les vols aériens, le déclenchement des armes stratégiques, le contrôle des centrales nucléaires. Qui sait demain nous roulerons dans des trains, des voitures, des avions, entièrement autonomes.
Le danger peut venir des machines par l’homme interposé. On voit que les systèmes sont de plus en plus fragiles et résistent mal aux intrusions malveillantes (pb des virus informatiques). Le déclenchement de cataclysmes soit par incompétence, soit par négligence, soit par malveillance deviendra avec le temps de plus en plus grand ; mais, à travers les machines c’est bien l’homme qui reste et restera longtemps le plus grand danger pour l’homme.