La Machine de Turing est certes dénuée de « conscience autonome », mais elle n’en reste pas moins capable de processi décisionnels complexes, associant à une foule croissante de paramètres des suites de plus en plus étendues d’algorithmes.
Ce qui, sans même envisager les aspects éthiques soulevés - notamment en robotique militaire ou médicale - par la programmation de performances décisionnelles attribuées de manière autonome à la machine, soumet toujours plus nos destins à l’épée de Damoclès d’une perte de contrôle systémique du fait d’un bug, d’une erreur ou d’une malveillance logicielle fatidique. Il suffit pour s’en convaincre de constater l’ampleur des effets de la perte momentanée de contrôle sur les réacteurs nucléaires de Fukushima.
Du Golem au Frankenstein de Mary Shelley ou au « HAL 9000 » de Stanley Kubrick dans « 2001, Odyssée de l’Espace », le mythe nous met avec constance en garde contre le danger que constitue pour son créateur la perte de contrôle et l’émancipation de sa créature.
PS : Une large part de l’oeuvre visionnaire de Philippe K. Dick aborde sous différents angles, et parfois en parallèle avec celle de la schizophrénie, la question de la « conscience » étendue aux machines et robots.