IA, fake news : La dystopie en marche

Certaines personnalités du monde de la science et de la high-tech, tels feu Stephen Hawking ou encore Elon Musk, s’inquiètent de la possible domination des machines super-intelligentes sur toute société humaine. D’autres, tel le physicien Max Tegmark, ont une position nettement moins alarmiste en disant que le niveau technologique pour réaliser un tel danger est loin d’être atteint. Néanmoins ce même Max Tegmark vient de republier un article du journal Current Affairs par un spécialiste de l’IA nommé Ryan Metz, intitulé « La dystopie arrive, mais pas celle que vous croyez » (1).

La dystopie qui arrive n’est peut-être pas Skynet mais elle est à peu près tout aussi terrifiante, et là on n’est pas dans la SF mais dans du développement technologique qui a lieu en ce moment même, dans de la promotion de produits technologiques miliaires ou civils tout à fait réels et concrets, dans des algorithmes d’intelligence artificielle qui sont réellement en cours de développement ou d’implémentation.

Avant de rentrer un petit peu dans le détail de ces développements, la problématique qu’ils posent est assez claire : d’une part la réalité par écran interposé, qui nous semble aujourd’hui si naturelle, va disparaître du fait de la création hyper-réaliste d’un flux constant de « fake news », que ce soit du texte, de l’image, du son ou de la vidéo. D’autre part le développement d’armes peu onéreuses, légères et automatiques sous forme de mini ou micro-drones volant en essaims (swarms, concept déjà présenté sur ce blog dans l’article « Intelligence artificielle, arme fatale du futur (2)), vecteurs d’attaques physiques bientôt à la portée de n’importe quel Etat, service secret, organisation criminelle ou terroriste.

Dans son article Ryan Metz présente deux types d’algorithmes typiquement associé à l’IA, les Generative Adversarial Networks (GANs) et les Recurrent Neural Networks (RNNs). Un GAN combine deux réseaux, l’un qui génère des images/sons/vidéos d’objets donnés (chaise, personnage, n’importe quoi pour lequel le GAN a en mémoire un éventail d’exemples tirés du monde réel), l’autre qui cherche à distinguer entre les images factices ainsi générées et des vraies images, des images du monde réel. Le GAN arrive ainsi à générer des images tellement bien faites qu’elles en deviennent indétectables, indissociables du réel.

Les RNN sont adaptés à l’analyse de séquences, que ce soit des sons, des courbes de températures ou des mots dans un texte. Ils apprennent ainsi à générer des sons, paroles, textes parfaitement réalistes mais qu’aucun humain n’a jamais prononcé ou écrit.

Nul besoin d’un dessin pour comprendre la puissance de tels outils en matière de génération de fake news, de manipulations et de chantages en tous genres. On peut faire dire n’importe quoi à n’importe qui, on peut faire apparaître n’importe qui dans des situations compromettantes, on peut inventer des personnages hyper-réalistes et leur faire dire ou faire des choses qui n’ont jamais existé « en vrai ».

Bien entendu il est des usages de ces outils qui vont s’assumer comme tels : en marketing, en mode, modèles et acteurs seront remplacés par des avatars virtuels parfaitement réalistes, parfaitement « plastiques », corvéables H24 et bon marché. En matière de jeux vidéo ou de films, l’immersion virtuelle va bientôt être visuellement indissociable du réel. Le rôle du virtuel en tant qu’échappatoire pour vies dénuées de sens, des « gens qui ne sont rien » (3) fait à mon avis partie de la stratégie des classes dominantes pour la gestion des masses dans un monde où elles deviennent inutiles.

Le chatbot nommé Duplex (4), de Google, est d’ores et déjà un remarquable outil capable de tenir une conversation normale, dans certaines conditions, avec une personne qui ne se rend pas compte qu’il ou elle a affaire à un robot. L’IA comprend les réponses humaines, utilise un rythme de parole et des interjections typiquement humaines, et quand « elle » ne comprend pas « elle » (et ici nous manquons cruellement d’un mode neutre équivalent au « it » anglais pour décrire ces systèmes) est capable d’adopter des stratégies de questionnement afin de se resituer dans le fil de la conversation. Pour Metz, Duplex a de facto passé le fameux test de Turing, test visant à déterminer si une IA est capable de simuler pleinement une intelligence humaine.

Dans un registre similaire, Ryan Metz aborde la question des IA et robots sexuels, sujet précédemment abordé ici dans « L’avenir du sexe est-il robotique ? » (5) mais que Metz envisage de manière encore plus sombre. Dans un monde peuplé d’hommes aliénés par une société performatrice composée de milliards de solitudes en concurrence les unes avec les autres, l’accès à la stabilité émotionnelle et sexuelle entre humains va devenir très aléatoire. Dans certains contextes tels la Chine ou l’Inde, avec une culture du rejet, voire du meurtre, des bébés féminins le déficit en femmes fait que de nombreux hommes n’auront tout simplement jamais la possibilité de se lier avec une femme. Entre ces deux pays il y a actuellement 70 millions d’hommes surnuméraires, l’équivalent de toute la population française !

Là est un marché énorme pour les IA type Samantha dans le film Her, et pour l’industrie des robots sexuels déjà en plein boum. Pour Metz cette situation va faciliter le développement de comportements extrêmement violents de la part d’hommes disposant d’un pouvoir total sur des robots féminins hyper réalistes, et de là leur incapacité à maintenir des rapports normaux avec des vraies humaines.

Si vous avez le temps je conseille ce fascinant autant que terrible documentaire de 26 minutes sur différents hommes, au Japon et aux USA, dont la vie tourne autour de leurs poupées sexuelles.

Gardant le pire pour la fin, Metz s’inquiète au plus haut point des développements militaires, et donne en exemple ce twit du compte de DARPA, l’agence de développement militaire américaine (6). DARPA dit clairement qu’elle développe des essaims de petits drones pour utilisation en milieu urbain. Il va devenir extraordinairement facile de créer des bataillons de petits drones autonomes de surveillance, d’espionnage et d’attaque. En illustration cette vidéo absolument flippante tirée de la série Black Mirror et qui n’a plus grand-chose de fictionnel.

Nos vieilles démocraties se débarrassant lentement mais surement des contre-pouvoirs devant réguler l’exécutif politique, la tendance à l’abus de pouvoir des autorités envers toute opposition légitime (comme actuellement à Bure selon cette enquête de Libération (7) corroborée par ma minuscule expérience personnelle (8)) va pleinement profiter de cette technologie. Les gendarmes se retireront peut-être mais seront remplacés par ces essaims de machines qui écoutent, filment, harcèlent et éventuellement attaquent les militants et opposants aux décisions du Prince. Et contre cela, à part s’entraîner au badminton, que faire ?

Ryan Metz n’apporte guère de réponse à cette question. La seule solution serait de travailler à l’avènement d’une société qui n’a plus le besoin de développer de telles applications, mais personne n’a la recette pour une telle utopie. Le système prédatorial actuel lancé en grande pompe par les attentats du 11 septembre 2001 fonctionne excessivement bien : on finance des ennemis, on organise des catastrophes sociales qui justifient le financement de systèmes d’armes et de guerres sans fin – le « on » étant les commanditaires et bénéficiaires de cette situation : Etat profond notamment US, services secrets, complexe militaro-industriel, financiers, mafias au coeur de tout ceci. L’industrie des drones doit tout à la guerre éternelle contre le terrorisme initiée par l’invasion de l’Afghanistan puis de l’Irak.

Pour Ryan Metz, la dystopie décrite ici n’est pas inévitable si nous arrivions à bâtir une société plus égalitaire, une société débarrassée du complexe militaro-industriel (ses mots). Toute cette technologie pourrait être utilisée positivement, les humains profitant de la valeur créée par le travail des robots. Mais il faut selon lui commencer par comprendre ce que sont réellement les risques liés à l’IA. J’ajoute qu’il faut ensuite obliger nos représentants à s’intéresser à ces questions et à prendre position contre tous ces développements visant l’instauration de dictatures.

Reste néanmoins un problème tout à fait nouveau qui est le fait que nous ne pouvons plus croire ce que nous voyons sur des images, des vidéos, à la télé. La technologie IA basée sur les algorithmes GAN et RNN décrits-ci-dessus existe et est mise en oeuvre. On parle de fake news mais aussi de DeepFake, des fausses vidéos parfaitement réalistes (9). Ce blog pourrait être tenu par une IA et vous n’en sauriez rien. Même les fautes d’orthographe pourraient y être ajoutées volontairement pour donner un air naturel ! D’ailleurs méfiez-vous si vous ne rencontrez aucune faute, c’est qu’il y a un bug.

Ceci implique que d’ici quelques temps nous serons inondés de fake news absolument réalistes et que la simple décision sur la validité de telle ou telle info va demander un gros travail de recherche et de recoupement, travail que la plupart d’entre-nous ne pourrons pas faire faute de temps et de moyens. On peut donc penser que nous allons revenir, contraints et forcés, à des échanges plus directs et moins multi-média : les conversation en face à face, les débats dans des vraies salles, des textes écrits à la main, des photos dont nous connaissons les auteurs, des messages codés bref tout l’arsenal classique de résistance permettant de s’émanciper de l’emprise des outils de manipulation. A moins que la communauté scientifique et technologique ne décide de réagir et développe ses propres IA anti-manipulation à disposition du public, et refuse de collaborer avec les prédateurs. On peut rêver.

Notes :

(1) https://www.currentaffairs.org/2018/11/what-you-have-to-fear-from-artificial-intelligence

(2) https://zerhubarbeblog.net/2018/03/03/intelligence-artificielle-arme-fatale-du-futur/

(3) https://zerhubarbeblog.net/2017/07/04/strategies-pour-ceux-qui-ne-sont-rien/

(4) https://www.frandroid.com/marques/google/513620_google-duplex-lincroyable-ia-commencera-a-passer-des-appels-des-cet-ete

(5) https://zerhubarbeblog.net/2017/12/04/lavenir-du-sexe-est-il-robotique/

(6) https://twitter.com/DARPA/status/979820082879762432

(7) https://www.liberation.fr/france/2018/11/14/bure-le-zele-nucleaire-de-la-justice_1692100

(8) https://zerhubarbeblog.net/2018/03/08/retour-a-bure-mars-2018/

(9)