La vérité sur l’Intelligence Artificielle

@perlseb
"C’est vrai, l’intelligence artificielle n’existe pas, du moins, pas encore. Par contre, c’est également le cas de l’intelligence humaine : elle n’existe pas non plus. Quand on voit le monde tel qu’il est..."

J’ai essayé de mettre le doigt sur les avantages de la machine par rapport à l’homme : elle ne connait pas le stress, la fatigue, la déstabilisation... mais j’ai aussi mis le doigt sur les avantages de l’homme qui sait s’adapter, négocier, créer...

Ces idées sont dans la vidéo que je vous invite à écouter. Des exemples sont illustratifs. Il faut déduire que les machines ne pourront jamais avoir l’intelligence humaine...

La discussion que j’ai ouverte dans un autre article est la plus importante : « socialisme ou barbarie ». L’intelligence qui pourrait permettre à l’homme de se libérer d’une quantité de contraintes ne sera d’aucune utilité s’il ne peut se sortir du carcan que lui impose la société capitaliste. L’humanité peut sombrer dans la barbarie.

@perlseb
"Il y a beaucoup d’études qui montrent que l’IA sait s’adapter. Si c’est le but recherché, alors on crée des réseaux neuronaux évolutifs, non figés, donc avec un apprentissage perpétuel (c’est juste un paramètre que l’on choisit).« 

J’aimerais avoir des précisions sur ces études. Pouvez vous me donner des références ? Des ouvrages et des travaux expliquant ce que vous appelez des »réseaux neuronaux évolutifs« .

A propos des »réseaux neuronaux« , il est acquis qu’il n’y a rien qui ressemble de près ou de loin à des neurones dans un ordinateur. L’idée de »réseau neuronal« n’est qu’une métaphore pour expliquer la possibilité de faire de la rétro-propagation. Il serait possible de parler de connexionnisme sans jamais parler de »réseau neuronal« . Il ne s’agit que de faire évoluer des valeurs numériques pour simuler une forme d’apprentissage. Des nombres représentant les poids des connexions entre les neurones (connexion des synapses) évoluent dans la période d’apprentissage...

Les discours sur le connexionnisme et les réseaux neuronaux ont été très en vogue dans les années 1980 et 90.

Sauf erreur de ma part, ces travaux sont totalement abandonnés. Ils ont pendant un temps alimenté le mythe des »gros ordinateurs" : ce qui n’était pas possible avec des petits ordinateurs deviendrait possible avec de très très gros ordinateurs. Le connexionisme demandait en effet beaucoup de puissance de calcul et l’idée était que les ordinateurs pourraient apprendre autant que nécessaire... Je pense qu’on est tombé dans de la mystification mais je veux bien qu’on me montre que j’ai tort.

@perlseb

Bonjour,

Je vais donc essayer de poursuivre cette conversation commencée hier. La première phrase de mon article est : « L’Intelligence Artificielle est un sujet à la mode qui permet surtout à n’importe qui de dire n’importe quoi ».

Sans vouloir être désobligeant, je crois que vos commentaires confirme mon avertissement. Vous écrivez par exemple :

"ce qu’il faut, c’est bien comprendre comment la machine se débrouille (en apparence, très mal par rapport à un humain) : ce qu’on lui donne en entrée, les règles parfois très simplistes pour qu’elle s’améliore, et le champ immense des possibilités qu’elle peut essayer (tel un bébé sans parent qui ne sait rien du monde) . Et « petit à petit », elle va progresser. Pour jouer au go de manière « intuitive »"

Vous rendez vous compte que vous faites de la littérature (fort mauvaise) en reprenant des clichés sur les prétendus exploits de l’IA. Vous ne faites que répéter, sans rien montrer, que « la machine se débrouille... », « elle s’améliore... », « elle va progresser... »

J’espère que vous voyez qu’à aucun moment vous n’expliquez comment une machine « se débrouille », « s’améliore », « progresse »... Dès le départ de votre discours vous prêtez aux machines des qualités humaines qu’elles n’ont pas. Je vous ai demandé de donner des exemples de travaux pour illustrer votre propos. Dans votre réponse, vous faites comme les falsificateurs qui, dans le domaine de l’histoire, invente de fausses citations. Quand on leur demande d’où ils sortent ça, ils nous expliquent comment on peut aller chercher d’où elles viennent.

Votre réponse était : "On peut facilement trouver des exemples de ce que l’IA peut faire dès aujourd’hui, par exemple en cherchant des vidéos de noms de boites qui travaillent dans l’IA (taper Deepmind dans Youtube en donnera un certain nombre).« 

En tapant »machin« sur Youtube ou Google, j’ai beaucoup de choses mais rien qui réponde à la question.

Je m’en tiens là. Je vous conseille la visualisation de la vidéo référencée en fin de l’article. Vous pourrez notamment trouver des exemples de ce que l’homme peut faire et de ce que les machines ne savent pas faire comme à propos de la circulation automobile autour de l’arc de triomphe à 18h (la négociation).

Je vous donne un exemple plus personnel en Traitement Automatique des Langues. Comment un ordinateur peut trouver le sens de l’expression »avoir une opportunité« dans l’exemple suivant  ?

  »Des jeunes filles, qui ont fait leurs études ensemble à l’université de Roseville, se retrouvent à l’occasion d’un séminaire à Paris. L’une des demoiselles demande justement à celle qui vient d’être recrutée comme ingénieur de recherche :

— Mais, comment tu as fait pour obtenir ce poste ?

L’heureuse promue commence à répondre :

— Et bien, tu comprends… J’ai eu une opportunité…

Une troisième, goguenarde, l’interrompt :

— Oh ! Tu appelles ça comme ça toi : « avoir une opportunité ». Comme c’est charmant. Et… ça ne t’a pas trop fait mal à l’anus d’avoir une opportunité ?

La promue prend un air offusqué :

— Je t’en prie ne sois pas vulgaire.

Une autre étudiante renchérit :

— C’est vrai que toi tu es beaucoup plus délicate que nous.

Mais très vite, la promue trouve l’argument qui va faire taire toutes les critiques :

— Mais, vous savez les filles, il va y avoir d’autres postes."

@perlseb

"De la même manière qu’on a imité grossièrement les oiseaux pour construire des avions, on construit des réseaux neuronaux qui imitent grossièrement notre cerveau.« 

L’exemple que vous donnez mérite réflexion car pour construire des avions, il a fallu abandonner l’idée d’imiter le vol des oiseaux avec des ailes qui battent.

Il a fallu trouver que deux fonctions devaient être dissociées : la sustentation et la traction. Les ailes remplissent ces deux fonctions chez les oiseaux. On voit que les ailes agissent le très différemment selon les oiseaux qu’on observe. Les goélands planent souvent et les corneilles battent des ailes sans arrêt.

On a disjoint ces deux fonctions avec des ailes pour assurer la sustentation (comme chez le goéland) et un ensemble moteur+hélice pour assurer la traction et cela aucun oiseau ne le fait.

En fait l’homme, qui est intelligent, a mis en œuvre la technologie qu’il maitrisait à ce moment-là. Comme quoi il ne s’agit pas seulement d’imiter mais d’être capable de voir ce qui doit être imiter et ce qu’il est possible de faire avec les techniques que nous maîtrisons. J’ai un peu développé dans l’article un aspect de ce qui se fait dans la »théorie des jeux« . L’homme est imité sur certains points : l’anticipation, la recherche de l’amélioration de sa position plutôt que la recherche d’emblée de la victoire finale... Sur certains points, on utilise le fait que la machine peut être plus performante que l’homme en particulier, la machine est capable de faire des calculs sur davantage de coups d’anticipation.

Les hommes ont eu l’ambition avec le connexionnisme d’imiter »grossièrement notre cerveau" et ce fut surtout un échec. Plus précisément, ce qui a été réussi avec le connexionnisme a été réussi mieux et à moindre coût (avec moins de ressource) par d’autres techniques.

@perlseb

Vous parlez beaucoup de réseaux neuronaux mais je me demande si vous savez bien de quoi il s’agit. J’ai déjà dit qu’il ne s’agit que d’une métaphore et qu’il n’y a rien dans un ordinateur qui ressemble à un neurone ou, par conséquent, à un réseau de neurone. L’expression est en fait inutile et elle a pour effet d’introduire à elle seule un mythe. Puisqu’on parle de neurones ce serait donc obligatoirement qu’il y aurait un rapport avec l’intelligence. C’est faux ! Il n’y a aucun rapport. Il s’agit uniquement de faire varier des nombres qui, dans la métaphore sont censés représenter la force des liaisons entre les synapses. En d’autres termes, on parle aussi de poids des connexions.

Il est donc possible de parler du connexionnisme sans jamais parler des réseaux neuronaux et ce serait, de mon avis, beaucoup plus sain. Il est en effet malsain de faire passer une idée uniquement par l’usage d’une métaphore.

Notons que dans les sciences cognitives la métaphore fonctionne maintenant aussi dans l’autre sens. Certains parlent par exemple de différentes formes de mémoire chez l’humain en comparant avec les ordinateurs (mémoire à long terme ou mémoire à court terme). Dans un sens, l’ordinateur devient un cerveau et dans l’autre sens le cerveau devient un ordinateur. C’est de la grande mystification !

@perlseb
Bonsoir,
Je ne vous reproche nullement de parler de « réseaux neuronaux ». Effectivement vous faites comme tout le monde et je fais comme vous. C’est inévitable. J’exprime seulement un regret à ce sujet. Je regrette cette appellation qui était justifiée au départ comme une métaphore et qui a été reprise depuis sans insister sur le fait que ce n’est qu’une métaphore. Cela a contribué à entretenir la confusion avec cette assimilation : ordinateur= cerveau.

@Lynwec
"Sur un autre sujet, le spam conséquent de l’intervenant Mirlabobo laisse supposer un bannissement-censure, qui est bien entendu un privilège de l’auteur d’un article, ou de la modération sur demande, mais révèle toujours une faiblesse argumentaire, quels que soient les raisons avancées, y compris les insultes« 

Il s’agit non pas d’un privilège mais de ce que je considère comme une obligation pour un auteur sur AgoraVox. J’ai expliqué pourquoi je considère que c’est une obligation dans un article intitulé  »modération des forums« qui est malheureusement censuré sur AgoraVox. Il est regrettable que cette discussion ne soit pas au contraire encouragée. Voilà ce que j’ai écrit à ce sujet dans l’article :

 »Sur les forums où la discussion commence par la publication d’un article, il est normal que la modération soit assurée par l’auteur qui soumet son article à la discussion. J’approuve le principe du fonctionnement de la modération sur AgoraVox. Les auteurs ont en effet la possibilité de signaler des abus et de demander le blocage de commentateurs. En principe, ils ne font que des demandes et il ne leur appartient pas de prendre la décision. En fait, la suite est assurée par un processus automatique et c’est donc l’auteur qui prend la décision. J’aimerais autant que ce soit dit clairement : les auteurs ont la possibilité de supprimer des messages et de bloquer des commentateurs pour la durée de leur choix.

Nous voyons, avec ces règles, que tout auteur a la possibilité de supprimer tous les commentaires qui le contredisent ou simplement le dérangent. S’il le fait, la discussion de son article sera extrêmement restreinte mais c’est à lui d’assumer ce choix. Remarquons que, quand un commentateur n’est pas satisfait qu’un de ses messages soit supprimé, il a la possibilité de demander à l’auteur de s’expliquer et il est sain que cela soit fait. C’est ainsi que chacun peut progresser. Dans d’autres forums, comme les blogs de Médiapart, les auteurs ont la possibilité de fermer complètement la discussion. Il reste toujours possible de répondre à un article par un autre article. C’est d’ailleurs la forme d’expression qui doit être encouragée sur un site de journalisme citoyen.

A l’inverse, certains auteurs laissent agir à leur guise les bandes de trolls qui débarquent dans une discussion pour y chasser en meute avec moultes vociférations. Quand il y avait des dizaines de milliers de lecteurs sur AgoraVox, ceux-ci ne pouvaient pas se satisfaire de ces flots d’insultes diverses et variées en guise de commentaires. Cela est dissuasif. Il faut faire en sorte que les lecteurs aient envie de lire les discussions tout autant que les articles. Il ne faut pas autoriser n’importe quoi. Il est possible, sans jamais faire de censure, d’écarter les injures, insultes, attaques personnelles, règlements de compte, acharnements, harcèlements, déformations de pseudo ainsi que les hors sujets et autres multiples techniques de trolls comme les répétitions de messages qui ne visent qu’à encombrer la discussion. Le résultat est édifiant. Cela fait une énorme différence pour le résultat final. Il suffit de comparer une discussion convenablement modérée avec certaines foires d’empoigne."

Vous avez le droit de penser que la modération que j’assure n’est pas bonne mais le résultat est là. Nous avons, pour l’instant, 185 commentaires et je pense que la discussion s’est menée sereinement.

Vous affirmez que tout bannissement "révèle toujours une faiblesse argumentaire, quels que soient les raisons avancées, y compris les insultes« . Cela mériterait d’être expliqué. Je dois donc aussi rappelé que la discussion n’est pas toujours possible et qu’il faut donc savoir y mettre un terme. Voici donc ce que j’ai écrit en introduction dans mon article sur la modération des forums.

 »Nous ne vivons pas dans un monde de bisounours. Il serait bien illusoire de croire que la discussion serait toujours possible entre les individus quelles que soient les circonstances. Les combattants qui s’entretuent sur divers fronts ne discutent pas ensemble. Les habitants d’Hiroshima et de Nagasaki n’ont pas eu l’occasion, en 1945, de discuter avec ceux qui leur ont envoyé une bombe atomique. Dans les camps de concentration, personne n’a vu les SS, les kapos et les prisonniers tenir des débats philosophiques ou politiques. Les africains réduits à l’état d’esclaves pour aller travailler en Amérique, dans les champs de coton, n’ont pas discuté de leur sort avec les esclavagistes. En URSS, pendant les 500 jours de la grande terreur (1937-1938) les 1500 fusillés et les 1600 déportés, victimes chaque jour de Staline et de ses sbires, n’ont pas davantage eu l’occasion de débattre de leur sort… (...) Actuellement quand les trolls de Prigojine interviennent sur des forums, ils n’ont pas davantage l’intention de discuter que les tueurs de Wagner. Ils ont le même patron et ils poursuivent la même politique."