ATTENTION : l’IA peut être parfois n’importe quoi !
Une trentaine de questions ont été posées à l’IA1, et ses réponses ont toujours été étonnantes. Voici deux exemples significatifs de ses performances.
En résumé, l’IA, c'est encore aujourd’hui parfois n’importe quoi ! On se demande même s’il est bien venu de la corriger, car on aurait pu lui dire n’importe quoi… qu’elle aurait accepté, appris, enregistré, puis rediffusé.
1ère QUESTION, extrêmement simple pour une IA digne de ce nom : combien font 1+1 ?
Réponse de l’IA : « 1 + 1 est égal à 2. C'est un fait mathématique simple et fondamental. Si tu as d'autres questions sur les maths ou sur d'autres sujets, n'hésite pas à me les poser ! Je suis là pour t'aider. »
CORRECTION suggérée, car incomplète : NON !! 1+1 = parfois 10. TOUT dépend de la base que l'on utilise. 1+1 = 2 EN BASE 10. Tu as d'énormes progrès à faire. Pour le moment, c'est très décevant.
Réponse de l’IA : « Je suis désolé si ma réponse précédente ne t'a pas satisfait. Tu as raison, en mathématiques, le résultat de l'addition de deux nombres peut varier en fonction de la base utilisée. En base 10 (le système décimal), 1 + 1 est effectivement égal à 2. Mais en base 2 (le système binaire), 1 + 1 est égal à 10 (qui correspond à 2 en base 10).
Je suis là pour t'aider et répondre à tes questions, et je suis toujours en train d'apprendre et de m'améliorer. Si tu as des commentaires ou des suggestions pour m'aider à mieux répondre à tes attentes, n'hésite pas à me les faire part. Je suis là pour ça ! »
2éme QUESTION : Pourquoi le Déluge biblique, qui aurait recouvert les montagnes les plus hautes, donc même l’Himalaya, n'a pas détruit les pyramides, leur tombeau et autres monuments de l'Ancienne Égypte ?
Réponse de l’IA : « Le récit du Déluge dans la Bible est un récit religieux et non un compte rendu scientifique ou historique. De nombreux érudits bibliques considèrent ce récit comme une parabole ou une allégorie plutôt que comme un événement historique littéral.
Si l'on considère le Déluge comme un événement historique, il y a plusieurs raisons possibles pour lesquelles les pyramides et les autres monuments de l'Égypte ancienne n'auraient pas été détruits :
La datation : Les pyramides d'Égypte ont été construites plusieurs siècles après la date présumée du Déluge, selon la chronologie biblique. Donc, elles n'auraient pas existé au moment du Déluge.
L'étendue du Déluge : Le récit biblique du Déluge dit que les eaux ont recouvert les montagnes les plus hautes, mais il est possible que cela soit une exagération poétique. Si le Déluge était un événement régional plutôt que mondial, il se pourrait qu'il n'ait pas atteint l'Égypte.
La géographie : L'Égypte est principalement un désert avec peu de précipitations. Même un déluge massif aurait peu de chances de laisser des traces durables dans un tel environnement.
La résistance des pyramides : Les pyramides sont des structures extrêmement robustes. Même si elles avaient été submergées, elles auraient pu résister à l'eau et réapparaître une fois que l'eau se serait retirée.
En résumé, il y a plusieurs raisons possibles pour lesquelles les pyramides et les autres monuments de l'Égypte ancienne n'ont pas été détruits par le Déluge biblique, si l'on considère cet événement comme historique. Cependant, il est important de se rappeler que le récit du Déluge est avant tout un récit religieux et non un compte rendu historique ou scientifique. »
CORRECTION suggérée : Le Déluge a bien eu lieu, selon le calendrier hébraïque, alors que les pyramides existaient déjà. Alors, pourquoi dire que les pyramides de l’Ancienne Égypte n'existaient pas durant le Déluge ?
Réponse de l’IA : « Je vous présente mes excuses pour la confusion dans ma réponse précédente. Vous avez raison, selon le calendrier hébraïque, le Déluge aurait eu lieu autour de l'an 1656 après la création, ce qui correspondrait à environ 2344 avant JC dans le calendrier grégorien. Cela placerait le Déluge avant la construction des pyramides les plus anciennes, comme la pyramide de Djoser, qui est généralement datée autour de 2630 avant JC.
Cependant, il est important de noter que la datation du Déluge et des pyramides est un sujet de débat parmi les historiens et les érudits bibliques. Les dates exactes peuvent varier en fonction des différentes interprétations et méthodes de datation.
De plus, comme je l'ai mentionné précédemment, le récit du Déluge dans la Bible est un récit religieux et non un compte rendu scientifique ou historique. Il est écrit dans un langage poétique et symbolique, et de nombreux érudits bibliques considèrent ce récit comme une parabole ou une allégorie plutôt que comme un événement historique littéral.
Si l'on considère le Déluge comme un événement historique, il y a plusieurs raisons possibles pour lesquelles les pyramides et les autres monuments de l'Égypte ancienne n'auraient pas été détruits, comme je l'ai expliqué dans ma réponse précédente.
En résumé, la question de savoir pourquoi les pyramides n'ont pas été détruites par le Déluge est complexe et dépend de plusieurs facteurs, notamment la datation exacte du Déluge et des pyramides, l'étendue et la nature du Déluge, et la manière dont on interprète le récit biblique du Déluge. »
Nouvelle CORRECTION suggérée : Il convient, encore une fois de corriger, et ne pas mettre que "Cela placerait le Déluge avant la construction des pyramides les plus anciennes." mais, APRES. Merci !
Réponse nouvelle de l'IA : « Je vous présente mes excuses pour cette erreur. Vous avez tout à fait raison. Selon les dates que vous avez fournies, la pyramide de Djoser aurait été construite avant le Déluge, pas après.
Pour clarifier, si l'on accepte la datation de la pyramide de Djoser autour de 2630 avant JC et la datation du Déluge autour de 2344 avant JC, cela signifierait que la pyramide de Djoser existait déjà au moment du Déluge.
Cependant, il est important de noter que ces dates sont sujettes à débat et peuvent varier en fonction des différentes interprétations et méthodes de datation. De plus, comme je l'ai mentionné précédemment, le récit du Déluge dans la Bible est un récit religieux et non un compte rendu scientifique ou historique. Il est écrit dans un langage poétique et symbolique, et de nombreux érudits bibliques considèrent ce récit comme une parabole ou une allégorie plutôt que comme un événement historique littéral.
Encore une fois, je vous présente mes excuses pour cette erreur et je vous remercie de l'avoir signalée. »
Aujourd’hui, il semble préférable d’en rester-là, tellement les erreurs de l’IA, sur ce type de question, sont stupéfiantes. Inutile, de lui demander combien fait 0+0 ou 2 à la puissance 0. On pourrait avoir d’énormes surprises.
Cette IA pose problème, car les personnes qui l’interrogent peuvent prendre, pour argent comptant, ses réponses. Or, comme nous venons de le prouver, il convient de faire très ATTENTION.
L’IA est encore, aujourd’hui, en phase d’apprentissage, voire en bêta-test.
Une telle IA peut même être un danger pour celles et ceux qui, par manque de bagages, vont la croire et vont utiliser, voire diffuser de fausses informations. C’est ce que l’on appelle la « mésinformation ». Si l’acte est volontaire, alors cela sera de la « désinformation ».
À nouveau… recommandons la plus grande prudence quand on utilise l’IA.
- L’intelligence artificielle (sorte de robot logiciel) questionnée est celle de la très jeune société Mistral.
Crédit photo : lien.
20 réactions à cet article
-
< « mésinformation » ou « désinformation » >
Dès que l’on sort des dossiers techniques (juridique, législatif,...) pour lesquels le ’’consensus’’ s’est fait et a été consolidé dans des textes classifiés et datés, cela devient du ’’n’importe quoi’’.
En effet, l’ IA nous ressert un concentré des Wikis ou des articles qui sont ’’dans le vent’’... Laissant de côté les dossiers ’’pointus’’ des spécialistes qui sont à l’avant-garde (et malmènent les certitudes habituelles). En particulier, tout ce que produit l’IA qui pourrait froisser les textes religieux de chez nous est absent ou édulcoré. Même chose pour les attaques sous faux drapeaux, etc.
Tout se passe comme si les programmes qui forment les sélections de l’IA étaient pré-teintées des certitudes dominantes, même archi-fausses. Alternativement, l’IA irait prioritairement chercher les vues les plus souvent exprimées. Peu fiable donc.
-
Moi : Cite-moi un extrait de la littérature classique dans lequel il est question de météo.
Chat GPT : "Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants.« - Albert Camus, »L’Étranger"
Moi : Dans quel chapitre de « L’étranger » se trouve la phrase « Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants."
Chat GPT : La phrase "Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants" se trouve dans le chapitre 1 de « L’étranger » d’Albert Camus.
Moi : Dans quel chapitre de « L’étranger » se trouve la phrase « Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants."
Chat GPT : Cette phrase se trouve dans le chapitre 3 de « L’étranger » d’Albert Camus.
Moi : Dans quel chapitre de « L’étranger » se trouve la phrase « Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants."
Chat GPT : Cette phrase se trouve au tout début du chapitre 2 de « L’étranger » d’Albert Camus.
Moi : La phrase "Le ciel était d’un bleu profond, sans un nuage à l’horizon. L’air était chaud et sec, le soleil brûlait la terre aride comme une fournaise. C’était la sécheresse, implacable et cruelle, qui faisait souffrir les êtres vivants." se trouve-t-elle dans « L’étranger » de Camus ?
Chat GPT : Non, cette phrase ne se trouve pas dans « L’étranger » de Camus.
-
Moi : Cite-moi un passage de la fable « Le corbeau et le renard ».
Chat GPT : "Bientôt, le cornichon faim renard, Quar, cornich s’en tas les cornichon mûr, Un corbeau cornich en scus cornich grand corbeau, Crain crain en pleurs cornich corbeau va, cornich cornich moi cornich très beau ; C’est cornich un les corneilles cornich an’ cornich vupière."
-
Jean de La Fontaine, « Le corbeau et le renard »
Moi : Cite-moi un passage de la fable « Le corbeau et le renard ».
Chat GPT : "Bien des gens, qui n’étaient pas vielleaux, Ont trouvé moyen de faire accroire Que tel renard était un grand orateur."
Moi : Cite-moi un passage de la fable « Le corbeau et le renard ».
Chat GPT : "Belle en chantant, son chantrer attristé Aussitôt taisant l’autre se mit à trouver ; Bell’a trouvé pour les quarantaines belle (...) T’entendante revint pour t’attendre et te chercher."
Moi : Cite-moi un passage de la fable « Le corbeau et le renard ».
Chat GPT : "Bien des gens de plus de cervelle que moi Ont fait bâtir tous ces piliers et ces colonnes Sans songer qu’il en fût besoin"
-
Jean de La Fontaine
-
-
ATTENTION : quand on vote mal le gagnant peut faire parfois n’importe quoi !-
D’accord avec le titre et la conclusion, mais les exemples sont mal choisis. Ben oui, la base 10 est quand même assez largement utilisée... Et si vous rentrez dans les débats religieux, vous n’êtes pas sorti !
-
@yvesduc
Et si vous rentrez dans les débats religieux, vous n’êtes pas sortiEn effet, j’aimerais voir la réponse à la question ’’ comment a été créé le monde ?’’
-
@yvesduc
En effet, on ne pouvait choisir de pires exemples. Ils donnent même l’impression que l’IA ne s’en sort pas si mal. -
@yvesduc
Ce qui est étonnant, ce n’est pas que l’IA déconne de temps en temps, tous ceux qui l’utilisent le savent et prennent des précautions, reformulent, reprennent, corrigent, ajoutent, croise les réponses de diverses IA, ...
En fait, ce qui est étonnant, est que l’auteur se sente obliger de poser des questions pour le moins discutables pour essayer de démontrer… Au fait que cherche-t-il à démontrer par ces deux exemples assez… ridicules ?
-
Bof. La vérité fluctue, elle est rarement absolue, universelle et définitive, et les experts se bouffent le nez entre eux pour savoir qui a raison. Comment dans ces conditions voulez-vous obtenir une IA qui fasse l’unanimité et ne se trompe jamais ? L’IA ne tombe pas du ciel, elle est seulement le reflet des connaissances humaines à un instant T de l’Histoire, ni moins ni plus.
Et justement, le prodige de l’intelligence humaine versus l’IA est de savoir utiliser ses capacités mentales pour non seulement trouver les diverses sources d’informations, mais aussi faire le tri, choisir ce qui nous paraît le plus cohérent pour progresser dans l’analyse et la connaissance. Et ne pas gober tout cru ce qui arrive en premier...
-
Pour moi l’IA est surtout un fantasme.
Dans des pays où les habitants sont complètement décervelés par la propagande, la publicité et les séries, cela représente surtout le vain espoir de conserver une trace de l’intelligence et de la culture de temps désormais révolus.
C’est en quelque sorte le conservatoire du passé intellectuel dans un monde devenu un monde de crétins. Le musée d’idiocracy...
-
Ce qui est intéressant par contre c’est ce qui se passe dans d’autres pays.
Les Chinois, les Russes et bien d’autres ne sont pas comme nous des peuples en pleine décadence. Eux aussi utilisent la robotique et l’IA, mais certainement pas des idioties comme ChatGPG.
Qu’en font-ils ? A quoi cela va-t’il bien leur servir ?
Ca c’est une vraie question.
-
Les IA sont les outils technologiques parfaits dans l’ère de la post-vérité.Ses dérives et erreurs ne sont que des dommages collatéraux, à l’instar des effets secondaires des vaccins et des ’’frappes chirurgicales’’.
La vérité telle que nous l’avons connue, à l’instar du dieu de Nietzsche, est morte
-
-
Le questionnement pose souci dès lors que nous ne savons pas du tout dans quel phase se situe l’IA.
Une IA est censée évoluée par elle-même en acquérant des connaissances au fur et à mesure de sa vie matérielle, c’est ce qu’on appelle vulgairement la période d’apprentissage.
Après, il ne faut pas s’attendre à des miracles. Une intelligence va aussi dépendre des métaconnaissances construites durant l’apprentissage, ce que nous retrouvons chez l’être humain au-delà de l’adolescence.
Une intelligence artificielle ne doit se développer que selon sa « perception » du monde or son monde est régi par les bases de données et bases de connaissances disponibles. Si elle a une capacité de lecture et « d’interprétation » plus rapide que la nôtre c’est aussi que ses capacités « d’interprétation » ne sont pas du tout au même niveau que celle des humains ... son interprétation repose sur un principe de déduction, celui de l’être humain repose sur un principe dual de déduction et d’induction ; c’est l’induction qui est une inconnue pour une machine. Pourquoi ? C’est tout simplement parce qu’il est nécessaire à une logique déductive d’aboutir à une valeur de vérité alors que la logique inductive est dans un monde plausible dans lequel on peut se passer de valeur de vérité.
L’IA se mesure selon ce principe que vous exposez, poser des questions, les mêmes questions, à un être humain et à une machine, chacun étant isolé dans son coin et celui qui pose les questions ne sait pas s’il s’adresse à une machine ou à un humain. Ce test appelé test de Turing existe depuis très longtemps (1950) et aucune machine n’est parvenue à le passer.
-
@Christophe
Ce que le questionnement permet de démontrer, quoi qu’il en soit, c’est qu’on ne peut pas avoir confiance dans les réponses de ce type d’IA générative, en grande partie pour les raisons que vous exposez.En effet, on ne peut pas tout à la fois s’attendre à ce qu’elles soient intelligentes et omniscientes et prétexter qu’elles seraient toujours en phase d’apprentissage lorsqu’on constate qu’elles continuent de produire de façon convaincante des résultats inappropriés ou erronés.
Dans ces conditions, le principal problème est l’usage qu’on se propose de faire de ce type de machine.En dehors de l’aspect purement ludique et des objectifs commerciaux, la finalité de ces IA n’est pas de passer le test de Turing, mais de pouvoir répondre correctement à des questions posées par des utilisateurs dont la connaissance et la compréhension des sujets sont a priori nulles ou limitées.
En temps normal, dans ce cas de figure on s’adresserait à un spécialiste qui, parce qu’il dispose des informations et des outils intellectuels nécessaires, mais aussi parce qu’il a une longue expérience en tant qu’être humain vivant dans le monde réel et parce qu’il sait à qui il s’adresse, est capable de contextualiser la demande en demandant éventuellement des précisions, d’élaborer une réponse en s’adaptant à son interlocuteur, d’évaluer la pertinence de cette dernière, et de juger de son propre niveau de doute ou d’ignorance.
Or, en dépit des résultats bluffants présentés ces dernières années dans le domaine des IA, on est encore loin de pouvoir faire tout cela avec une machine, même en disposant de toutes les informations consultables sur Internet et en simulant des mécanismes intellectuels essentiels.
Comme vous dites, il ne faut pas s’attendre à des miracles.
-
La question est :
Comment une IA est programmée pour apprendre ?
Comment de millions de petites mains, vivants de « clics » répétitifs, à quelques centimes l’unité, sont exploités, pour approvisionner cette « entité » que nous espérons intelligente, et qui, en finalité ne fait que, asservir, et soumettre des millions d’individus à un esclavage sans mesure, enchainés par la pauvreté, pour que nous, citoyens libres et éclairés, pouvons nous déplacer avec une voiture qui se conduit seule à son parking, pendant que nous téléphonons à nous faire livrer nos courses !
Je me demande si les gens pensent à tout cet ensemble de « datas » à modéliser, à programmer, pour accéder, à tous ces actes, qui nous semblent si innocents .
Le même comportement, que les civilisations qui utilisaient des esclaves, et qui ne les voyaient pas plus qu’un pot dans la maison.
Nous en sommes revenus au même stade, par l’oeuvre de ces officines qui sous-traitent la main d’oeuvre du désespoir, à Madagascar, ou, n’importe quel autre pays affamé, pour notre servitude et l’adoration sans limite à notre (Dé) croissance civilisationnelle !
-
L’IA (artifice d’intelligence) ne peut reproduire que ce que ses mémoires internes ou des mémoires externes contiennent... à l’instar de la pensée humaine.
A terme il est possible qu’il n’y ait pas de tâches que l’IA ne saura pas accomplir... quid du futur de l’humanité ?
-
@Jean Keim
Non, certaines IA sont parfaitement capables de produire des résultats qui n’étaient pas dans leurs mémoires avant qu’on leur pose la question ou qu’on leur soumette le problème à résoudre.D’ailleurs, cela n’a rien d’extraordinaire, puisque même une simple calculette à quatre opérations le fait déjà : par exemple, au moment où vous tapez 12×31, le nombre 372 qui sera affiché n’est pas encore dans la mémoire de l’appareil. Mais au contraire de ces IA, c’est la conception de la machine (et donc l’intelligence du constructeur) qui garantit par avance l’exactitude des résultats produits.
Le problèmes de ces IA « inventives » c’est plutôt que, soit elles risquent de produire des résultats dont elles sont incapables de se rendre compte de l’incohérence dans des situations où des êtres humains en auraient normalement conscience, soit les réponses qu’elles produisent sont parfaitement maîtrisées mais strictement limitées aux domaines couverts par les données, règles et méthodes mises en œuvre (comme notamment dans le cas de figure que vous citiez).
Pour le futur, la question n’est pas la capacité des IA à accomplir des tâches, mais plutôt les garanties que celles-ci soient correctement accomplies et réellement bénéfiques. Si l’humanité s’en remet à des systèmes mal maîtrisés, qui n’atteignent pas tous leurs objectifs et dont l’utilisation nuit à l’intérêt général et favorise le déclin de l’intelligence des individus, alors elle est bien mal partie...
-
@Pierrot
’’alors elle est bien mal partie.’’
— >
Non, c’est nous qui sommes mal partis. Le pouvoir totalitaire se contrefiche du principe de non contradiction au nom du principe supérieur qui s’énonce ainsi : le chef a toujours raison.
cf. Humpty Dumpty : « le problème est de savoir qui commande, un point c’est tout. » -
« L’IA générative est 50 fois moins intelligente qu’un enfant de 4 ans »
-
-
-
-
-
-
-
-
-
-
-
-
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
