Noam Chomsky : les fausses promesses de ChatGPT - commentaires

Noam Chomsky : les fausses promesses de ChatGPT

L'appellation "Intelligence Artificielle" pose un problème car elle ne correspond pas à la réalité de ces algorithmes qui sont basés sur des probabilités et des compilations de données. Il s'agit plutôt d'une appellation marketing.

Il est également important de ne pas attendre de ces outils des notions morales car ce n'est pas leur but premier. En revanche, ils peuvent être très utiles en tant que stockage de base de connaissances et pour la recherche de réponses sur des connaissances particulières. Couplés à des moteurs de recherche, ils peuvent être pertinents dans certains domaines.

Cependant, il faut être conscient du biais des choix initiaux faits par les concepteurs des connaissances servant à entraîner les modèles. Ce problème existe déjà dans les moteurs de recherche qui mettent en avant certaines références plutôt que d'autres selon des critères et des algorithmes pas toujours neutres.

Dans certains domaines, comme le développement d'applications, les outils d'IA peuvent être très utiles et même bluffants. Mais il est important de ne pas en attendre plus qu'ils ne peuvent fournir et de bien comprendre leurs limites et leurs biais potentiels.

Noam Chomsky : les fausses promesses de ChatGPT

ChatGPT est un « perroquet stochastique » : https://flint.media/letters/dimanche/archives/4843

Noam Chomsky : les fausses promesses de ChatGPT

Bonjour Là-Bas et merci pour l'article ! Les termes d'intelligence artificielle me semblent inexacts. Parler de CULTURE artificielle serait plus juste. Ces robots ont, au cours de leur apprentissage, ingéré une quantité de connaissances plus considérable qu'aucun individu seul ne peut en posséder. Ceci leur permet de répondre à une très grande diversité de questions en synthétisant les connaissances ingérées en entrée. Il ne faut pas attendre de ces robots, en revanche, des idées novatrices, ni de la créativité, ni une forme de conscience. L'intérêt de ces robots est d'aller VITE et de ramener en un claquement de doigts des informations que l'on peut, certes, trouver par soi-même autrement mais en y consacrant une heure ou plus.

Je serai plus nuancé aussi sur la question de la moralité. Certes, ChatGPT est un ordinateur et donc intrinsèquement amoral. Par contre, il possède une moralité APPRISE. Ses concepteurs ont soigneusement borné ce qui est convenable et ce qui ne l'est pas. Vous ne ferez pas dire à ChatGPT, par exemple, que le vaccin Covid est une arme conçue pour décimer les peuples. Demandez à ChatGPT si Brigitte Macron est un homme et il vous répondra par une pleine page d'instructions moralisantes : il ne faut pas se moquer des minorités, etc. La question est interprétée comme une théorie du complot d'extrême-droite et le robot y répond par un tir de barrage visant à ramener l'internaute dans le droit chemin.

Noam Chomsky : les fausses promesses de ChatGPT

ChatGPT est basé un "modèle de langage". Chomsky est linguiste avant d'être philosophe. Il sait donc (ou devrait savoir) de quoi il parle.
Et de fait il a raison sur les limites de ChatGPT. Celui-ci n'est pas "intelligent", n'est pas armé pour raisonner et a fortiori pour prendre des positions morales, ou quelque position que ce soit. En fait (et c'est crucial), ChatGPT n'est même pas conçu pour trouver des informations correctement.
ChatGPT n'a qu'un seul talent : il sait "parler", c'est à dire analyser des textes et en produire. ChatGPT l'a d'ailleurs appris un peu comme nous le faisons : par analogie.
Mais dire qu'il le fait mal... c'est là que Chomsky se trompe.
Testons l'affirmation de Chomsky que "les subtilités de la langue (...) ne peuvent pas être assimilées" [par cette technologie]. Il propose l'exemple d'une certaine phrase en Anglais dont la syntaxe serait trop retorse, et je propose de soumettre le cas à ChatGPT.

Moi :
Please give alternate phrasings to the statement : "John is too stubborn to talk to".

ChatGPT :
1. It's impossible to have a conversation with John because he's so stubborn.
2. John's stubbornness makes it difficult to communicate with him.
3. Talking to John is a challenge due to his stubborn nature.
4. John's unwillingness to listen makes him a difficult person to talk to.
5. It's hard to get through to John because he's so set in his ways.

Désolé M. Chomsky, mais pour cet exercice, ChatGPT a 20/20.

Noam Chomsky : les fausses promesses de ChatGPT

Et, c'est pourquoi votre fille est muette !!!.....
Quelle connerie n'est-on pas en train d'inventer ???!!!.....
Pierre.

Noam Chomsky : les fausses promesses de ChatGPT

Le but inavoué, c'est l'abolition de la conscience humaine.. et un monde de clones télécommandés !! Le propre de toute dictature !!

Noam Chomsky : les fausses promesses de ChatGPT

L'intelligence artificielle, les drones, les QR code, la 5G, la miniaturisation, l'automatisation, les puissants algorithmes, ont tous en commun de nécessiter un monde regorgeant de ressources en matières et énergie. Les données sont têtues, ces matières et cette énergie manquent et vont décroitre très fortement. Préparons nous à ce futur slow et low tech, la nature ne nous laisse pas le choix. Je crois que ca rend optimiste. Même si à court terme les dominants tentent la sécession. Moins de pétrole égal moins de machine égal moins de chômage...

Noam Chomsky : les fausses promesses de ChatGPT

Les réponses de chatGPT se veulent cohérentes et impartiales, c'est pour l'heure l'ordre qui lui est donné !
En dehors des biais possible lors de son "apprentissage", on peut aussi imaginer que, dans un futur, quand son utilisation sera plus generalisée, l'ordre lui soit donné de privilégier une pensée plutôt qu'une autre.

Noam Chomsky : les fausses promesses de ChatGPT

A croiser avec cela : https://www.youtube.com/watch?v=1VefbIGCdQw
On doit parler de FI et non de AI : Fausse Intelligence. Je dirais même Fake Intelligence.
La mal-bouffe pour le mental, le contrôle total : "ça" décide pour nous, car c'est censé être supérieur.
L'horreur en boite, mais comme le dit Philippe Guillemant, ce sera aussi notre libération.

Noam Chomsky : les fausses promesses de ChatGPT

Ah ah ah ….en effet l'humour sauvera l'humanité des câbles électriques et des lignes (de coke euh …)de codes !

Noam Chomsky : les fausses promesses de ChatGPT

Le jour où, ayant posé à un robot une question absolument idiote mais parfaitement formulée, il me répondra simplement "et ta sœur ?", là je croirai à l'intelligence artificielle.

Noam Chomsky : les fausses promesses de ChatGPT

C'est incroyable, comme on a l'impression en lisant la conversation avec ChatGPT, de lire un document administratif décrivant n'importe quel problème de société !
Réveillons nous, nous sommes dans un cauchemar de Terry Gilliam !

Noam Chomsky : les fausses promesses de ChatGPT

Des qu'il vont essayer d'avoir le sens de l'humour, ils vont se faire repairer ! Jamais de la vie un robbot ne remplacera un humain c'est juste de la propagande ! Ce n'est que grace à internet qu'ils peuvent générer des phrases toutes faites déjà énoncées sur les fils de commentaires. Ils mentent ! L'intelligence artificielle n'existe pas ... En tout cas certainement pas en communication ...

Noam Chomsky : les fausses promesses de ChatGPT

Merci à Noam Chomsky pour sa clairvoyance, ses explications et l'intelligence de ses propos. Belle démonstration.

Noam Chomsky : les fausses promesses de ChatGPT

Ces derniers temps j'ai pu constaté les dégâts provoqués par la surexposition des écrans sur le développement cognitif, intellectuel de jeunes enfants.
Quand les apprentissages seront sapés, le langage restreint, la pensée amputée, le corps fossilisé, quelles seront les armes pour lutter contre ce lobby surpuissant ?