Haro sur l'IA.

D'un anonyme à propos du numérique en Suède :

 

"Le numérique est tenu responsable de la baisse de niveau des élèves. Les écrans en classe ne favorisent en rien la culture générale. Que l'on soit pour ou contre cette mesure, il faut bien reconnaître les limites de la digitalisation. À l'heure où on ne parle que de ChatGPT, la Suède souhaite revaloriser les connaissances, la transmission de savoir, l'apprentissage par la réflexion personnelle. L'usage des écrans entraîne aussi : fatigue oculaire, sédentarité, douleurs musculaires, sommeil perturbé... En entreprise, on peut parler de surconsommation digitale, d'épuisement physique, de charge mentale... dus aussi en partie par l'overdose numérique"

 

Cette belle lucidité est donnée en guise d'introduction aux quelques aphorismes qui suivent et qui, tous, concernent l'IA (l'Intelligence Augmentée ou l'Invasion Algorithmique , comme voudra …).

 

*

 

Ce que l'on nomme l'IA n'est que l'impression (l'illusion) d'une capacité de simulation, portée par des algorithmes et amplifiée par une énorme puissance de calcul et de mémorisation.

 

*

 

De Séverine Erhel à propos de l'impact de la surutilisation d'écrans chez les enfants (mais aussi chez les adultes) :

 

"Les risque de cette surconsommation sont largement documentés : déficit dans les interactions, dette de sommeil, difficultés scolaires, syndromes dépressifs."

 

Bref, le sur-usage des écrans induit un autisme zombique.

 

*

 

Le but des promoteurs d'écrans en tous genres est de "capter notre attention et de la conserver".

Une forme d'hypnose dont la finalité cachée est de faire de chacun un zombie passif et soumis : une forme d'addiction mentale qui veut briser le lien entre l'esprit et la réalité.

 

 

*

 

De Daniel Andler :

 

"Car à trop se reposer sur la machine pour prendre des décisions, c'est notre autonomie que l'on abandonne."

 

Et cet abandon d'autonomie, c'est-à-dire de cette confiance que l'on cultive en soi d'être capable de l'accomplissement de soi et de l'autour de soi, c'est renoncer à vivre par soi-même.

 

*

 

Paul Ekman a défini six émotions de base : la tristesse, le joie, la peur, la colère, la surprise et le dégoût.

Elle sont toutes simulables !

 

*

 

L'immense erreur des neurosciences qui, insidieusement, alimentent les délires de la soi-disant "intelligence artificielle", est l'immense et terrible confusion entre l'esprit et le cerveau.

Le cerveau n'est qu'un des nombreux outils dont dispose l'esprit.

Et l'esprit c'est, tout à la fois, de la sensibilité analytique, de l'intuitivité holistique, de la volonté intégrative, de la volonté individuante, de l'intelligence logique, de l'intelligence créative et de la conscience émergentielle afin de dissiper au mieux les tensions entre ces six pôles.

L'algorithmie, elle, ne fait que simuler de l'intelligence logique.

 

*

 

De Todd Lubart à propos de la créativité :

 

"S'il s'agit de faire du neuf avec de l'ancien sans valeur ajoutée ni but précis, l'homme a tout intérêt à apprendre à rédiger un bon prompt et à s'en remettre à l'IA. Mais s'il s'agit de création pure, sans lien évident avec ce qui a déjà été inventé par l'homme, alors seul un être humain en sera capable."

 

Encore une fois, l'algorithmie simule de la créativité en brassant d'énormes quantités de matériaux déjà existants, et en les assemblant d'une certaine façon "neuve" dictée par l'algorithme. Mais il n'y a là aucune créativité. Au mieux, peut-il sortir de là, par hasard, quelques curiosités qui ne seront telles que dans la tête de l'humain qui les découvre ; l'ordinateur, lui, n'aura aucune conscience d'avoir engendré une "trouvaille".

 

*

 

D'Anne Alombert à propos des "transformers" :

 

"Ce modèle se base sur les corrélations de mots les plus fréquentes dans un certain contexte pour comprendre la requête et construire de nouvelles phrases en réponse. Celles-ci ont du sens pour nous, mais elles ne sont que le résultat d'un calcul statistique. En réalité, ChatGPT ne comprend pas un mot de ce qu'il raconte. C'est la raison pour laquelle il est incapable de contrôler la véracité de ses dires."

 

Sur base strictement statistique (donc purement calculatoire, en l'absence de toute analyse et compréhension sémantiques), l'algorithme émet des énoncés plausibles (pour celui qui les lit) ce qui l'amène à renoncer à réfléchir par lui-même et à faire siennes des opinions ou des convictions préfabriquées, mais sans le moindre fondement réaliste, induisant, ainsi, l'effondrement de tout esprit critique et de toute démarche scientifique.

 

*

 

De Yuval Noah Harari :

 

"Il est dangereux de parier sur une compétence spécifique. Il vaut mieux se concentrer sur le fait d'apprendre à apprendre et la capacité à changer tout au long de sa vie. (…) Il faut aider les gens à cultiver une personnalité capable d'accepter les changements de la vie."

 

C'est-à-dire, selon le Forum économique mondial : l'audace, l'empathie, la curiosité, la créativité, l'intelligence émotionnelle et la gestion du stress.

 

*

 

De Raja Chatila :

 

"En réalité, un savoir n'a d'intérêt que s'il est vivant. La capacité de mémoire des machines ne doit pas nous dispenser d'apprendre. (…) D'une part, parce qu'il n'est pas possible d'aller chercher de la documentation sur ce dont on ignore même l'existence. D'autre part, car construire un raisonnement nécessite d'avoir assimilé un certain nombre de connaissances, puis de les mettre en perspective et de les interroger."

 

Bref : ne jamais confondre "érudition" (mémorisation en masse de savoirs ponctuels) et connaissance (structuration ordonnée de savoirs interconnectés).

 

*

 

De Laurent Oudre :

 

"le terme IA est peu apprécié dans le monde académique. Les algorithmes et modèles sont pourtant construits par des humains. On entend beaucoup parler de révolution, mais ce n'est pas le cas. les fondements mathématiques restent les mêmes. Il ne faut jamais oublier qu'à l'origine des nouveaux outils comme ChatGPT, il y a de l'intelligence humaine. (…) on est impressionné, mais les limites de l'outil se font vite sentir. (…)

Ce n'est pas l'algorithme qui est intelligent, mais tous les scientifiques qui ont travaillé dessus pendant des années. Sans expertise humaine, les algorithmes ne tiennent pas."

 

De la poudre de perlimpinpin, de l'illusion au sens illusionniste, de l'esbrouffe vide de sens et de valeur : du "faire-semblant". Bref : de la simulation.

 

*

 

De Théo Denorme :

 

"Beaucoup d'entreprises présentent l'IA comme un outil magique. Mais elles oublient qu'il y a beaucoup de maths derrière. Les personnes qui utilisent l'IA aujourd'hui ne craignent pas de se faire remplacer. La compétence restera toujours la plus importante."

 

Mais le centre de gravité des compétence humaine grimpe et se déplace.

 

*

 

La culture reste l'écrit.

L'audio-visuel n'est que divertissement et asservissement.

 

*

 

L'image tue l'imagination. Le texte la requiert.

 

*

 

De Michel Desmurget :

 

"Je pense qu'on surestime les capacités des IA, qui restent globalement très bêtes. En fait, elles ne sont encore que des moteurs de recherche améliorés qui combinent et mettent en forme les informations des premiers sites identifiés, sans interroger leur pertinence effective. Mais cela risque de ne pas durer, tant les progrès sont rapides. Personne, je crois, ne dit qu'il faut éradiquer ces outils, mais il faut être vigilant quant à la façon dont on les utilise. Ce qui serait inquiétant, ce serait que l'on s'en remette à des logiciels d'IA pour penser à notre place. C'est pourtant ce que font déjà nombre d'étudiants qui, loin de s'appuyer sur la machine pour nourrir et éclairer leur intelligence, utilisent cette dernière pour faire leur travail. C'est là une évolution dramatique parce qu'à terme, si nous acceptons de marcher sur cette voie, plus l'IA deviendra "intelligente", plus nous deviendrons stupides. (…)

A ce jour, redisons-le, l'IA n'est ni très intelligentes ni très créative. Elle reflète strictement les biais, âneries et associations statistiques de ses corpus nourriciers. (…) L'IA réarrange l'existant sans le dépasser. Cela ne signifie pas qu'il faut rejeter l'outil. Il peut être utile dans nombre de domaines (notamment le traitement de grandes masses de données), mais uniquement si l'on reste conscient de ses limitations. Dans le cas contraire, il se révèlera aussi dangereux que désastreux."

 

Et il en a été ainsi de toutes les grandes innovations techniques. Ce n'est pas la technologie qui est bonne ou mauvaise, mais bien la finalité et la manière de son utilisation par les humains.

 

*