Malédiction artificielle ?

Je viens d’apprendre que « l’intelligence artificielle » (du moins les algorithmes populaires) apprend des questions qu’on lui pose. Si bien que des questions « paresseuses » produisent un logiciel paresseux. Or, justement, c’est pour cela que, massivement, on l’utilise : parce que nous n’avons pas le courage de penser par nous-mêmes ou d’agir.

Ce qui m’a rappelé un des grands principes de systémique qui remonte, au moins, à Héraclite. C’est l’énantiodromie. En gros, c’est « qui veut faire l’ange fait la bête ». Ou « qui sème le vent récolte la tempête ». Si l’on déclenche un « phénomène », sans le contrôler, on obtient le contraire de ce que l’on cherchait. Or, l’Intelligence artificielle, c’est exactement cela : un « machin » que l’on ne comprend même pas, mais qui est supposé devenir « super intelligent » !

Voici un commentaire que me fait un spécialiste du sujet :

Si l’on part de la conclusion de ton billet (c’est à dire : il (Google) semble victime du fric et de l’intelligence artificielle. Le premier parce qu’il faut payer pour être vu, la pertinence du contenu n’entre plus en jeu, le second parce que toute requête, même parfaitement rédigée, est interprétée et déformée. Curieusement l’IA semble convaincue que l’homme est un boeuf…), je ne dirai pas cela aussi fort mais il y a beaucoup de vrai dans cette phrase.

J’ajouterai néanmoins une potentielle explication pour cette situation. En effet certains se sont aperçus que du fait que les gens se servent de Chat Gpt ou Grok ou l’équivalent pour questionner Google via des scripts (« prompts » dans le langage de l’IA) de faible niveau sémantique, les réponses sont au diapason du niveau des questions, c’est à dire pauvres en matières de contenu. Comme elles sont par ailleurs extrêmement fréquentes elles viennent charger les « data repositories » des algorithmes LLM, en labellisant des scénarios quasi identiques pour le moteur associé à IA générative choisie, et de facto impactant le comportement de Google. Au début, ceci n’est pas apparu clairement, mais au bout d’un certain temps, ces ajouts systématiques (d’une grande vacuité d’intérêt) aux processus d’apprentissage continus créent un biais cognitif que certains ont signalé (dont toi dans ton post), comme de la « pauvreté sémantique » une sorte d’infection du processus.

Ceci se discute néanmoins, rappelons que des approches IA génératives sont capables de produire des « hallucinations » (*) non expliquées (voir note), mais ce n’est sans doute pas le cas ici, en revanche un biais cognitif lié à la pauvreté du contenu sémantique peut créer des distorsions de comportement des moteurs « transformers ».

(*) Hallucination : En simplifiant, si on fait une demande à un outil d’IA générative, ce dernier doit normalement donner un résultat qui répond de manière appropriée à la demande (c’est-à-dire une réponse correcte et cohérente à une question). Cependant, il arrive que les algorithmes d’IA produisent des résultats qui ne sont pas basés sur des données d’apprentissage, et qui de plus sont mal décodées par le transformer ou ne suivent aucun modèle identifiable. En d’autres termes, on dit que le modèle génératif « hallucine » la réponse.

Complexité évolutive

Apparemment, l’évolution des espèces ne serait pas un processus progressif et lent, mais de longs calmes-plats seraient suivis de sortes de feux d’artifice. (Article.)

Je me demande si le changement humain n’est pas de ce type. Par exemple, j’ai toujours été surpris par l’évolution de la physique. Jusqu’à l’après guerre, elle semblait suivre une ligne droite, puis elle a divergé en une multitude de spécialités. Il en est un peu de même des sports reconnus par les jeux olympiques. Bientôt, il y aura des médailles pour tout le monde.

Bon conseil

Je n’ai pas suivi les conseils que l’on m’a donnés. Et je constate que j’ai eu tort. La cause est, au fond, évidente : je n’avais aucune expérience. En revanche, cela a fait de moi une « pierre qui roule » qui a exploré énormément de recoins qu’elle n’aurait pas dû connaître.

En fait, j’ai été de mon temps. La « pensée 68 » voulait que l’homme fasse ce qu’il voulait. C’est comme cela qu’il fallait épouser la personne que l’on aimait. D’où une vague de divorces sans précédent. Et beaucoup d’enfants malheureux.

Victoire de la « pensée simplifiante », dirait Edgar Morin ? Incapacité d’embrasser la complexité du monde ? Ce qui, au fond, est le travail de la « raison » ? Mais aussi, paradoxale vertu de l’irrationalité ? Ruse de la complexité ?

Le mieux que l’on puisse espérer est une forme de « prudence » à la Grecque ? Contrôler l’amplitude du changement, en évitant les extrêmes, idéologies et autres révolutions ? Mais, pour le reste, il faut apprendre à utiliser habilement l’aléa ? Comme le joueur de cartes avec sa « main » ?

Pacifique

L’exploration du Pacifique. Une série d’émissions paisibles. Idéales pour l’été. Une rediffusion de France culture. (Le Pacifique, en long et en large : première de dix.)

On suit Bougainville et Cook. Et on découvre les hasards de la navigation. Les erreurs se mesuraient en milliers de kilomètres ! A tel point que l’on craignait de venir se fracasser contre quelque terre inconnue. Et ce d’autant que l’on s’est longtemps gardé de donner des informations exactes sur ses découvertes. Si bien que les cartes étaient fantaisistes. Je me suis demandé si le progrès des sciences n’avait pas fait massivement régresser les connaissances humaines. Et si ce n’était pas toujours le cas. Chaque découvreur croit qu’il peut se passer de ce qui l’a précédé ?

Il était aussi question de navigateurs de Dieppe, qui auraient parcouru le monde au quinzième siècle (avant Colomb) et auraient produit des cartes relativement précises, dont une de l’Australie ! Mais eux, leurs voyages et leurs cartes auraient disparu de la mémoire collective.

Ces voyages étaient l’aventure, au sens premier du terme. On ne savait pas ce que l’on allait trouver. Et tout ce que l’on trouvait était extraordinaire, pays, nature, sociétés. Peut-être même fut-ce la dernière fois que l’on a connu de véritables aventures.

Au fond, la véritable recherche de ces navigateur était la connaissance de la nature humaine. On était au temps de Rousseau. Ce qu’ils ont trouvé était bien plus extraordinaire que de bons sauvages. Il y a ceux qui vous agressent sans vous connaître, ceux qui vous séduisent, ceux que vous laissez indifférents, car ils n’ont aucun désir, et qui n’ont d’ailleurs pas besoin de chef, et probablement beaucoup d’autres. Ils ont découvert la complexité humaine.

Les loups

Mes amis les loups. Géniale série de France culture ! On y parle de la vie des loups, et, plus généralement, de celle des animaux et des insectes.

Chaque émission commence par un extrait d’un livre écrit par un universitaire canadien parti étudier les loups dans le grand nord. Il est aidé par deux Esquimaux. L’histoire est lue par Michel Galabru. Savoureux !

Notre chercheur a été envoyé en mission, parce que les chasseurs se plaignent des loups, qui font disparaître les caribous. Il découvre que, en fait, ce sont les chasseurs (notamment ses deux esquimaux) qui les tuent. Et ce en particulier pour nourrir leurs propres chiens… Quant aux loups, ils ont les vertus que l’humanité rêve de posséder.

Rémy Chauvin étend l’analyse au monde animal. Il en ressort une fascinante complexité. En particulier, les mécanismes d’adaptation des populations à leurs conditions de vie sont beaucoup plus variées que ce que l’on croit. Ce qui nous paraît des rites stupides a en fait une utilité vitale.

Ce qui m’a le plus séduit ? Un Inuit qui interprète le « langage » des loups. Grâce à lui, il sait où sont les caribous, mais aussi ses amis.

Croissante complexité

Des scientifiques soupçonnent qu’une loi de la nature serait la croissance de la « complexité ».

Cette complexité ne serait pas chaos, mais « organisation » de plus en plus sophistiquée, se caractérisant par des « fonctions ». Chaque niveau de complexité se construisant à partir du précédent. L’occasion faisant le larron.

Mystérieux.

En des temps où l’on s’interroge sur la durabilité de notre croissance, faut-il chercher l’inspiration dans ces recherches ?

Sucre suédois

Dans les années 40, les Suédois soupçonnent que le sucre pourrait être mauvais pour les dents. Alors, ils font une expérience. Ils gavent de sucre des retardés mentaux. L’expérience est concluante. Les cobayes sont en ruine. (Witness history de la BBC.)

Comme quoi, ce que l’on attribue aux Nazis ne leur était pas propre ? L’idée était dans l’air ? Pour un peu plus de complexité dans l’explication de l’histoire des nations ?

Qui peut arrêter Trump ?

Depuis le début, je pense que Trump et sa clique de simples d’esprit vont être arrêtés par la complexité du monde.

Déjà, il se rend compte que mettre un terme à une guerre n’est pas aussi facile qu’il le pensait. Maintenant, il semble avoir torpillé la bourse.

Il est possible que ce qui l’arrête soit le mécontentement de son électorat. Celui-ci l’a élu pour améliorer ses conditions de vie. Or, nous dit-on, l’inflation pourrait être violente. Et les retraites sont assurées par des fonds de pension qui investissent en bourse…

J’entendais un interviewé de la BBC parler de Tesla. Il se demandait si l’action d’Elon Musk n’avait pas déjà provoqué des dommages irréparables à la marque. Peut-il en être de même de Trump, pour le monde ? Est-il suffisamment résilient pour absorber un tel choc ?

Complexe météo

Depuis au moins un an, le temps est pourri. D’après ce que dit la météo, les moyennes de pluie du mois ont été plus que doublées, elles pourraient être triplées. Curieusement, l’Europe du sud a connu une canicule.

Science in action, de la BBC, interviewait un chercheur qui étudie la croissance des arbres pour en déduire le climat local au cours des âges. Il expliquait que ce phénomène se reproduisait régulièrement depuis 7 siècles. Il serait lié, si j’ai bien compris, aux mouvements du gulf stream.

Bien entendu, on a eu droit à un couplet sur le réchauffement climatique : mais, avec lui, ce type de phénomène sera bien plus terrible que par le passé !

En tous cas, cela rappelle que la météo est un phénomène « complexe », fondamentalement imprévisible par notre esprit, et peut-être même imprévisible par nature.

Point de bascule

Notre pays semble résilient. Il empile les dettes, il subit les crises, des épidémies, il est dissout… Cela justifie peut être le cynisme ambiant ? A quoi cela sert-il de se fatiguer à améliorer l’état de notre pays, finalement rien ne change ?

Apparemment, certains systèmes complexes peuvent donner des signes qu’ils vont se transformer. Cela s’appelle « critical slowing down ».

The signal, a phenomenon called “critical slowing down,” is a lengthening of the time that a system takes to recover from small disturbances (Article)

Y aurait-il de tels signaux visibles chez nous ? Le temps qu’il faut à notre système politique pour se remettre d’une élection ? Mais un système politique ne représente pas une nation et beaucoup de nations ont des systèmes politiques branlants sans que cela annonce de changement ?…

Le mystère est entier. A moins que notre « système » soit d’un autre type, dont il est aussi question dans l’article : celui qui change sans crier gare ?