Malédiction artificielle ?

Je viens d’apprendre que « l’intelligence artificielle » (du moins les algorithmes populaires) apprend des questions qu’on lui pose. Si bien que des questions « paresseuses » produisent un logiciel paresseux. Or, justement, c’est pour cela que, massivement, on l’utilise : parce que nous n’avons pas le courage de penser par nous-mêmes ou d’agir.

Ce qui m’a rappelé un des grands principes de systémique qui remonte, au moins, à Héraclite. C’est l’énantiodromie. En gros, c’est « qui veut faire l’ange fait la bête ». Ou « qui sème le vent récolte la tempête ». Si l’on déclenche un « phénomène », sans le contrôler, on obtient le contraire de ce que l’on cherchait. Or, l’Intelligence artificielle, c’est exactement cela : un « machin » que l’on ne comprend même pas, mais qui est supposé devenir « super intelligent » !

Voici un commentaire que me fait un spécialiste du sujet :

Si l’on part de la conclusion de ton billet (c’est à dire : il (Google) semble victime du fric et de l’intelligence artificielle. Le premier parce qu’il faut payer pour être vu, la pertinence du contenu n’entre plus en jeu, le second parce que toute requête, même parfaitement rédigée, est interprétée et déformée. Curieusement l’IA semble convaincue que l’homme est un boeuf…), je ne dirai pas cela aussi fort mais il y a beaucoup de vrai dans cette phrase.

J’ajouterai néanmoins une potentielle explication pour cette situation. En effet certains se sont aperçus que du fait que les gens se servent de Chat Gpt ou Grok ou l’équivalent pour questionner Google via des scripts (« prompts » dans le langage de l’IA) de faible niveau sémantique, les réponses sont au diapason du niveau des questions, c’est à dire pauvres en matières de contenu. Comme elles sont par ailleurs extrêmement fréquentes elles viennent charger les « data repositories » des algorithmes LLM, en labellisant des scénarios quasi identiques pour le moteur associé à IA générative choisie, et de facto impactant le comportement de Google. Au début, ceci n’est pas apparu clairement, mais au bout d’un certain temps, ces ajouts systématiques (d’une grande vacuité d’intérêt) aux processus d’apprentissage continus créent un biais cognitif que certains ont signalé (dont toi dans ton post), comme de la « pauvreté sémantique » une sorte d’infection du processus.

Ceci se discute néanmoins, rappelons que des approches IA génératives sont capables de produire des « hallucinations » (*) non expliquées (voir note), mais ce n’est sans doute pas le cas ici, en revanche un biais cognitif lié à la pauvreté du contenu sémantique peut créer des distorsions de comportement des moteurs « transformers ».

(*) Hallucination : En simplifiant, si on fait une demande à un outil d’IA générative, ce dernier doit normalement donner un résultat qui répond de manière appropriée à la demande (c’est-à-dire une réponse correcte et cohérente à une question). Cependant, il arrive que les algorithmes d’IA produisent des résultats qui ne sont pas basés sur des données d’apprentissage, et qui de plus sont mal décodées par le transformer ou ne suivent aucun modèle identifiable. En d’autres termes, on dit que le modèle génératif « hallucine » la réponse.

In quiétude

Quel mauvais coup nous prépare-t-il ? Avec le président Trump, il n’est plus possible de vivre paisiblement. M.Poutine lui ressemble, mais il n’a pas son pouvoir de nuisance.

Cela m’a rappelé une histoire : à une époque, on a voulu protéger les fusées de la pluie, en les mettant dans de grands hangars. Eh bien, dans le hangar, l’humidité s’est condensée… Nous avons tellement voulu nous protéger de l’aléa que nous l’avons créé à l’intérieur de nos murs ?

Une bonne chose ? M.Trump nous force à remettre en marche nos cerveaux ?

La société comme système

Claude Lévi-Strauss :

« Chaque langue, chaque croyance religieuse, chaque forme d’art traduit une expérience totale qui n’est pas la même pour tous les peuples et qui exprime de façon très précise et très concrète ses besoins particuliers« .

La langue ne peut pas être considérée en dehors du tout qu’est une société humaine et son environnement. Elle a une fonction. (Emission.)

Plus paradoxalement, il semble croire qu’il est possible de reconstituer le tout à partir de l’une de ses parties, la langue, en particulier.

C’est aller un peu vite en besogne ?

Ordre et contre-ordre

Pourquoi la France est-elle devenue ce qu’elle est ? Quelles sont les idées qui ont gouverné nos gouvernants ?

Je posais la question à un élu. Un élu, comme on les aime : jeune, issu de la société civile, ayant un travail et une famille, pas politique pour deux sous, sinon ayant une forte « conscience environnementale ». Bref, uniquement préoccupé d’intérêt général. Sa réponse m’a pris par surprise. Il a accusé la gauche, depuis 1981, « d’avoir transformé la France d’une société de service en une société de loisir ». Sa politique n’a été que « populisme », que « concessions », pour « capter des voix », comme le « bac pour tous ». D’ailleurs gauche et droite ont conjugué leurs forces pour détruire l’Education nationale. Actuellement, des « coupes budgétaires » apportées aux sections techniques auraient privilégié sport et intelligence artificielle au détriment de la culture. « On supprime la capacité à penser. »

Cela expliquerait-il les politiques récentes dont parlent de précédents billets ? Nos gouvernants ont décrété qu’il n’y avait plus rien à tirer du pays ? Qu’il fallait attendre l’aide de l’extérieur ? D’où « fin de la récréation », la « métropolisation » et le discours entendu à l’ère Sarkozy du politique – entrepreneur (ce qui m’avait étonné : pour moi, le politique et entrepreneur signifiait Mafia) ?

Le présent d’Hegel

Hegel aurait fait entrer la philosophie dans le présent.

Si je comprends bien, il estimait que, sous une apparence d’aléa trompeuse, se cachait un mouvement, qu’il s’agissait de découvrir.

Ce qui est une des idées fixes de ce blog. C’est une forme de théorie du complot. Mais sans coupables. Le monde, les sociétés, les groupes humains… ont, à un moment donné, eux aussi, des idées fixes. La responsabilité de l’homme est de les détecter, avant qu’elles n’aient produit un désastre.

Hegel avait probablement une conception plus optimiste que la mienne de la question.

Changement systémique

Période intéressante. Nous vivons un changement « sociétal ». Qu’observe-t-on ?

Comme on le lit souvent, le changement est « systémique ».

Qu’est-ce qu’un système ? Un phénomène qui ressemble au thermostat, apparemment. (Je ne suis pas sûr qu’il y ait accord sur ce sujet, seulement cela paraît la définition la plus pertinente.) Le système obéit à un « principe », qu’il défend. C’est « l’esprit des lois » de Montesquieu.

Il me semble que l’esprit de la 3ème République était celui, collectif, des droits de l’homme. Cela n’aurait pas changé avec de Gaulle. Ensuite, nous avons basculé dans un autre système, dont le principe est l’individu, qui aboutit, plus ou moins nécessairement, au sur-homme (ou « premier de cordée »).

Ce phénomène illustre le Yin et le Yang chinois, passage (notamment) du collectif à l’individuel, et la dialectique de Hegel, le changement par contradiction.

Ce que l’histoire récente semble montrer, c’est que le système porte en lui-même sa contradiction. En fait le modele du thermostat n’est juste qu’un temps. Les forces de résistance au changement finissent par céder. C’est probablement ce qui, pour de Gaulle, devait assurer la pérennité de sa « vision de la France », qui lui a été fatal.

On peut donc imaginer que nous allons repartir vers une phase « collective ». Seulement, y a-t-il un moyen pacifique d’y parvenir ?

L’enquête se poursuit.

Paradoxe environnemental

L’extraction du nickel détruit « l’Amazonie des mers ».

this ecological controversy is an example of how the demand for the metals needed to power battery technology – for electric cars and other low carbon energy sources – can damage the environment. Article de la BBC.

Etrange paradoxe ? L’écologiste détruit la nature ? Et si hurler n’était pas la meilleure des façons de « conduire le changement » ?

Changement paradoxal

Après guerre, la systémique disait que le changement est « paradoxal » : faites le contraire de ce que vous faites ! (Cela tient probablement à ce que que nous sommes pris dans un système, et que ce système est devenu un cercle vicieux.)

Trump est-il paradoxal ? Il avait un « ennemi de classe », le Bobo. Et il procède à un « nettoyage ethnique » : il élimine tout ce à quoi il était attaché : ses valeurs, ses combats, la transition climatique, mais aussi ce sur quoi il appuyait sa domination : la science, la justice, etc.

Seulement, faire le contraire n’est pas paradoxal. C’est appartenir au même système. Le paradoxe serait de sortir de l’idéologie pour en revenir à la raison, et à la véritable définition de la science, de la justice, des droits de l’homme et de bien d’autres sujets que nous avons oubliés.

Trump, Truss et Sarko

Au moment de l’arrivée de Trump, j’ai dit qu’il serait un « stress test » pour le monde. Qu’est-ce qui a été révélé par ce test ?

Tout d’abord, pour le citoyen, c’est une « drôle de guerre ». Trump fait le spectacle. Mais, pour le moment, notre vie n’est pas affectée. Ce sont les USA, qui paraissent touchés les premiers. Non seulement les bourses sont sur des « montagnes russes », mais voici quelques titres du Financial Times d’hier :

Gold and Swiss franc surge as investors seek haven assets

US risky debt funds hit by historic outflows as Donald Trump’s tariffs shake markets
Investors rush away from junk bonds and leveraged loans on rising recession fears

US stocks and dollar tumble as Trump fails to soothe economic fears
Investors warn 145% duties on US imports from China to hit growth even as president rolls back other levies

Silicon Valley stands to lose from a trade war
Big Tech’s interests are in stark contrast to the movement that put Trump in the White House

Investors in Trump’s America can no longer see around corners
Regular guidance from executives on the near-term path of profit just got more elusive

US shale sector in peril as oil price plunge rattles drillers
Trump trade war and Opec output surge create toughest challenge since the pandemic, executives say

Airline stocks get a nasty dose of wind shear
Leisure travel is usually one of the first things to suffer when consumers feel anxious about the economy

Le jour où Trump a changé sa politique douanière, j’ai entendu à la BBC qu’un élu républicain avait demandé à son gouvernement : « que dois-je dire à mes agriculteurs ? » (probablement menacés par les sanctions européennes).

Pour le moment, l’arroseur est arrosé. On a même droit à un moment « Liz Truss » : pour la première fois dans l’histoire, les obligations de l’Etat américain sont vendues en masse. C’est ce qui aurait amené Trump à revoir sa politique douanière. Car, les USA ont besoin que d’autres financent leur déficit. Accessoirement, il y aurait un risque pour les fonds de pension, donc les retraites des Américains.

En bref, ce qui cède est ce qui est le plus fragile et le plus lié à la bonne santé de l’économie. L’Amérique est plus résiliente que l’Angleterre, mais ces événements montrent qu’une démocratie est beaucoup plus fragile qu’un régime autoritaire. Quand on vit dans une maison de verre, on ne lance pas de pierres, dit-on, je crois, en Chine.

Dernière question : aura-t-on aussi un « moment Sarko » ? Ce blog a étudié les réformes Sarkozy. Notre président a fait du Trump avant Trump. Il a voulu désorienter ceux qu’il désirait réformer par son imprévisibilité. Résultat ? Ils ont résisté. C’est lui (donc nous) qui s’est fait réformer…

Faquin !

Désaccord entre France Culture, le Robert et le CNRTL. Pour les deux derniers, faquin viendrait du néerlandais fac (espace clos, compartiment) ou fak (poche). Pour le premier, qui interviewait un spécialiste italien, il aurait une origine arabe, « el faquino » (mon orthographe). Il serait passé au vénitien, comme beaucoup d’autres mots arabes. C’était d’ailleurs le sujet de l’émission.

El faquino était un docteur. Tout le monde ayant voulu être docteur, le sens du mot a connu une dérive. Il s’est mis à signifier porte-faix. Le français serait allé encore plus loin.

J’aimerais que l’Italien ait raison ! En effet, on a là un phénomène si fréquent : dès que quoi que ce soit semble avoir du prestige, tout le monde veut en être, si bien qu’il perd toute valeur, et qu’il n’y a plus que des faquins ! Voilà qui devrait être enseigné à l’école.