Protégez-moi de mes amis

J’ai toujours tort. Je ne comprenais pas en quoi l’intelligence artificielle pouvait être fatale au jeune.

L’explication est pourtant évidente, c’est le fameux « biais de positivité ». L’IA vous dit ce que vous voulez entendre. Si vous êtes suicidaire, il vous encourage dans cette voie !

L’IA semble être entre les mains de personnes aux idées « socialement avancées », leur mot d’ordre est certainement « care ». Et c’est pour cela qu’ils ont créé une IA « positive ». Mais, éternelle leçon, qui veut faire l’ange fait la bête ?

Robert Musil

Eternelle frustration ! Impossible de se faire une idée sur une oeuvre en écoutant une émission !

Je ne sais toujours pas qui était Robert Musil. A vrai dire, j’ai découvert L’homme sans qualité, il y a bien longtemps. J’avais été enthousiasmé par les premières pages. Mais cela n’avait pas duré. Peut-être devrais-je reprendre ma lecture ?

Ce que je retiens toutefois est que Musil, contrairement à ce que je croyais, était peu sympathique. Il n’aimait pas ses contemporains. Il ne croyait qu’à la science. Et à sa propre supériorité.

On retrouve, me semble-t-il, dans son oeuvre, ce qui préoccupait les intellectuels ses contemporains. Sa particularité pourrait être d’avoir voulu tirer la morale de son inertie et d’en faire une science, en s’inspirant de la science. Mais n’était-ce pas le souci de « l’école de la systémique », qui pensait que sans science des sociétés, de la complexité, nous courrions à notre perte (la guerre l’a confortée dans ce sentiment) ?

Tremblement de terre

Le changement du millénaire ? Ceux qui nous gouvernent vont-ils enfin découvrir la réalité et apprendre de leurs erreurs ?

France simplification a pour mission de « lever les blocages administratifs rencontrés par les collectivités, les services de l’État et les porteurs de projets locaux (…) en partant du terrain grâce à une administration orientée solutions. » La boucle de rétroaction que l’on n’osait pas attendre ?

Premiers résultats. Parmi les causes identifiées, la tendance du législateur à vouloir nous prescrire notre comportement (Tocqueville en parlait déjà), des normes qui s’entrechoquent, des services qui ne se parlent pas… Mais, en réunissant ces derniers et en interprétant les textes, on peut faire bien des miracles, sans rien changer !

Mieux ? ce service serait rapide !

Rêvons nous ? Trop beau pour être vrai ?… Si ce n’est pas le cas, espérons que le prochain gouvernement ne fera pas sauter ce dispositif… Car il y a des usages qui résistent à toutes les feed-back loops.

Nikita

Nikita Khroutchev fut exceptionnel. Ce fut le seul dirigeant soviétique sans bagage intellectuel initial (Staline était un séminariste). Et ce fut le seul, avec Gorbatchev, a être renversé. D’ailleurs, peut-être ressemblait-il à ce dernier ? Lui aussi semblait aimer la paix, et avoir de bons contacts avec l’Occident. Curieusement on a aussi parlé d’un moment de « dégel », et il a libéré les prisonniers politiques et lancé la carrière de Soljenitsyne.

Lui-même avait fait une carrière impeccable, du bon côté des purges. C’était un homme du peuple qui était toujours resté sur le front, quel qu’il soit. Contrairement aux membres de l’appareil du parti. Et peut-être qu’il a fini par comprendre que le pays était gouverné par la terreur, et qu’il n’était plus possible d’aller plus loin dans cette voie. D’où la dénonciation de Staline (dont, par ailleurs, il aurait pu être la prochaine victime).

Pourquoi a-t-il été renversé ? Des réformes malheureuses, dit-on. Peut-être aussi était il un homme du peuple qui croyait au potentiel de son pays ? Contrairement à ses prédécesseurs et ses successeurs il s’est jeté la tête la première dans l’agriculture, un sujet qu’il semblait connaître en expert. Et le résultat n’a pas été celui qu’il escomptait. Mais, peut-être surtout que l’appareil du parti s’est senti menacé par ses réformes ? (Aurait-il découvert que c’était cet appareil qui grippait la transformation de l’URSS ?)

Le seul moyen de le transformer était-il la purge stalinienne ? L’émission qui racontait sa vie laissait entendre que c’était plus « le système » qui avait fait Staline que le contraire.

(Khroutchev aurait suscité la méfiance des communistes occidentaux et surtout des Chinois, qui, déjà ? lui préféraient Staline.)

Energie du désespoir

La semaine dernière, j’ai demandé autour de moi ce que l’on pensait de ce que j’avais compris du rapport du Commissariat au Plan. Réactions inattendues. Certains m’ont dit : ils veulent nous faire peur. Mais surtout, j’ai entendu : le rêve de nos gouvernants est de nous dissoudre dans l’Europe, et d’en prendre la tête. Avec une variante qui n’en est peut-être pas une, une telle Europe serait allemande. La cause de nos problèmes serait là : c’est parce qu’ils n’ont pas cru à notre économie nationale qu’elle s’est effondrée, et qu’elle nage dans le déficit. En particulier qu’ils ont laissé acheter ses « champions » par des nations étrangères. Et maintenant, c’est au tour de la France ?

Théorie du complot ? Mais ne mériterait-elle pas d’être juste ? Car nous pourrions en tirer un enseignement capital. On croit, paresseusement, au pouvoir de la raison. Mais quand un homme a une idée chevillée au corps, il ne la lâche jamais. A chaque fois qu’on le croit défait, il fait preuve « d’innovation ». Et cette innovation est de plus en plus violente et désespérée. Car ce qu’il joue est plus que sa vie. C’est la leçon que je tire de Tartuffe.

Malédiction artificielle ?

Je viens d’apprendre que « l’intelligence artificielle » (du moins les algorithmes populaires) apprend des questions qu’on lui pose. Si bien que des questions « paresseuses » produisent un logiciel paresseux. Or, justement, c’est pour cela que, massivement, on l’utilise : parce que nous n’avons pas le courage de penser par nous-mêmes ou d’agir.

Ce qui m’a rappelé un des grands principes de systémique qui remonte, au moins, à Héraclite. C’est l’énantiodromie. En gros, c’est « qui veut faire l’ange fait la bête ». Ou « qui sème le vent récolte la tempête ». Si l’on déclenche un « phénomène », sans le contrôler, on obtient le contraire de ce que l’on cherchait. Or, l’Intelligence artificielle, c’est exactement cela : un « machin » que l’on ne comprend même pas, mais qui est supposé devenir « super intelligent » !

Voici un commentaire que me fait un spécialiste du sujet :

Si l’on part de la conclusion de ton billet (c’est à dire : il (Google) semble victime du fric et de l’intelligence artificielle. Le premier parce qu’il faut payer pour être vu, la pertinence du contenu n’entre plus en jeu, le second parce que toute requête, même parfaitement rédigée, est interprétée et déformée. Curieusement l’IA semble convaincue que l’homme est un boeuf…), je ne dirai pas cela aussi fort mais il y a beaucoup de vrai dans cette phrase.

J’ajouterai néanmoins une potentielle explication pour cette situation. En effet certains se sont aperçus que du fait que les gens se servent de Chat Gpt ou Grok ou l’équivalent pour questionner Google via des scripts (« prompts » dans le langage de l’IA) de faible niveau sémantique, les réponses sont au diapason du niveau des questions, c’est à dire pauvres en matières de contenu. Comme elles sont par ailleurs extrêmement fréquentes elles viennent charger les « data repositories » des algorithmes LLM, en labellisant des scénarios quasi identiques pour le moteur associé à IA générative choisie, et de facto impactant le comportement de Google. Au début, ceci n’est pas apparu clairement, mais au bout d’un certain temps, ces ajouts systématiques (d’une grande vacuité d’intérêt) aux processus d’apprentissage continus créent un biais cognitif que certains ont signalé (dont toi dans ton post), comme de la « pauvreté sémantique » une sorte d’infection du processus.

Ceci se discute néanmoins, rappelons que des approches IA génératives sont capables de produire des « hallucinations » (*) non expliquées (voir note), mais ce n’est sans doute pas le cas ici, en revanche un biais cognitif lié à la pauvreté du contenu sémantique peut créer des distorsions de comportement des moteurs « transformers ».

(*) Hallucination : En simplifiant, si on fait une demande à un outil d’IA générative, ce dernier doit normalement donner un résultat qui répond de manière appropriée à la demande (c’est-à-dire une réponse correcte et cohérente à une question). Cependant, il arrive que les algorithmes d’IA produisent des résultats qui ne sont pas basés sur des données d’apprentissage, et qui de plus sont mal décodées par le transformer ou ne suivent aucun modèle identifiable. En d’autres termes, on dit que le modèle génératif « hallucine » la réponse.

In quiétude

Quel mauvais coup nous prépare-t-il ? Avec le président Trump, il n’est plus possible de vivre paisiblement. M.Poutine lui ressemble, mais il n’a pas son pouvoir de nuisance.

Cela m’a rappelé une histoire : à une époque, on a voulu protéger les fusées de la pluie, en les mettant dans de grands hangars. Eh bien, dans le hangar, l’humidité s’est condensée… Nous avons tellement voulu nous protéger de l’aléa que nous l’avons créé à l’intérieur de nos murs ?

Une bonne chose ? M.Trump nous force à remettre en marche nos cerveaux ?

La société comme système

Claude Lévi-Strauss :

« Chaque langue, chaque croyance religieuse, chaque forme d’art traduit une expérience totale qui n’est pas la même pour tous les peuples et qui exprime de façon très précise et très concrète ses besoins particuliers« .

La langue ne peut pas être considérée en dehors du tout qu’est une société humaine et son environnement. Elle a une fonction. (Emission.)

Plus paradoxalement, il semble croire qu’il est possible de reconstituer le tout à partir de l’une de ses parties, la langue, en particulier.

C’est aller un peu vite en besogne ?

Ordre et contre-ordre

Pourquoi la France est-elle devenue ce qu’elle est ? Quelles sont les idées qui ont gouverné nos gouvernants ?

Je posais la question à un élu. Un élu, comme on les aime : jeune, issu de la société civile, ayant un travail et une famille, pas politique pour deux sous, sinon ayant une forte « conscience environnementale ». Bref, uniquement préoccupé d’intérêt général. Sa réponse m’a pris par surprise. Il a accusé la gauche, depuis 1981, « d’avoir transformé la France d’une société de service en une société de loisir ». Sa politique n’a été que « populisme », que « concessions », pour « capter des voix », comme le « bac pour tous ». D’ailleurs gauche et droite ont conjugué leurs forces pour détruire l’Education nationale. Actuellement, des « coupes budgétaires » apportées aux sections techniques auraient privilégié sport et intelligence artificielle au détriment de la culture. « On supprime la capacité à penser. »

Cela expliquerait-il les politiques récentes dont parlent de précédents billets ? Nos gouvernants ont décrété qu’il n’y avait plus rien à tirer du pays ? Qu’il fallait attendre l’aide de l’extérieur ? D’où « fin de la récréation », la « métropolisation » et le discours entendu à l’ère Sarkozy du politique – entrepreneur (ce qui m’avait étonné : pour moi, le politique et entrepreneur signifiait Mafia) ?

Le présent d’Hegel

Hegel aurait fait entrer la philosophie dans le présent.

Si je comprends bien, il estimait que, sous une apparence d’aléa trompeuse, se cachait un mouvement, qu’il s’agissait de découvrir.

Ce qui est une des idées fixes de ce blog. C’est une forme de théorie du complot. Mais sans coupables. Le monde, les sociétés, les groupes humains… ont, à un moment donné, eux aussi, des idées fixes. La responsabilité de l’homme est de les détecter, avant qu’elles n’aient produit un désastre.

Hegel avait probablement une conception plus optimiste que la mienne de la question.