L'intelligence artificielle tue

Tué par un bug. J’entendais dire hier qu’une Tesla en pilote automatique avait tué son passager. Problème de reconnaissance de forme. Le programme d’intelligence artificielle qui était aux commandes de la voiture n’a pas sur reconnaître une remorque blanche sur fond blanc.

On tend à oublier à quel point l’homme est une créature sophistiquée. Il est curieux, d’ailleurs, que l’ordinateur ne cause pas plus de morts. Lorsque je programmais, on utilisait le nombre de bugs par millier de lignes comme unité de qualité. Un programme de voiture a des millions de lignes, donc des dizaines de milliers de bugs. Pourquoi l’homme n’a-t-il pas d’avantage sur la machine ? Peut-être parce que nous avons créé un monde pour la machine, et pas pour l’homme.

Je ne me lave plus

Il est dangereux de se laver. Cela tue des organismes qui sont nécessaires à notre bon équilibre. Alors, on ne se lave plus. Le SDF est dans le vrai, après tout.

L’amour du progrès technique n’est plus aveugle. Saura-t-on éviter de passer d’un extrême à l’autre ?

Qu'est-ce qui a perdu Néanderthal ?

Neandertal était un homme cultivé. Il y a 180.000 ans, il faisait preuve d’un art consommé, vient-on de découvrir.

Alors pourquoi notre ascendant l’a-t-il fait disparaître ? La réponse habituelle est qu’il était plus malin. Est-ce évident ? Lorsque l’on considère l’histoire du monde, on observe que l’intelligence n’a pas toujours le dessus. Les conquérants étaient frustes. Leur bas QI était compensé, au centuple, par leur détermination. C’est d’ailleurs ce qu’aiment les Anglo-saxons chez leurs entrepreneurs, Monsanto par exemple : ils écrasent le monde sans se poser de questions. C’est aussi ce que l’on disait d’Hitler. Et les nazis pensaient que l’Europe, la France en particulier, décadente avait besoin du sang neuf de brutes épargnées par l’influence pernicieuse de la civilisation. C’est peut-être, d’ailleurs, ce qui a fait le succès de l’Occident, à la fin de son Moyen-âge : des idées simplistes.

(On a tous quelque-chose en nous de Neandertal.)

Le rendement décroissant du progrès

L’homme se vante de ses prouesses technologiques. Pourtant, si l’on compare son efficacité et celle de la nature, on constate un gaspillage colossal, me disait un ami. Par exemple, un oiseau de douze grammes peut faire un voyage de deux mille cinq cent kilomètres, sans escale.

Théorie des rendements décroissants ? Notre mode de développement est-il en fin de vie ? Les limites à la croissance ? L’homme est-il capable de changer ?

Ethique du lavage de cerveau

Et si la manipulation avait une justification éthique ? C’est une idée qui vient à l’esprit en lisant l’opinion des capitalistes (principalement anglo-saxons). Elle est rationalisée (plutôt que causée, je crois) par une forme de protestantisme : le bon est celui qui survit. Autrement dit, la fin justifie les moyens. Et le plus efficace de ces moyens, c’est le lavage de cerveau. Dans la lutte pour la sélection naturelle, l’âme lavable doit disparaître. D’ailleurs, Platon ne leur donne-t-il pas raison ? Il n’y a que l’élite qui puisse avoir accès à la raison. Le peuple est stupide. Il faut lui raconter des fadaises. Donc, si vous croyez à des fadaises, c’est que vous êtes inférieur. CQFD.

Et le procédé se voit. Le « capitaliste » n’utilise que bien rarement ce qu’il nous vend. Il rêve de nature, d’artisanat, pas de progrès. Pour lui le « progrès » est un argument de vente ? Il n’y a que les gogos pour y croire ?

(On « découvre » que les procédés de récolte du gaz de schiste produiraient des tremblements de terre. Vraiment ?)

L'outil change l'homme

Pourquoi avons-nous une grosse tête et de petites dents, alors que c’était l’inverse pour nos ancêtres ? Selon les scientifiques ce serait soit une question de feu, soit d’outils.L’homme aurait fait subir à sa nourriture un prétraitement qui aurait économisé ses muscles et produit l’énergie dont a besoin une grosse tête. Ce serait survenu il y a deux millions d’années.

Cooked food was easier to chew and digest, and hominins no longer needed big teeth to grind tough plants. Better yet, the extra calories they received helped fuel hungry neurons and, eventually, bigger brains.

Comme quoi ce que nous appelons le « progrès » n’est pas sans effets secondaires. Voilà la raison pour laquelle on veut le changement pour les autres ?

(En facilitant le mâchage des animaux domestiques, va-t-on leur donner de gros cerveaux ?)

Faut-il croire les théories du complot ?

La systémique est une science du changement. Du coup, ce blog voit des systèmes, donc des complots, partout. Le complot, c’est l’intention de nuire. Or, ce blog constate aussi que l’on peut changer du tout au tout. Pas cohérent !

Des aspirations, pas des intentions ?

Tentative d’explication. Ce qui nous pousse, ce sont nos « aspirations ». Ces aspirations s’expriment dans nos comportements. Mais l’aspiration ne produit pas seule le comportement. L’influence des circonstances a son mot à dire. Exemple : supposons que vous désiriez une société bien organisée. Et que vous constatiez sa « désintégration ». Alors, vous pouvez également trouver votre bonheur dans le repli, nationaliste régionaliste ou autre, ou, au contraire, dans le « progrès », élan international.

C’est probablement ce qui s’est passé en 40. Pétain : le repli frileux ; les Trente glorieuses, le progrès universel. Même chose en Allemagne ou au Japon : du nationalisme agressif à l’internationalisme altruiste. Idem aux USA. Le New deal, c’est le passage du capitalisme sans complexes à l’Etat social.

Ne pas déduire les « intentions » du comportement, recette de conduite du changement ?

(Plus frappant ? « Les racines intellectuelles du IIIème Reich » n’avaient pas grand chose à voir avec la pensée d’Hitler. Elle parut à certains comme un compromis acceptable, bien que triste, c’est tout.)

La philosophie, éternelle répétition ?

La pensée de Bergson parle de thèmes que l’on trouve chez Hannah Arendt. Elle les attribue aux Grecs. Par exemple les notions de bête de somme, état de l’homme moderne, et de vie contemplative, dimension perdue de l’existence présente, qui était son faîte selon les Grecs. Bergson dit aussi que, s’il plonge en soi, l’homme comprendra l’univers, puisque l’un et l’autre sont faits de la même pâte. Les Stoïciens et le Taôisme pensent comme lui.

Bergson a aussi été l’homme de son temps. Bien des auteurs de l’époque ont écrit sur l’introspection, à commencer par Proust. Mais ce temps semble aussi être allé un peu loin vers le spiritualisme. Ne serait-ce que parce que l’Allemagne a cherché à régénérer le monde par l’expérience existentielle qu’est la rencontre du néant (CF. Heidegger)…

Bergson inutile ?
Est-ce l’invention qui doit faire la gloire du penseur, ou l’utilité ? La pensée mondiale semble osciller entre des pôles opposés, il convient de rester entre Charybde et Scylla. Pour l’homme ces pôles sont peut être le matériel et le spirituel. Bergson a réagi au Kantisme qui transformait l’homme en chose. Ce qui était utile.

C’est d’ailleurs comme cela que je vois mes travaux. Rien de neuf. C’est dit depuis des millénaires. Mais on a oublié. C’est grave.

(Question : y a-t-il « progrès » ? Redécouvre-t-on toujours les mêmes idées ? Nous appauvrissons-nous ? Ou nous empilons : les anciennes idées utilisant comme échasses les nouvelles découvertes ? Pour ma part j’entends « progrès » au sens des Lumières : la maîtrise progressive d’une innovation : la raison. Ce serait le sens d’une histoire qui n’aurait pas de sens. Dans ces conditions l’originalité de Bergson serait, peut-être, sa définition de la durée et du temps. Réaction aux concepts scientifique, elle n’aurait pu être sans la science, le progrès.)

Faut-il avoir peur du progrès ?

Ce qui est essentiel ne s’exprime pas. J’ai l’impression que c’est ce que disent Bergson et Wittgenstein.

Transformer la vie en concepts, c’est nous transformer en choses. C’est le lavage de cerveau. C’est le totalitarisme. Mais aussi la révolte contre ce totalitarisme. D’où des cycles explosifs : oppression, révolution !

Or, les Lumières, c’est la raison conquérant le monde. Plus nous serons « intelligents », meilleurs nous serons, disaient-elles. C’était « le progrès ». Et si c’était ce progrès, principe de notre société, qui était notre mal ?

Mais, en affirmant cela, Wittgenstein et Bergson utilisent aussi des idées ! Et si l’idée était utile quand elle ne veut pas trop en faire ?

Parlons de logos ?

Le logos des grecs est peut-être le terme le mieux adapté à la question. C’est, apparemment, à la fois la parole et la raison. Et c’est bien de cela dont il s’agit. Le logos permet de se comprendre et de structurer la société (lois). Et c’est cette structure qui permet la liberté, au sein du groupe ! De ce fait, l’homme peut vivre paisiblement sa subjectivité non exprimable.

Le logos c’est aussi la science. Et la science « marche ». Par exemple, on parvient à guérir ses souffrances en cherchant à les expliquer. C’est ce que dit la psychanalyse. Mais, ce n’est pas l’explication qui compte. C’est le processus de recherche. En simplifiant le monde, la modélisation facilite l’action. Mais attention : remplacer le problème par l’idée, c’est le vider de son sens. C’est ce que j’ai découvert en faisant la critique de film. La critique vide le film de son émotion. Ce n’est plus rien. L’art exprime l’inexprimable.

Du bon usage de la raison
Notre société est une société de la parole. Il n’y a plus d’espace pour l’émotion. Une société saine demande des structures explicites dans les interstices desquelles puisse renaître l’inconscient porteur de sens. Cette structure me semble être le « bien commun » dont parle Elinor Ostrom. C’est ce qui « organise l’autonomie ». Ce sont les règles qui permettent à la société de fonctionner et à l’homme de s’épanouir. Mais ces règles n’ont pas d’existence ou ont une existence floue. On retrouve là ce que disent Heisenberg et Gödel. 1) Plus on se rapproche de l’idée plus elle devient imprécise ; 2) un système basé sur des idées est « indécidable ».
Illustration : vérité. 1) « Vérité » nous semble avoir un sens. Pourtant dès qu’on veut lui donner une définition qui ne dépende pas de l’interprétation de l’homme (jugement), c’est l’échec. 2) « Si tu dis la vérité tu seras pendu, si tu mens tu seras brûlé. » Il suffit de dire « je serai brûlé », pour faire disjoncter le système. Vérité n’existe pas.

Qu'est-ce que le progrès ?

Apparemment, Kant et les philosophes des Lumières pensaient que le progrès c’était la raison s’éveillant et prenant les commandes du monde. En devenant de plus en plus intelligents, nous serions de plus en plus sages et heureux. Le progrès n’était donc pas une question de fusées, de machines à laver ou de numérique, mais d’esprit.

En m’interrogeant sur les causes des changements que nous subissons, j’en suis arrivé à une hypothèse proche de celle des Lumières. Avec une différence : pour elles progrès = bien, pour moi progrès = cours des choses. En effet, il me semble que l’histoire de l’homme depuis quelques milliers d’années s’explique par une innovation : la raison. La raison correspond à une partie du cerveau qui nous est propre, et dont l’intérêt premier est social. Elle nous permet de communiquer entre nous, et de construire des sociétés. (Par opposition au groupe primitif.) La raison serait donc liée à l’émergence de la société. Ce serait la raison qui aurait permis l’agriculture, et pas le contraire.

Mais, comme souvent dans ce blog, surgit le paradoxe : alors qu’elle est un organe social, elle nous a convaincus que nous étions des individus !

Si bien que, comme le pensaient les Lumières, le combat de l’humanité est celui de la maîtrise de la raison. Car il faut s’assurer que quelques-uns ne se l’approprient pas, et surtout qu’ils ne jouent pas aux apprentis sorciers. D’où l’importance de l’école, formation, pour tous, de la raison. La raison, c’est le pouvoir, c’est même peut-être bien l’ultime « bien commun » (res publica) de l’humanité. « Bien commun » dans un sens, au fond, très négatif : c’est une bombe qui ne demande qu’à nous rayer des vivants. Je ne suis pas un homme de Lumières.