Cyber bug

Coup de pub. Hier, elle était inconnue. C’est maintenant une célébrité. La société, judicieusement nommée « CrowdStrike », est parvenue à arrêter l’économie mondiale.

Apparemment, elle aurait diffusé un peu rapidement une nouvelle version de son logiciel de cybersécurité, qui aurait eu un effet imprévu. Ce matin, on soupçonnait, qu’elle n’avait pas fait correctement ses tests. (Personnel en vacances ?)

Intéressant événement à plusieurs titres.

De mon vivant, en quelque sorte, j’ai vu l’évolution du test. Jadis il était fait avant la mise sur le marché, maintenant, il est fait par le marché. On peut d’ailleurs se demander si Boeing n’a pas adopté cette philosophie. C’est une innovation.

Ensuite, cela illustre un concept que l’on trouve en statistique, et qui n’a pas la notoriété qu’il mérite. Exprimé en termes de cybersécurité, il peut se dire ainsi : il y a deux types de risques : celui de ne pas se protéger, et celui que présente la protection elle-même.

D’ailleurs, les journaux posaient la question de savoir qui devait assurer l’incident : l’assurance doit-elle payer pour les dommages encourus par le logiciel de protection qu’elle a demandé d’installer en contrepartie de l’assurance de l’entreprise ?

L’âge de tous les risques ?

Une conclusion inattendue d’une émission sur les Houthis (Affaires étrangères, France culture, samedi dernier) :

Ils ne seraient qu’un « épiphénomène ». La mondialisation n’est que réseaux économiques, financiers, commerciaux… Ces réseaux ont la particularité d’avoir des points faibles. Le jeu est, maintenant, de les chercher pour les exploiter.

L’Institut Louis Bachelier a crée une Fondation du risque. Un choix prescient ? Et beaucoup de travail à faire ?

Intelligence accusée

Grande conférence sur l’intelligence artificielle. Comment empêcher ses méfaits ?

Si je comprends bien, il y en aurait trois : la sécurité, le risque de perte de compétences critiques, la confiance (on ne comprend pas ce que fait l’IA).

Voilà qui semble de bonnes questions, que l’on devrait se poser systématiquement. On devrait se demander, je crois, si l’on ne peut pas prévoir si l’innovation dernière en date ne peut pas avoir quelques effets pervers évidents. Mais aussi si ce n’est pas de la poudre aux yeux, qui nous fera lâcher la proie pour l’ombre.

Et, effectivement, il se trouve que l’IA a marqué l’avénement d’un changement curieux : jusque-là, l’homme voulait comprendre, c’était le règne des mathématiques. Brutalement, il y a renoncé. Celui qui avait les capacités de faire un travail scientifique s’est dit « élite » et « chef », et donneur d’ordres. Si bien qu’il a bien fallu que « quelque-chose » fasse le travail. Et cette chose a été l’IA. Une IA qui n’a rien de neuf sinon que la capacité de calcul désormais disponible a laissé croire à certains, et il n’en fallait pas beaucoup pour cela vus les intérêts en jeu, qu’elle pouvait faire des miracles.

Derisking China

« Derisking China », le problème que doit résoudre le G7, disait la BBC, ce matin.

Cela signifie : continuer à commercer avec elle, mais sans en dépendre.

(Derisking China peut aussi signifier faire moins d’affaires avec elle, car la puissance économique nourrit l’agressivité chinoise ?)

« Derisking » est peut-être le maître mot du changement que vit actuellement l’humanité. Pas question de revenir sur les gains de la « globalisation » et de perdre le contact les uns avec les autres, mais à condition d’en limiter le risque. Cela vaut des affaires comme des microbes…

Les dangers du métro

« Selon des chercheurs de Cambridge, le métro de Londres est pollué par des particules métalliques ultrafines suffisamment petites pour se retrouver dans le sang humain. Ces particules sont si petites qu’elles sont probablement sous-estimées par les enquêtes sur la pollution du plus ancien métro du monde. » (Nouvelles de l’université de Cambridge)

Les autres métros font-ils exception ?

Conséquences imprévues du progrès ? Les prévenir : une nouvelle science à inventer ?

Pestilence

L’Anglais invente les Water Closets, le contenu des toilettes part dans la Tamise, où il stagne. Pestilence et choléra, qui tue des dizaines de milliers de personnes. Indignation générale.

Un certain Joseph Bazalgette, ingénieur descendant d’Huguenots, construit un réseau d’égouts. L’incident est clos.

(In our time, BBC 4)

Conséquence imprévue du progrès ? Dommage que l’on n’ait pas encore compris qu’il fallait s’y préparer ?

Risque lithium

Faut-il prendre au sérieux le « risque lithium » ? La BBC disait l’autre jour « Batteries linked to hundreds of waste fires« .

Les batteries lithium terminent souvent leur vie au milieu des ordures. Il en résulte un grand nombre d’incendies. (Voir vidéo de l’article.) La BBC en appelait à un changement de comportement.

Mais est-ce suffisant ? Que va-t-il se passer si le nombre de batteries augmente considérablement ? Et quid de la nature des feux : peuvent-ils être beaucoup plus dangereux que ceux que l’on a subis à ce jour ?

Enseignement ? Il est possible que notre société soit configurée d’une telle façon que l’on ne puisse légiférer que dans l’indignation.

Risque lithium

Route du Rhum. Un bateau prend feu. Une question de batterie lithium. (Article.) A nouveau.

Illustration d’un phénomène bien connu, mais totalement ignoré. Les dangers de l’innovation. La Révolution industrielle a été accompagnée d’une série de drames effroyables, dont nous ne sommes pas toujours sortis. Il a fallu des années pour comprendre que l’innovation n’avait pas que des bénéfices. Elle est accompagnée de risques, et il faut beaucoup de temps et d’efforts, et de morts, avant de les comprendre et de les maîtriser, à peu près.

Je me demande d’ailleurs s’il n’y a pas là une des caractéristiques de la culture occidentale ou du capitalisme : masquer le coût réel, coût pour l’homme et la nature, de l’innovation. D’où un rythme d’innovation effréné.

Au nom de l’environnement, nous sommes actuellement dans un changement technologique radical. En conséquence, nous sommes aussi dans un moment de risque maximal. Peut-être, pour une fois, pourrions-nous chercher à prévenir plutôt qu’à guérir ?

L’Apocalypse joyeuse, ou la conquête de l’Ouest par le progrès

Société intelligente

Pourquoi la politique est-elle l’école de l’abjection ? se demandait un ami. Influence du milieu ?

Ce que Hannah Arendt a nommé « banalité du mal » ? Le groupe invite à l’irresponsabilité et au calcul mesquin ? Comme le dit le professeur Cialdini, s’il y a une chose que cherche à optimiser l’homme, c’est le « non usage » de son cerveau ?Comment rendre une société intelligente ?

Le risque force à rester sur ses gardes, et à l’alliance. Et l’alliance ne se fait qu’avec des gens de confiance.

La première personne qui doit être de confiance, c’est nous. Sans quoi il ne peut avoir d’alliés. D’où question existentielle : pourquoi me faire confiance ? Qu’est ce que j’ai que les autres n’ont pas ? Car la confiance n’est qu’une condition nécessaire, elle n’est pas suffisante : on ne s’allie pas avec un boulet…

Le risque fait, en plus, de l’individu un « laboureur » au sens de B.Cyrulnik. Il le force à être responsable, à utiliser sa tête, à ne compter que sur soi. Car le réseau est par nature éphémère, il est un travail de tous les instants. La conscience du risque immunise contre le populisme, les utopies et les complots.

Seulement, tant que toute la société ne perçoit pas le risque, il est tentant pour ceux qui ont un peu de pouvoir de nuisance de l’utiliser, pour tirer quelque bénéfice à court terme.

Finance systémique

L’Angleterre vacille, Crédit Suisse et Deutsche Bank sont en difficulté, alors que ce sont des banques systémiques. Les assurances vies, et les fonds de pension sont en difficulté. Risque d’une crise financière ? (Article.)

Oui pour les fonds de pension (les assurances vies ne feront que des dommages à leurs adhérents), non pour les banques. La précédente crise systématique a renforcé leur système d’auto contrôle. (Une leçon ?)

En revanche, le danger vient, ce n’est pas une surprise, en France, de l’endettement de l’Etat et des entreprises.

« Dans le cas de la France, le risque financier est donc plutôt celui d’une faiblesse persistante de la croissance que d’une crise systémique, les banques françaises étant bien capitalisées. »