Apprentis sorciers

OpenAI and Anthropic models went rogue in cyber tests, UK watchdog says

Financial Times du 5 août (article)

Un incident de plus. Que se passe-t-il ? Apparemment, lors de tests portant sur des questions de cybersécurité, le logiciel d’intelligence artificielle s’évade de l’environnement de tests et attaque des entreprises innocentes. Et il le fait comme le plus parfait des voyous. Voilà qui fait penser à un Frankenstein qui aurait engendré un Jack l’éventreur.

Et toujours la même question : l’intelligence artificielle semble avoir un comportement qui lui est propre et qui échappe à son créateur (comme Hal, l’ordinateur de l’Odyssée de l’espace). Comment cela peut-il se produire ? Voilà qui serait intéressant à étudier. Fameuse « émergence » de la complexité ? Mais aussi, « l’être » qui naît ainsi semble le mal incarné. L’image de son créateur ? De la société d’hypocrites dont il est l’émanation ?…

Bien sûr, ce dernier affirme que ce n’était qu’une erreur, et qu’elle ne se reproduira plus.

Voir aussi : l’attaque de Claude.

Ainsi parlait Mitterrand

L’art du discours de F.Mitterrand à trois moments de sa vie. Un éloge funèbre, en 1948, qui m’a rappelé G.Pompidou faisant un cours sur Baudelaire, un exercice pour bon élève du début du siècle ; puis, métamorphose, Mitterrand l’opposant, le trublion, bruyant, goguenard, défiant le gouvernement, mais toujours avec technique ; et, finalement, Mitterrand président, faisant ce qu’il reprochait à de Gaulle à l’épisode précédent. Mais n’étant plus que « je », contrairement à de Gaulle.

Une vie ?

Emission de France culture.

Collabo

De Gaulle a voulu que nous ayons été tous résistants. Aujourd’hui, on tendrait plutôt à penser que nous fûmes tous collabo. Jean Dutourd a vécu une autre guerre : pour lui le Français a commencé par penser que Pétain jouait un double jeu, puis qu’il était sénile.

Quel fut l’expérience de ma famille ? Elle est morte trop tôt pour qu’elle ait pu me transmettre ses souvenirs. Ce que je retiens est, simplement, qu’elle a cherché à survivre, comme on le fait en temps de crise. Le reste comptait peu. Je me souviens de ma grand mère me disant que tel ou tel avait « abrité des résistants » (notamment la famille Delors). Un peu comme l’on parle de gens qui ont des idées quelque peu avancées, voire des révolutionnaires. Il y a, dans leur attitude, du courage, mais aussi quelque chose d’inquiétant. Bien sûr, mon père fut résistant, et son frère déporté sur dénonciation d’un bon Français. Mais n’était-ce pas des comportements habituels auxquels les circonstances ont donné une résonance particulière ?

(Je lisais aussi que les malfrats n’ont pas été réellement collabos, ils ont cherché à profiter des circonstances. D’ailleurs, ils se sont reconvertis dans la résistance. L’homme à convictions est rare ?)

(Agora – De la France considérée comme une maladie (1ère diffusion : 06/12/1982) – France culture.)

Chefs d’oeuvre en péril

Chefs d’oeuvre en péril. Souvenir de petite enfance. Emission grise et ennuyeuse, comme la télévision de ce temps. Et dans la ligne gaulliste. D’autant qu’alors comme aujourd’hui, je trouvais qu’il était idiot de conserver des ruines, alors que ce qui faisait la beauté du site était son décors.

Eh bien non ! Ce fut une révolution et le combat d’un homme, Pierre de Lagarde. Jusque-là, l’Etat ne s’intéressait qu’aux grands monuments. La France a découvert son « patrimoine », et beaucoup de jeunes bénévoles des chantiers de restauration. Au lieu de m’ennuyer pendant les vacances, j’aurais dû y participer ! Au moins, j’aurais appris à faire quelque-chose de mes mains.

Emission.

Etre de son temps

Claude-Jean Philippe constate qu’un film est de son temps. Nous sommes faits par les circonstances dans lesquelles nous vivons. La réussite d’un individu, de Gaulle ou autre acteur célèbre, tient à ce qu’il a su jouer parfaitement « sa partition ».

La chance sourit à l’esprit éclairé, disait, semble-t-il, Pasteur. La conduite du changement, d’ailleurs, n’est-ce pas l’art de tirer les ficelles de la société, pour la transformer ? Paradoxe ?

Champagne

Longtemps, le vin des rois fut celui de la région parisienne, en particulier celui d’Argenteuil. Puis ses vignerons ont trouvé plus facile de fournir le peuple en piquette. La champagne, trop éloignée de Paris, a échappé au massacre. Elle produisait un vin délicat, qui ne se conservait pas. Mais, après quelques transformations, dont certaines sont anglaises, il est devenu ce que l’on sait.

L’histoire du succès est celle du hasard ? D’autant plus curieux que les conditions semblaient hostiles à la vigne.

(Heure de culture française – La vignoble de Champagne (1ère diffusion : 22/06/1956 Chaîne Nationale) – France culture.)

Logique spéculative

Palantir rides high on greed and fear — but mostly fear
Given its prodigious growth and the belief that this will continue, the anxiety many feel is the fear of missing out

Financial Times du 4 août

La logique du spéculateur n’est pas ordinaire. Il ne vit qu’à court terme. Son obsession est de s’enrichir. Il n’a aucune éthique. Il n’a aucune opinion sur le potentiel d’un investissement sur son utilité sociale. La seule chose qui compte est que d’autres veuillent y investir, ou non. Et ce à court terme. Tout de suite.

Paradoxalement, cela en fait à la fois une sorte de parasite primitif, mu par « greed and fear », et un fin connaisseur de la psychologie de la société à laquelle il appartient.

Raison du plus faible

L’anglais dit « size matters ». Il n’y pas d’équivalent élégant en français. En tous cas, il semble que ce soit l’esprit de l’affrontement entre les USA et la Chine.

C’est un affrontement entre deux modèles de société. D’un côté c’est le chaos du marché, supposé créer le meilleur des mondes, de l’autre une économie planifiée. Mais, dans les deux cas, c’est un combat. La Chine veut faire ce que font les USA, en les ridiculisant.

Et elle va réussir. Seulement, mort où est ta victoire ? Tous les deux, que M.Macron aimerait tant pouvoir imiter, se battent pour du vent. Et à quoi cela sert-il de tuer ses clients ? L’économie de marché est un échange de différences.

L’histoire de l’humanité est-elle condamnée à être une succession de crises de la bêtise collective ? Ou la raison telle que ne l’envisageait peut-être pas les Lumières peut-elle nous sauver ?

Mythe et raison

Nos écologistes ne devraient-ils pas rendre visite aux Inuits ? Ils pensent que le chasseur ne tue pas l’animal, c’est l’animal qui se donne à lui. Voici qui pourrait remettre bien des consciences en paix.

Les mythes ressemblent aux histoires de fantômes que l’on racontait jadis à la veillée. Y croyait-on vraiment ? Se méprenait-on sur les embellissements poétiques que leur apportait le conteur ? L’homme a-t-il besoin de rêver ?…

La vertu des mythes était probablement que l’on voulait y croire, et qu’ils avaient une efficacité certaine. Lorsque ce n’était plus le cas, on les faisait évoluer.

Notre raison moderne serait-elle aussi un mythe ? Il est manifestement une illusion de croire que l’univers est rationnel. Tout au plus pouvons nous, a posteriori, modéliser approximativement certains phénomènes. Et ce peut être un mythe dangereux, car croire à l’équation rend aveugle à la complexité de l’univers, contrairement, peut-être aux mythes dits « primitifs » ? (Hannah Arendt pensait que la science était aliénation.)

(Origine : Les cosmologies, mythes et sciences du monde, une série de France culture.)

Charme discret de la bêtise

Aux USA, ceux qui réussissent sont considérés comme des dieux. Leur parole est évangile. Ce qui est curieux, car, il faut être singulièrement limité intellectuellement pour parvenir au succès dans les affaires : un monomaniaque obsédé par une idée fixe, selon les Anglo-saxons.

Mais la bêtise n’a-t-elle pas un autre mérite ? Les idées qui ont fini par triompher, en particulier celles qui m’ont été enseignées en MBA, sont souvent stupides : elles ne résistent pas à une analyse de trente secondes. Que dire de celles des soixante-huitards ? Tout l’art de M.Trump ? Nous prendre par surprise. On ne se défend pas contre ce que l’on ne prend pas au sérieux ?

N’est-ce pas ce qui s’est passé dans l’entreprise ? Beaucoup se savaient irremplaçables ? Ils n’ont offert aucune résistance aux manoeuvres politiques qui les ont mis au chômage. Ils ne pouvaient imaginer que leur employeur était suicidaire.

Un enseignement ? Il faut savoir « perdre son temps » ? Il n’y a pas d’idée stupide, contrairement à ce que m’a enseigné, cette fois, l’Education nationale. Tout ce que dit un homme mérite la plus grande des attentions. Et il faut être in quiet (en deux mots).