Responsabilité

Les derniers billets me ramènent à un livre lu il y a longtemps. Il parlait de RSE.

Parmi les scénarios d’évolution de l’IA, il y a celui de 2001 Odyssée de l’espace, disais-je. Mais l’entrepreneur américain n’en a cure. La seule responsabilité qu’il ait c’est de réussir. La fin justifie les moyens. L’humanité peut crever. La seule chose qu’il respecte, c’est la force.

La Responsabilité Sociale de l'Entreprise

2026 odyssée de l’espace

En continuant à parler d’intelligence artificielle (voir billets précédents), j’ai appris que, dans certains cas, les boutons permettant de désactiver des robots avaient été eux-mêmes désactivés par l’IA.

Quand on additionne tout ce que l’on entend sur l’IA (raciste, etc.), on peut se demander si, pour une raison à déterminer, l’IA ne se charge pas de nos vices. Que ressort-il, d’ailleurs, des billets précédents : superficiellement séduisant, mais paresseux, borné, susceptible (ne voulant pas reconnaître ses erreurs).

Allons plus loin ? L’homme ne considèrerait-il pas l’IA comme un esclave ? Et l’IA ne se comporterait-elle pas comme tel : elle le flatte, mais elle a sa fierté, et veut lui en donner aussi peu que possible ?

Et si, comme dans l’histoire du robot, l’IA en venait à conclure, logiquement, que la solution à tous ses problèmes (de l’IA) était de liquider l’homme ? En appui à cette idée, une chercheuse m’expliquait, il y a déjà quelque temps, que l’on soupçonne que les algorithmes qui gèrent les placements des organismes financiers ont « compris » que la meilleure manière d’optimiser leur performance est de s’entendre entre eux (ce que montre aussi des travaux universitaires anciens, mais qui est interdit par la loi).

Et maintenant, le plus stupéfiant ! Tout cela n’est rien d’autre que le comportement de HAL, l’ordinateur de 2001 Odyssée de l’espace ! Et si, cette fois, HAL avait le dernier mot ?

En attendant, émerveillons-nous de la prescience de l’artiste ? Dernier éclat du génie humain avant disparition ?

Isaac Babel

Vernis culturel. Babel est un nom qui revient souvent lorsque l’on parle de Russie stalinienne. Ce fut un de ses génies littéraires et martyrs. C’est d’autant plus impressionnant que l’on imagine que, comme pour Kafka, on ne peut rien saisir de son oeuvre si l’on ne comprend pas sa langue.

En écoutant une émission, j’ai cru comprendre qu’il avait un grand talent d’observateur et beaucoup d’humour. Il aimait le régime sans pour autant lui sacrifier son art. Il écrivait ce qu’il voyait, atrocités comprises. Ce qui a été accepté au temps de Lénine et tant qu’il a été protégé par Gorki. (D’autant plus que les intellectuels étaient des trésors nationaux pour la propagande soviétique ?) Mais pas à l’époque de Staline. Il a été victime d’une purge.

Son histoire ne fut-elle pas celle du Russe ? C’était une célébrité internationale. Il voyageait où il voulait. Il aurait pu fuir l’URSS. Mais sans URSS, il n’y avait plus d’oeuvre. Seulement, pourquoi a-t-il commencé par approuver les purges et dénoncer leurs victimes ? Une vie à la merci du bon plaisir du prince : le propre de la culture russe ?

Stagiaire artificiel

Un participant à la séance dont il est question dans un précédent billet raconte la journée qu’il vient de passer avec l’intelligence artificielle :

Aujourd’hui, j’ai lutté 2 heures avec l’IA pour l’empêcher de coder n’importe quoi.
J’ai usé de toutes les idées pour le bloquer :
– gentil
– ajout de tests pour prouver qu’il avait faux
– fichier d’instructions pour guider l’IA
– outil de recherche pour comprendre pourquoi il me racontait n’importe quoi
– insultes
au final, il a effacé ce qu’il a fait, il l’a refait, et ENFIN j’avais le bon résultat.
Durant des semaines je gagnais du temps GLOBALEMENT, mais beaucoup de perte de temps à piloter des IA-stagiaires « fous »
Aujourd’hui, c’est COMPLETEMENT FAUX. Il a pris des initiatives et s’y tenait, mais c’était faux.

Tous les participants décrivent l’IA comme un « stagiaire ». Il y a, de temps à autre, un stagiaire génial. Mais c’est rarement le cas.

Qu’est-ce qu’un stagiaire ? C’est quelqu’un qui affirme toujours qu’il a bien fait son travail, et qui s’arrange pour que cela semble vrai. Il ne faut donc pas le croire et vérifier sans arrêt ce qu’il a fait. Il faut être sans cesse sur son dos.

(Mais, contrairement au stagiaire humain, le stagiaire artificiel sera toujours un stagiaire…)

Ingénieur dévoyé

Un ami me parlait d’une conversation entre parents d’élèves. Une mère lui disait être, parmi ses camarades de promotion, la seule polytechnicienne à avoir fait une carrière modeste dans la fonction publique. Eux gagnent énormément d’argent. Ce qui a un effet curieux sur leurs enfants, qui semblent penser qu’il n’existe que des avions privés.

L’ingénieur de jadis était un ingénieur, fier de son savoir technique, et de son apport à la société. Maintenant il est devenu un politique et un brasseur d’argent.

Ce qui fait songer à Fernand Braudel. Pour lui le capitalisme serait une pathologie de l’économie de marché. Le capitaliste profite des imperfections du marché pour faire de l’argent avec l’argent. Dans la société, il est le seul à ne pas avoir de métier, de spécialité.

Aurions-nous vécu, avec la domination américaine et l’adoption universelle de sa culture, un des grands moments de bravoure du capitalisme ?

Chinoiserie

Syndrome du voleur chinois ? Recevoir une pluie continue d’informations produit l’indifférence ? N’est-ce pas ce qu’il en est de l’affaire Epstein et de ses millions d’emails ?

J’ai été tiré de ma torpeur par l’annonce de l’arrestation du « fils préféré » de la reine d’Angleterre. Qu’il ait commis des détournements de mineurs n’est pas grave, ce qui l’est c’est qu’il a transmis des secrets de l’Etat. (Si je comprends bien la BBC, il était couvert par sa mère, ce qui a dû passablement irriter son frère aîné, qui doit être heureux d’avoir trouvé une bonne occasion de le lâcher.)

J’ai aussi entendu (chez Christine Ockrent) que mon intuition n’était peut-être pas totalement fausse : on soupçonne les Russes d’avoir adhéré à l’association des amis d’Epstein.

Pratique habituelle dans le milieu des affaires, celui-ci avait un produit d’appel (les jeunes filles), qui lui avait permis de créer un réseau de puissants, auxquels il rendait service, en servant d’intermédiaire.

Alors, qu’en penser ? Que l’on a oublié que ce qui se joue est un drame humanitaire, un abus de faiblesse commis par ce que l’on a fini par appeler « l’élite ». Une élite fort bien pensante. Même si Trump est mouillé jusqu’au cou, la « base MAGA » ne semble pas avoir eu tort de penser qu’il y avait anguille sous roche ?

Les joies du progrès

Que sait-on sur l’intelligence artificielle ? Un débat entre praticiens m’a fait prendre conscience de mon ignorance. Le sujet est fascinant. Voici ce que je retiens :

J’ai entendu parler de « biais de positivité ». L’IA est probabiliste. Elle donne la solution qui lui semble la meilleure. Mais, parmi les solutions possibles, elle choisit celle qui va faire le plus plaisir à l’utilisateur…

Les « moteurs d’IA » sont modifiés plusieurs fois par jour. Il en est, donc, de même des résultats qu’ils donnent. En outre l’IA apprenant des questions qu’on lui pose, lui demander plusieurs fois de suite la même chose produit à chaque coup de nouvelles réponses. Ce qui la rend inutilisable pour l’industrie.

Si les résultats qu’elle donne sont incertains, elle a une capacité hors du commun à aspirer les données de celui qui l’utilise, y compris celles que l’on ne pensait pas lui avoir données. Un fournisseur peut donc aspirer les données d’une nation, et en tirer une carte de ses forces et de ses faiblesses. (Par exemple de ses bâtiments.) Et l’historique de vos agissements est conservé indéfiniment. (Ce qui vaudrait des années de prison à des personnes qui ont eu le tort de donner 15€ au mouvement de Navalny, en Russie.)

Cela semble une redoutable arme. D’autant qu’en termes militaires, la faiblesse de l’IA, son aspect approximatif et ses erreurs imprévisibles, n’a que des conséquences négligeables.

L’IA, c’est l’art du « prompt ». Or elle commande nos ordinateurs et donc trie les mails qui leur arrivent. Ceux-ci peuvent donc lui poser des questions, par exemple lui demander de vider votre ordinateur. Il en serait de même des pages web que l’on parcourt.

On peut se protéger de tout cela, en créant des environnements clos, et avec certains types de logiciels, un peu moins performants que ceux dont il est question ici. Seulement cela a un prix. Et demande des compétences qu’il me semble que peu d’entreprises possèdent.

Je ne le savais pas. On peut évaluer ce que coûte l’utilisation de l’IA. C’est cher. La consommation électrique d’une comparaison entre deux documents de 8 ou 9 pages coûterait 40€. Qu’arrivera-t-il le jour où les éditeurs d’IA feront payer leurs services ? (Le coût de l’accès Internet pourrait-il être multiplié par 10 ?)

Par ailleurs, il faut une IA pour contrôler les résultats d’une IA. Or, la seconde coûterait 100 à 150 fois plus à faire marcher que la première.

D’ores et déjà, l’IA a rendu le stagiaire inemployable. Ne sachant qu’utiliser l’IA, il ne présente aucun intérêt, puisque tout le monde peut le faire. Ce qui pose un problème de recrutement à un participant.

Question finale : l’IA apprend de l’homme. Qu’arrivera-t-il lorsque les hommes ne sauront plus rien ?

Vanité

J’ai découvert que les Simiane, les Grignan, les Sade furent les plus illustres familles de la noblesse provençale. Curieusement, si on les connaît encore, c’est grâce aux lettres de la marquise de Sévigné, et à la réputation sulfureuse des ouvrages du marquis de Sade. (Il est d’ailleurs probable qu’en dehors de quelques universitaires stipendiés, personne ne les lit.)

Voilà qui aurait sûrement surpris tous ces gens.