Un peu avant Noël 2022, comme un geek du bureau me vantait l’aisance conversationnelle et la grande sagacité de ChatGPT, une nouvelle Intelligence Artificielle qui venait d’être ouverte aux consultations publiques, j’ai fait semblant de comprendre de quoi il parlait, et à peine rentré chez moi j’ai tapé « ChatGpt » dans wikipedia pour savoir pourquoi moi y en avait pas comprendre pourquoi, en fait :
Heu… un prototype d'agent conversationnel utilisant l'Intelligence Artificielle ?
Un « chatbot » développé par OpenAI et spécialisé dans le dialogue ?
J'avais déjà eu affaire à des robots conversationnels, sans savoir que ça s'appelait comme ça, que ce soit sur les sites de la CPAM, d'EDF, de la SNCF, et pour résilier en ligne l'abonnement Sosh de ma fille la semaine précédente, ça m’avait pris 4 heures et les bots m'avaient paru très limités intellectuellement, ils mimaient à merveille la stupidité et la mauvaise foi des humains que le mauvais karma, la faim et la pression migratoire avait poussés à travailler pour des plateformes téléphoniques, et je n’avais pas osé les insulter en ligne parce que les paroles s'envolent, mais les écrits restent, et puis quand on s'énerve par écrit ça semble toujours un peu ridicule. Les échanges désincarnés sont aussi faits pour faire baisser la pression hormonale dans la chaudière du dialogue social. Au bout de 240 minutes d'échanges policés au cours desquels "Audrey" avait fait place à "Jérémy" lui-même successeur de "Nicolas" parti manger un cyber-sandwich, j'avais réussi à résilier un abonnement internet, et qu'est-ce que ce ChatGPT pouvait bien avoir de plus qu'eux ?
 |
| Quand on échange dans le virtuel avec des chatbots, on perd la tactilité des rapports IRL, où les vendeuses de Call centers comprennent à demi-mot que quand on crispe sa main sur leur cuisse, c'est pour leur signifier que quand c'est non, c'est non. |
Sur le moment, je n’ai pas capté la valeur ajoutée par ChatGPT, alors je me suis inscrit là :
et j’ai pu en quelques clics interroger le chat/mots sur les préférences sexuelles des hommes blancs, les dangers d’ingérer du peyotl quand on est sous lithium, ou les moyens légaux d’augmenter mon temps de travail à France Télévisions sans passer par les Prud’hommes comme la dernière fois.
La machine m’a imperturbablement rédigé des réponses sensées et documentées, dans un français plaisant. C’était troublant : ce robot semblait doué d’une omniscience, et donc d’un potentiel de nuisance aussi terrifiant que celui du vieil Hal - 9000 dans 2001, l’Odyssée de l’espace, désormais aussi kitsch que l’ordinateur à pédales des Shadoks, ainsi que tous les ordinateurs fous dans leur tête des films de SF des années 70, ses frères d’infortune sacrifiés sur l’autel de la post-modernité.
Après avoir interrogé l’Oracle, et à la lueur de la pertinence de ses réponses, il était clair qu’aucun humain ne serait L’Élu de cette nouvelle Matrix, et je nous voyais déjà tous ployer et succomber sous le joug de la Singularité technologique, dont l’émergence fut prophétisée par les auteurs d’anticipation il y a déjà un bout de temps.
La théorie de la Singularité prétend que l’évolution exponentielle de la technologie informatique atteindra bientôt un point au-delà duquel il ne nous sera plus possible de l’appréhender. Cette théorie est basée sur la loi de Moore, qui postule un doublement de la puissance de calcul des ordinateurs tous les 18 mois. En extrapolant, il apparaît qu’en 2035 au plus tard, l’homme aura créé une intelligence supérieure à la sienne, mettant ainsi fin à l’ère humaine.
J’en fus moi-même hideusement convaincu en découvrant dès 1992 ce malicieux concept dans « Un feu sur l’abime », trépidant space-opéra de Vernor Vinge.
L’histoire se déroule dans un univers où un groupe de scientifiques réveille une super intelligence assez mal lunée, puisqu'elle ne songe qu'à soumettre et à détruire, causant ainsi l’annihilation de nombreuses civilisations, avec des conséquences fâcheuses sur l’âge du départ à la retraite des actifs survivants.
 |
| En 2035 au plus tard, l'humanité qui n'a pas cru bon de travailler jusqu'à 64 ans a été reléguée dans les couloirs du métro, et ne peut s'en prendre qu'à elle-même. |
Alors qu’on pourrait légitimement se réjouir de voir enfin advenir une « super-intelligence qui dépasserait qualitativement de loin l'intelligence humaine » que nous serions libres d’appeler Dieu, et qui nous comblerait de son Amour Inconditionnel comme n’importe quelle radasse à qui on aurait imprudemment refilé notre numéro de carte bleue, ben non, il semble que la première conséquence directe de l’émergence de la Singularité soit de nous condamner à la disparition pour obsolescence.
Heureusement, cette hypothèse se heurte à un certain nombre de limites, intelligemment énoncées dans le wiki,
- Le concept de singularité ne tient pas compte des besoins et des ressources disponibles en énergie. Soit il postule des ressources infinies, soit il estime sans le démontrer que les besoins ne changeront que peu.- une courbe exponentielle ne débouche sur aucune singularité, mais continue à croître à l'infini.- L'Homme a toujours créé des outils pour améliorer l'économie et la société, mais ces améliorations de plus en plus nombreuses ne peuvent dépasser l'intérêt de la société concernée, elles ne seront toujours que des moyens de plus en plus développés pour atteindre les buts de celle-ci. Une intelligence artificielle est l'un de ces outils que l'Homme crée pour satisfaire ses besoins. Par conséquent, quand bien même l'amélioration exponentielle de la technologie se prolongerait dans les années à venir, elle a une limite absolue qu'elle ne dépassera jamais : les besoins de la société qui, eux, ne sont pas exponentiels. Par conséquent, cela signifie qu'une fois que la technologie sera en mesure de complètement satisfaire la société, son évolution se stabilisera. Pour cette raison, toute singularité liée à l'amélioration d'une société a une limite prédéterminée : l'apogée de la société concernée.
Ce qui nous donne brusquement l’impression d’avoir appris quelque chose, et qui me rend jaloux car pour l’instant ce n’est pas le cas de cet article; de là à suspecter que c’est ChatGPT qui l’a rédigé, travesti en contributeur humanoïde, pour nous faire croire que ça s'peut même pas et que tout va bien, il n’y a qu’un pas, et plus ça va, plus le risque est non-nul, parce qu’un des symptômes d’un texte rédigé par une I.A. c’est que c’est méga-chiant, comme Deauville sans Trintignant, mais en bien pire quand aux dégâts collatéraux sur l’Humanité.
Pour en savoir plus, et pour être sûr que je n'avais pas été remplacé par une I.A. conversationnelle à l'insu de mon plein gré à la faveur de ma séance quotidienne de piqûres anti-phlébite par une de mes infirmières drôlement délurées, je me suis adressé à un ami informaticien, que je savais circonspect dans ses enthousiasmes et méticuleux dans ses recherches.
Je m'accrochais à mes doutes, me disant qu’il pouvait quand même y avoir du bon dans l’avènement de ChatGPT, vu les multiples maux infligés à la planète Terre du fait de notre croissance et infestation d’icelle, en une prolifération échappant désormais à tout contrôle, à laquelle ChatGPT pourrait remettre bon ordre sans faire de sentiment ni sombrer dans le clientélisme, car les appétits carbonés de notre nouveau Golem en silicium seront sans doute inférieurs aux nôtres, et c’est une aussi une bonne nouvelle pour Greta Thunberg, dont le sort n’émeut plus personne, et pendant les fêtes de fin d’année ses parents lui interdisent de quitter sa chambre tellement elle casse l’ambiance. [écrit fin décembre 2022, alors que je me débattais pour rester en prise sur l’actu et la réalité, afin d’éviter de me perdre dans les dédales de conversations stériles avec des amis imaginaires, bien moins constructives que de monter à l’étage mettre la table pour le réveillon et commencer à chercher des trucs frais et intelligents à dire aux invités, par exemple].
 |
| On n'a plus le temps de vivre, ni de laisser le temps au temps, alors on veut tout voir. Surtout l'impensable : Lady Diana, Freddie Mercury, Greta Thunberg artificiellement vieillis. https://www.instagram.com/alperyesiltas/ |
Mon ami ne tarda pas à me répondre :
Cher JW,Peut-on faire confiance à un chat qui s'appelle GPT, plutôt qu'à une Joconde nommée GLLOQ ? Telle est la question, disait Shakespeare.Un collègue de boulot, qui veille technologiquement de près sur les logiciels d'OpenAI, me vantit les qualités de ce robot. J'en doutus. Nous lui demandîmes conséquemment un poème sur la pizza italienne, œuvre hilarante jusqu’à ce que nous nous rendûmes compte en vérité que tout le second degré était dans l'œil du lecteur. A une question que nous lui posûmes sur l'équipe de France de foot, l'A.I. nous réponda qu'elle n'avait pas gagné de Coupe du Monde depuis 1998. Aussi subrepticement et peu à peu, nous nous apercevâmes que l'ignoble A.I. mêlait informations exactes et fake news au plus grand naturel et au ton le plus docte, ton suffisant à donner l'illusion d'un maître de chaire ès tout en Sorbonne.Depuis, je ne peux m'empêcher de lui poser avec malice et mauvaise foi juste des questions telles que Dieu existe-t-il ? Papa comment ça marche un sous-marin nucléaire ? ou Quel âge avait Rimbaud ? ce à quoi l'immonde réseau neuronal trouve toutes excuses pour ne pas répondre, qu'il est trop tard et qu'il est fatigué, que j'ai posé trop de questions, qu'il est déjà l'heure de sa douche froide à la clinique.Je te mets donc en garde, et de la façon la plus formelle : évite tout contact avec ce Trump computérisé, ce Mammon de l'intrication quantique. Ne prête pas l'oreille à ses sirènes concernant les préférences sexuelles des hommes blancs, les dangers du peyotl et les moyens d’augmenter ton temps de travail à France Télévisions. Toutes sensées et plaisantes que puissent paraître ses réponses, pire que HAL, la Machine des jeux, Madame Tang Yu ou le Grand Ordinateur des Ummites qui comprenait le plan de Dieu, elle passera bientôt pour l'Oracle, le Sâr Rabindranath Duval, la Voix de la Raison incarnée dans le silicium, à seul but d'augmenter le portefeuille d'actions de ses créateurs.Dans le domaine de l'A.I., tout n'est qu'illusion, comme disait le sage Gouda. Et il ne se fera pas de vieux os avant que nous soyons devenus, avant même de nous en être rendus compte, les suppôts d'une vieille boîte en métal dans lequel se cacherait le Prophète et toutes ses réponses aux questions stupides que l'on se pose sur l'Univers.Bonne fin d’année - et passe le bonjour à Greta.
Sa réponse était sans ambiguïté : une fois de plus, les chamans auto-proclamés de la Silicon Valley nous bourraient le mou, et entendaient bien nous hypnotiser jusqu’au trognon, afin de nous asservir aux rouages de cette machine à contrefaire l’intelligence, dotée d’une puissance de calcul phénoménale, qui ratatine allègrement les capacités humaines de remémoration et de synthèse de données.
Mon ami pas si imaginaire que ça m’en donna deux preuves concrètes, en prenant ChatGPT en flagrant délit de charabia.
 |
| Défense de nourrir les Oryctéropes. Ca les rend oufs. |
Exploitant aussi honteusement, qui plus est un jour férié, l'avatar de ChatGPT spécialisé dans la création d'images puis les contraignant tous deux à rédiger une carte de voeux contre nature, à base de pollution et de menace nucléaire, mon ami fit blasphémer les I.A. contre la Raison. C'était pas très dur.
 |
| clique sur l'image, parce que là on voit que dalle. Coproduction Stable Diffusion® et Chat GPT3® |
« On y a la preuve que GPT est l’esprit de mensonge le plus hypocrite et odieux qui existe, et doué d’une mauvaise foi proprement infinie. » ajouta-t’il d’un ton péremptoire pour clôturer le débat qui n’avait même pas commencé.
Pour ceux d’entre vous qui prétendiez n’avoir pas été suffisamment informés lors de la découverte des camps de la mort par les troupes américaines en 1945, là, vous ne pourrez pas dire que vous ne saviez pas, juste avant de commencer à cliquer sur ChatGPT en 2023.
Accuser GPT de mauvaise foi, c’est lui attribuer des défauts de caractère qu’on ne prête qu’à une entité incarnée, qu’elle soit humaine ou cosmique; c’est aussi postuler qu’il puisse en exister une « bonne », (une foi, pour ceux qui sont perdus) alors que maintenant que j’y songe, ce terme de bonne foi résonne désormais de façon suspecte dans un silence résolument pléonastique. Tant pis.
Dans tous les cas, c’est prêter beaucoup de profondeur réflexive à un tas de ferraille, quel que soit le degré de raffinement de ses algorithmes. Les Oryctéropes dévoilent un bug : quand le chatbot ne sait pas, au lieu d’admettre son ignorance, il invente, il fabule, il balbutie jusqu’à l’invention, et sa carte de voeux sur le thème imposé de l’apocalypse n’est guère plus performante que si on l’avait faite réaliser par un enfant de trois ans et demi qu’on aurait nourri uniquement avec de vieux numéros de la revue Hara-Kiri, et des tutoriels Photoshop. Il aurait eu de sérieux problèmes de transit, mais il aurait démoulé quelque chose d’un peu plus chiadé.
J’en étais là de mes ruminations déceptives et mordorées, quand je tombis sur deux articles stupéchiants (c'est à dire à la fois magiques mais un peu longs à lire et à assimiler) qui m‘éclairurent les tenants et les aboutissants du bidule, par le concept d'artefact génératif. Je ne regrettus pas de m'être lancé dans la rédaction d'un article manifestement hors de portée de mes moyens actuels, et encore, depuis une semaine j'ai quitté mon grabat puisque grâce à la rééducation kinésitérapique, je claudique désormais sur une seule béquille, au grand dam des fabricants d'embouts en caoutchouc qui rêvaient de m'en voir acquérir une paire.
Que ce soit un bloggueur français qui parvienne à rendre tout ceci intelligible, c’est d'autant plus admirable ! des heures d’émerveillement et d’épouvante en perspective.
Je vous laisse les parcourir, et vous avancer jusqu'aux caisses, pour pouvoir enfin vous aussi baigner dans cet océan de clarté et de sagesse nées de la compilation de centaines de milliers de pages de bullshit moissonnées sur le web à l’aide d’algorithmes à la rapidité surhumaine, donc monstrueuse.
Ce qui ouvre de nouvelles perspectives dans bien des domaines scientifiques et technologiques, mais pas forcément dans celui de l’intelligence ni de la sensibilité : pour qu’il y ait émergence d’une intelligence, il faut une conscience de soi, et on en est encore loin. Je ne récuse pas la possibilité de l’apparition d’une I.A. un peu plus futée dans le futur, mais pour l'instant, y’a encore comme un bug dans la purée.
Greffez-lui un corps soumis à l'entropie, et on en reparle.
Mary Shelley, reviens, ils se foutent de nous !
***
Coda trouvée dans une baignoire le wiki :
Lancé en novembre 2022 dans une version gratuite et non connectée à Internet, ChatGPT bénéficie d’une large exposition médiatique et reçoit un accueil globalement positif, bien que son exactitude factuelle soit critiquée. En raison de ses capacités multiples, le prototype suscite également des inquiétudes en raison des détournements possibles à des fins malveillantes, des risques de plagiat dans le monde académique et de possibles suppressions d'emplois dans certains secteurs.En janvier 2023, ChatGPT compte plus de 100 millions d’utilisateurs enregistrés.
(vous voyez bien qu'il n'y a aucune raison de se faire du mouron souçaïlle)
En 1996, le Monde Diplomatique sort son premier hors série : "Internet, l’extase et l’effroi"
bonus en hidden track piste cachée : l'éditorial d'Ignacio Ramonet
Ils pourraient le republier ces jours-ci en remplaçant juste Internet par "ChatGPT", et ça passerait à l'aise, fingueurs in the noise. Car tandis que dans la Silicon Valley on gravit sans peine des pics insoupçonnées dans le bliss, ici-bas, nous pataugeons plus que jamais entre l’extase et l’effroi. Enfin, tant qu'il y a du courant électrique, parce que sinon, on aurait juste froi.
A ce propos, la commission d’enquête parlementaire sur « la perte de souveraineté et d’indépendance énergétique de la France » se réunit depuis fin 2022, et auditionne des hauts fonctionnaires, les patrons successifs d’EDF, des scientifiques, des ex-ministres et bientôt des anciens chefs de l’Etat pour tenter de comprendre les fragilités de la France..
Extraits :
Les anciens PDG d’EDF n’ont pas de mots assez sévères pour critiquer le dispositif inventé afin que l’entreprise publique, devenue société anonyme en 2004, aujourd’hui en cours de renationalisation, puisse conserver le monopole du nucléaire mais abandonne, en échange, des parts de marché à ses concurrents.
Le dispositif porte le nom d’« accès régulé à l’électricité nucléaire historique » (Arenh) et consiste à réserver, à bas prix, une proportion importante de la production d’EDF (100 térawattheures, et même 120 térawattheures en 2022) pour ses concurrents. « Le manque à gagner est considérable, de l’ordre de plusieurs milliards d’euros chaque année : nous touchons 42 euros par mégawattheure, alors que le parc nucléaire nous revient à une cinquantaine d’euros – sans tenir compte du coût de sa reconstruction », a déclaré Jean-Bernard Lévy, en soulignant que le tarif n’avait pas évolué entre 2012 et 2021. L’Arenh explique une partie des résultats d’EDF en 2022, avec une perte abyssale de 17,9 milliards d’euros, l’entreprise ayant dû acheter à prix d’or, sur le marché, une électricité qu’elle avait cédée à ce tarif avantageux.
Le dispositif n’avait pas prévu assez de garde-fous face à la tentation − pourtant bien documentée dans l’histoire du capitalisme −, pour des acteurs d’un marché, d’engranger des profits rapides. « Pour un industriel, l’idée même d’accepter de céder sa propre production à ses concurrents virtuels, qui n’ont eux-mêmes aucune obligation de production, est surréaliste. Nous avons fait la fortune de tradeurs, non d’industriels », cingle Henri Proglio, PDG d’EDF de 2009 à 2014.
« On a fabriqué un outil de spéculation pure. On a fait gagner de l’argent à des personnes qui n’ont pas produit un électron », corrobore Yves Bréchet, ancien haut-commissaire à l’énergie atomique, en poste entre 2012 et 2018 : « La politique énergétique du pays a été décidée par un canard sans tête. »
Heureusement que Macron a repris les choses en main, et que tout est sous contrôle,
***
retouches finalisées en essayant de faire preuve d’I.H.
(Intelligence Humaine, un truc qui se perd)
en écoutant le Nightbloom de Steve Roach & Mark Seelig
Grâces leur soient rendues.
