J’ai écrit il y a moins d’un an un (remarquable) livre sur les IA génératives et l’avenir du web (Les IA à l’assaut du cyberespace : vers un web synthétique, C&F Editions), ouvrage toujours en vente libre, je ne vais donc pas vous redire ici tout ce que j’y développe avec une acuité soulignée aussi bien dans La Tribune que dans L’Humanité, mais sachez que si vous vous interrogez autant sur l’incroyable foirage de Lucie (IA française sitôt lancée sitôt débranchée) que sur l’incroyable succès de Deep Seek (IA chinoise alliée du régime), vous trouverez dans ledit bouquin tous les éléments d’explication nécessaires. Et oui 🙂
La page d’accueil du site Lucie.Chat
L’avatar a été choisi pour mixer l’image de Marianne et celle de Scarlett Johansson en référence au film Lucy de Luc Besson.
En bas de l’image, une version finalement non-retenue.
Je reviens juste sur deux éléments qui me frappent. A chaque lancement, de presque chaque IA, reviennent en boucle exactement les mêmes exemples des mêmes aberrations ou « hallucinations ». ChatGPT avait ses oeufs de mouton et son extension « ad Hitlerum » (c’est à dire la capacité d’endosser le point de vue d’Adolf Hitler et à défendre ses idées si on le lui demande) avant d’être « corrigé » (selon certains), « censuré » (selon d’autres), « éduqué / entraîné / fine-tuné » (selon des troisièmes). Ce fut également le cas au lancement de Gemini (Google) et de toutes les autres IA à l’exception notable de Grok (IA d’Elon Musk) précisément calibrée pour autoriser toutes les dérives (mais tout de même en partie, hélas en partie seulement, cadrée sur la question de l’Holocauste).
De la même manière le lancement de Lucie eut donc à faire face à ses oeufs non pas de mouton mais de vache, et à son épisode d’apologie des crimes nazis (et/ou de négationnisme). Plus quelques autres naufrages mathématiques (la racine carrée d’une chèvre ou bien encore des opérations de calcul de factorisation niveau 6ème) que là encore la totalité des autres IA conversationnelles lancées rencontrèrent à leurs débuts. La naufrage de Lucie n’est donc pas tant un naufrage technique (ces bugs seront bien sûr corrigés) qu’un naufrage marketing eu égard au fait que précisément aujourd’hui et déjà depuis un an, tout lancement d’une IA conversationnelle s’accompagne de la correction de ces bugs « élémentaires », en tout cas dans la version grand public.
Et puis donc il y a Deep Seek (que je n’ai pas directement testé) mais qui débarque avec tout le narratif de la puissance Chinoise dans un contexte où jamais la géopolitique n’eût tant à faire avec la technologie. Alors oui, comme le résume très bien cet article de Numérama ou celui-ci de Frandroid, Deep Seek marque en effet à bien des égards une avancée remarquable et significative dans la galaxie des LLM (large modèles de langage), à la fois en termes de puissance mais aussi de coût de développement. Même Sam Altman (patron d’Open AI et principal destinataire des 500 milliards de dollars annoncés dans le projet Stargate) s’est fendu d’un post sur X dans lequel il dit que « oui bon ben Ok en effet on voit bien que l’argent ne fait pas tout mais vous allez voir ce que vous allez voir. » Par contre, n’allez pas demander à DeepSeek de vous raconter l’histoire des massacres de la place Tien An Men ou de la politique chinoise de persécution des Ouïghours. DeepSeek creuse certes profond, mais il est des sujets ou il achoppe à descendre ailleurs qu’en surface.
(capture d’écran DeepSeek réalisée depuis mon compte le 28 Janvier à 17h)
C’est très probablement un atavisme personnel, mais la question du langage, celle de la langue même comme matériau premier de l’ensemble de nos sociabilités et de l’organisation politique de nos sociétés me semble aujourd’hui prise dans l’étau d’une double inflation.
D’un côté nous avons un discours et une langue politique qui d’un bout à l’autre de la planète, et dans des régimes autoritaires comme dans des démocraties, semble s’affranchir de toute forme de limites et verser dans les outrances les plus folles. Et à ce titre le salut Nazi de Musk (oui oui c’est bien un salut Nazi) et la part des discours d’extrême-droite qui gangrènent tous les espaces médiatiques et sur tous les sujets (géopolitique, international, politique intérieure, etc.) est bien au-delà de l’alarmant.
Et de l’autre nous avons une focale qui finit par faire fonction de distraction autant que de diffraction et au travers de laquelle nous nous confrontons chaque jour à des délires linguistiques produits par des artefacts calculatoires qui n’ont rien de l’intelligence et tout de l’artifice mais que nous nous obstinons à discuter sur une échelle d’appréhension et de compréhension qui mêle morale et vérité alors même que nous ne devrions les interroger qu’à l’aune de valeurs de calcul et de probabilités.
Cet affolement de la langue, de la langue naturelle comme de la langue artificielle, ce vertige spéculatif dans lequel des machines hallucinent pendant que nous dissertons sur le fait qu’un bras tendu dans un salut Nazi pourrait être autre chose qu’un salut Nazi sans jamais nous poser la question de nos propres hallucinations collectives, l’inflation exponentielle des espaces de discours en ligne dont la part artificiellement générée devient majoritaire jusqu’à saturer totalement des espaces que l’on pensait pourtant insaturables … tout cela ne peut conduire qu’à deux issues : la première est celle d’un effondrement total de tout ce qui nous tient encore vaguement ensemble, la seconde est celle d’un renoncement à la fréquentation de ces espaces saturés pour bâtir d’autres lieux de langage, d’autres modalités de discours, reposant sur d’autres architectures médiatiques de circulation.
Et pour en revenir à Lucie, à DeepSeek, à ChatGPT, à Gemini et à toute la confrérie de leurs clownesques clones, il devient urgent que nous retrouvions une part de lucidité perdue. Tant que ces modèles seront, de par leur conception même, en capacité même temporaire d’affirmer que les vaches et les moutons pondent des oeufs, et tant qu’ils ne seront capables que d’agir sur instruction et dans des contextes où ces instructions sont soit insondables soit intraçables, jamais je dis bien jamais nous ne devons les envisager comme des oeuvres de langage ou de conversation, mais comme des routines propagandistes par défaut, et délirantes par fonction. La merveille de la langue, la beauté du langage, la seule, c’est qu’elle est la seule singularité non-marchande qui puisse être partagée par des millions d’individus sans qu’il y ait nécessité d’en faire autant de clownesques clones. Elle est un lieu de friction qui rend possible toute forme de fiction et de diction, là où tout le projet politique des plateformes et des IA génératives, niché au coeur même de leurs ingénieries et de leurs modes de production, est d’abolir la friction pour la mettre au service de leurs fictions propres. Les IA conversationnelles ne répondent pas à nos questions, elles figent nos attentes.
Au risque de faire bondir l’ensemble de mes camarades qui travaillent sur les modèles d’IA, nous sommes déjà au bout du cycle de développement de ce que l’on qualifie aujourd’hui « d’IA conversationnelle ». Ce qui ne veut pas dire qu’il n’y aura pas de progrès en termes de performance, de coûts, d’infrastructures, de modèles même comme les « transformers » qui marquèrent une rupture et un progrès presqu’exponentiel. Bien sûr qu’il y aura des progrès. Mais le narratif d’une « intelligence artificielle générale » est une mythologie moderne. Et comme toutes les mythologies, elle est là pour nous avertir à la fois d’un aveuglement, d’un risque et d’une dérive en les mettant en récit. Et il est assez fou que nous ne la traitions presque jamais comme telle.
Si une IA conversationnelle vous explique les bienfaits des oeufs de vache une fois, c’est une connerie. Si une autre IA conversationnelle vous explique les bienfaits des oeufs de mouton une fois, c’est toujours une connerie. Mais si toutes les IA conversationnelles vous expliquent tout le temps et à chacun de leurs lancements (grand public ou sur invitation) les bienfaits des oeufs de vache ou de mouton ou de poneys, et si toutes les IA conversationnelles sont toutes en capacité de vous tenir un discours Nazi si vous leur demandez simplement de le faire, alors … Alors si nous cherchons à voir dans tout cela autre chose qu’une alarmante connerie, alors il n’est que deux options possibles : soit nous sommes tous devenus aussi très cons, soit nous avions un livre (passionnant) à écrire sur ces questions 😉
