Rapidement quelques réflexions construites en préparant mon intervention lors d’une journée autour de l’IAG organisée par l’APDEN de Poitiers. Merci à toute l’équipe pour l’invitation et l’organisation.
Ecrire du code.
Arthur Mensch est Le PDG de Mistral AI, entreprise spécialisée dans l’IA et « licorne » française. Il vient d’être auditionné par l’assemblée nationale. Si vous vous intéressez au sujet, l’entretien est assez intéressant même s’il faut très souvent faire la part de ce qui relève de la réalité de cette firme (et qui peut être étendu à d’autres semblables) et la dimension très prégnante de l’opportunité de lobbying qui lui est ainsi offerte (mais c’est le jeu, il fait son taff, et il le fait plutôt très bien).
Deux séquences, ou plus exactement deux phrases m’ont beaucoup frappé dans cette intervention de presque une heure trente.
« Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Je répète et souligne : « Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. »
Et il poursuit : « Aujourd’hui vous n’êtes plus un artisan, vous êtes un manager, donc vous demandez à des agents (IA) d’écrire le code pour vous. Vous donnez les spécifications ; vous êtes un donneur d’ordre. » (la séquence est accessible à partir de 1h 8 min et 41 sec.
Et là quand j’entends ça j’ai plein de questions.
Première question : est-ce que c’est vrai ? Alors disons oui et non. Pour en avoir échangé avec des collègues informaticien.ne.s dont certain.e.s ont également travaillé dans ces grands groupes (Google et Facebook), disons que oui c’est vrai il existe des ingénieurs / développeurs qui n’écrivent plus de ligne de code, mais il existe aussi toujours quand même qui codent les agents IA qui à leur tour vont coder à la place d’autres ingénieurs et/ou développeurs. Il y a d’ailleurs une expression dédiée, on appelle cela du « Vibe Coding » qui consiste à créer du code informatique (par des initiés ou des non-initiés) en utilisant du langage naturel grâce à l’IA.
Deuxième question : est-ce que c’est grave ? Je n’ai pas la réponse à court terme mais à moyen terme j’ai l’absolue certitude que cela l’est. Et que cela l’est éminemment.
Troisième question : est-ce que c’est une bonne nouvelle ? Pour répondre, je vous propose de transposer la situation du PDG d’une boite d’IA expliquant que ses ingénieurs n’écrivent plus de ligne de code pour … coder, à la situation, par exemple, d’un ou d’une responsable de formation, d’un ou d’une enseignante, qui dirait : « je n’ai plus aucun étudiant / élève qui ait besoin de comprendre les concepts et notions que je manipule pour leur transmettre un savoir et qu’ils soient en capacité d’en produire de nouveaux à leur tour. Et là c’est, convenez-en, tout à fait vertigineux. Alors oui bien sûr, comparaison n’est pas raison, les ingénieurs d’Arthur Mensch ne sont pas les élèves ou étudiants dans nos classes et nos amphis, et oui bien sûr le code est un langage mais on pourrait philosopher quelques heures (en relisant Saussure, Chomsky, Wittgenstein et quelques autres) sur le fait qu’il est ou non une langue. Mais vous voyez l’idée.
Quatrième question. Si l’on s’accorde sur le fait que le code est une langue ou à tout le moins un langage, quand vous n’écrivez ou ne parlez plus une langue, au bout de combien de temps cessez-vous de la comprendre et de la maîtriser ? Arthur Mensch le dit lui-même, il est de cette génération « d’artisans du code » (il a 33 ans), il a appris cet artisanat et il dit aussi que cela lui a plu. Mais une autre génération arrive, qui n’aura plus la nécessité d’apprendre, ou d’apprendre autant. Alors que feront-ils ? Et s’ils n’écrivent plus une ligne de code mais doivent continuer de fabriquer des applications, alors que feront-ils … sans code ? Autre vertige.
Alors oui je sais, entre ce que dit Arthur Mensch, et le contexte et la place depuis lesquels il dit cela, il y a tout de même une série de nuances à apporter. Pour autant, dans le champ scientifique qui est le mien (les sciences de l’information et de la communication), il nous appartient précisément de prendre des énoncés pour ce qu’ils disent dans l’instant, autant que pour ce qu’ils installent aussi en terme de narration sociale plus ou moins implicite. Et Arthur Mensch « incarnant » et portant le discours technophile, accélérationniste et dérégulateur autour de l’IA, ce qu’il dit (même si cela n’est que 2 minutes dans une vidéo d’une heure trente) est en soi un énoncé particulièrement performatif auprès de celles et ceux qui l’écoutent. Et ce que dit Arthur Mensch c’est que « aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Comprenez et entendez que donc tous les ingénieurs dans toutes les entreprises d’IA qui sont ou se rêvent en futures licornes, n’écrivent et n’écriront plus une ligne de code ou en tout cas n’ont et n’auront plus vocation à le faire. Juste du Vibe Coding.
Le cauchemar de Lessig.
« Code Is Law. » (traduit en français par Framasoft). « Le code c’est la loi. » C’est un livre (paru en 1999, « Code And Other Laws of Cyberspace« ) et un article (paru en 2000). C’est l’un des textes fondateurs de la culture numérique. Publié au début des années 2000, absolument fondamental et totalement visionnaire, Lawrence Lessig (professeur de droit, spécialiste de propriété intellectuelle, inventeur des licences Creative Commons, etc.), Lawrence Lessig y explique notamment que le code est un régulateur, que le code décide et que le code :
« définit la manière dont nous vivons le cyberespace. Il détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. Il détermine si l’accès à l’information est global ou sectorisé. Il a un impact sur qui peut voir quoi, ou sur ce qui est surveillé. Lorsqu’on commence à comprendre la nature de ce code, on se rend compte que, d’une myriade de manières, le code du cyberespace régule. »
Et il poursuit en expliquant que :
Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n’est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D’autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place.
D’où ma dernière question : if « Code Is Law », then what da fuck is Vibe Coding ?
Le « Vibe Coding », un monde dans lequel les entreprises les plus puissantes en IA n’auraient que des ingénieurs et des développeurs n’écrivant plus de ligne de code, ce monde c’est le cauchemar de Lawrence Lessig et notre cauchemar à toutes et tous. Car si les codeurs eux-mêmes sont à distance du langage ou de la langue par laquelle ils installent des valeurs dans le code, s’ils ne parlent ou n’entendent plus cette langue et s’ils se réduisent à des fonctions de « managers d’agents IA – faussement – autonomes », alors comment elles et eux en première ligne, et surtout comment nous toutes et tous en première cible, comment serons-nous encore capables de jouer collectivement un rôle dans la circulation et l’établissement de ces valeurs, de ces agendas politiques, économiques, idéologiques, que le code véhicule et qui n’ont jamais été aussi puissants et déterminants, et dans le même temps jamais à ce point été inféodés à des intérêts presqu’uniquement marchands, mafieux et singuliers ?
Si le code se passe de développeurs autres que des agents non-humains, alors la question de la maîtrise des valeurs que le code véhicule devient une non-question, un inquestionnable.
« Un algorithme c’est la décision de quelqu’un d’autre » me faisait l’honneur d’écrire Antonio Casilli dans la préface à l’un de mes tout premiers ouvrages. Et ce quelqu’un n’était pas extrêmement compliqué à trouver, à isoler, et à questionner. Mais un algorithme « vibe codé » c’est la décision de … qui ?
« Les limites de mon langage signifient les limites de mon propre monde » écrivait Wittgenstein.
L’intelligence c’est de l’énergie (et la connerie c’est de l’énergie moins chère).
Arthur Mensch dit aussi plein d’autres trucs qui installent des narratifs extrêmement clairs et puissants dans leur fonction d’agenda. Par exemple à plusieurs reprises il répète qu’il faut réfléchir ou considérer l’intelligence comme on réfléchit à l’énergie, à l’électricité. Alors bien sûr il parle de l’intelligence artificielle. Mais il ne dit pas « intelligence artificielle », il dit juste « intelligence ». Et ce n’est pas « juste » une omission ou un raccourci. C’est l’endroit d’où il parle, celui d’où il est situé, c’est l’énoncé de son futur probable et de son futur désiré, d’un futur qui répond à « son » agenda propre. Un mode dans lequel en effet l’intelligence se capte, se stocke, se transmet et se calcule comme l’énergie, comme l’électricité. D’ailleurs et c’est aussi extrêmement frappant, à plusieurs reprises et sur plusieurs questions, il commence toujours par répondre en nombre de kilowatts ou de mégawatts. C’est son unité de mesure, son mètre étalon et ce sur presque l’ensemble des questions qui lui sont posées et adressées. Tout se calcule en kilowatts ou mégawatts. Tout est là. Toutes les réponses sont là. Un mètre étalon. Qui est aussi son plus grand talon d’Achille (à lui et à l’ensemble de l’industrie extractiviste de l’IA).
Excellent article !
J’ai lu jusqu’au bout.
Du coup, j’y ai vu deux inversions : l’nesemble des quesitons
merci, c’est corrigé 🙂
Pour avoir vu son audition, il est vrai que Mensch a été très fort, notamment dans sa façon d’apporter des réponses claires et compréhensibles par tous, là où les GAFAM, lors des leurs, sont restés très/trop techniques (pour ne pas répondre aux questions la plupart du temps).
La disparition de codeurs sachant mettre les mains dans les lignes face aux IA de type Mythos, qui ont la capacité de cracher des lignes ou de trouver des failles à la pelle va poser un vrai problème, car nous n’aurons plus personne de compétent pour le comprendre et le réparer.
Distinction intéressante : quelle proportion des fonctions régulatrices du code, au sens de « code is law », sont définies par les détails d’implémentation (donc par l’IA) plutôt que par les spécifications du programme (donc par les ingénieurs qui utilisent l’IA) ?
Si les ingénieurs conservent la main sur *ce que* doit faire le code, et que c’est ici que les fonctions régulatrices (j’ai un doute sur cette formulation) sont majoritairement définies, alors ce changement de paradigme peut être moins grave de ce point de vue.
Je pense que le sujet porte bien effectivement bien au-delà du code. Et qu’en fait, ça n’est que l’aboutissement d’une démarche de longue haleine : se débarrasser des « créatifs ». Car lesdits créatifs doivent – parfois longuement — penser pour arriver à produire quelque chose. Et avoir à gérer des milliers de penseurs, ça n’est pas simple. L’émergence du logiciel libre a dû être un séisme d’une violence inimaginable, en témoigne la contre-révolution open-source.
En transformant les informaticiens en pousses-boutons, les dominants tentent de faire rentrer dans le rang une profession à la fois indispensable et menaçante.
Car, et c’est bien un terrible point aveugle des forces anti-capitalistes actuelles, si les ouvriers d’aujourd’hui ne sont plus capables de bloquer le pays, les informaticiens oui.
J’ai eu l’occasion de discuter avec un informaticien de la Secu qui bosse en cobol. Une chose m’avait frappée. Il me racontais que le service juridique, perdu dans l’amoncellement des règlements et des réformes successives, appelaient souvent le service informatique pour trouver des infos sur les normes en cours. En les ayant codées, le service informatiques, les connaissaient mieux qu’eux et pouvaient plus facilement les retrouver, en les déduisant du code. Bref « code is law ».
L’énergie est notre avenir, économisons la.
L’IA en a besoin. Maintenant !
[…], mais il existe aussi toujours quand même qui codent les agents
Il manque des mots ?
Bonjour, merci. C’est toujours un plaisir de vous lire. Un super Taylorisme s’annonce. Comment faire pour protéger les gens qui vont en souffrir, en chômage, en perte des savoirs faire, en perte de sens ?
bonjour Fabien. « Comment faire ? » Bonne question 🙂 Déjà il faut en parler et ensuite il faut faire … de la politique. En face on a des gens avec des agendas clairs, du lobbying puissant, et des infrastructures massives. Il faut leur répondre sur le même plan. Ce qui impliquera a minima des changements politiques. Et en attendant, il faut braconner 😉
Je suis un de ces ingénieurs « qui ne codent plus ». 50 ans passés, j’ai commencé à coder à l’age de 10 ans, en basic, puis en pascal, C, assembleur, lisp, ada, c++, perl, python, javascript, java,… sous windows, solaris, linux,… et oui aujourd’hui je peux faire faire tout ce que je sais faire à une IA, avec un niveau de qualité que je peux atteindre sans problème en 10 fois plus de temps. Est-ce la fin du developement ? est-ce que c’est viable sans savoir coder à l’ancienne ? Non, car il y a une arnaque assez subtile mais jamais mise en avant : si vous n’êtes pas capable de coder ce que vous voulez vous-même, vous ne saurez pas demander correctement à l’IA de le faire. En fait la subtilité est que vous allez quand même demander à l’IA, et qu’elle va vous répondre (elle répond toujours). Mais la réponse est-elle correcte ? Si vous savez coder, et avec plus de 25 ans d’expérience, vous savez relire du code et identifier rapidement les incompréhensions, les points importants, les constructions alambiquées, les fonctions inefficaces, etc. et ensuite, dans une boucle presque sans fin avec l’IA, lui demander de corriger, ajuster, refactoriser le code, jusqu’à ce qu’il ressemble enfin à ce que vous avez en tête. Mais si vous ne savez pas faire ça, tout ce qui est produit par l’IA vous paraitra parole d’évangile, et de la même façon qu’on juge son bon sens avec celui dont on est pourvu (et qu’on estime donc en être bien pourvu), vous allez juger ce résultat acceptable alors que vous incapable de le comprendre et l’expliquer ou de le contredire. Je vous laisse imaginer les conséquences. La solution est non pas de demander à l’IA ce qu’on veut, mais de lui expliquer ce qu’il faut faire – et c’est là la nature même de la tache d’un developeur : traduire une intention en une suite d’opération logique. Ici on doit donc coder en langage naturel, mais ça reste « du code ».
Donc en fait les ingénieurs qui utilisent l’IA continuent à coder, mais dans un langage différent. C’est un peu le même saut que le passage de l’assembleur à des langages compilés. J’imagine bien à l’époque les discours déplorant la perte de connaissance de l’assembleur. Dans les faits oui il n’est pas indispensable de maitriser l’assembleur pour coder dans un langage du niveau supérieur, mais en avoir une connaissance des principes et de l’architecture d’un processeur aide beaucoup.
Néanmoins je vois d’autres problèmes émerger : le premier est ce dont vous témoignez, cette idée qu’on « ne code plus », et la conséquence insidieuse qui est que si on ne code plus pour fabriquer un logiciel, alors n’importe qui est capable de demander à une IA de le faire. Rien n’est plus faux là encore, et je ne compte plus dans l’entreprise ou je travaille les « managers » ou responsable d’équipe (dont la vocation n’est donc pas de « coder ») qui pensent qu’ils peuvent se passer des développeurs (junior ou senior) en demandant à l’IA de corriger un bug ou rajouter un fonctionnalité : tous les exemples concrets que j’ai vu se sont terminés rapidement, en fustigeant cette IA incapable de comprendre ce qu’on lui demande (et expliquer à ces managers que le problème se situe entre le clavier et la chaise demande une bonne dose de diplomatie…)
Donc oui on ne code plus « à l’ancienne », mais on continue à coder avec des méthodes qui sont encore à inventer. J’ai commencé sérieusement à utiliser tout ça il y a 1 an, et le saut technologique est tel que j’ai parfois eu l’impression d’être dans un film de science fiction.
Ma dernière inquiétude concerne la formation des futurs ingénieurs : comment leur apprendre ce qu’est le code quand en 3 clicks ils ont la réponse ? Comment leur demander d’apprendre un langage, et de passer des ̂heures à tout faire à la main, alors qu’en entreprise le mode de production n’aura rien à voir, et qu’on leur demandera évidemment d’être opérationel dès leur embauche ?
Le premier impact a été visible sur l’embauche des jeunes diplômés : ça a baissé, évidemment, car si un senior voit sa productivité multipliée par x en utilisant l’IA, (x ~ 5, 10, 20 … chiffre arbitraire, mais probablement réaliste dans la tête des dirigeants au vu des discours ambiants), pourquoi garder x juniors ? Ne faut-il pas mieux payer des licences IA que des salaire humains ? Et si on diminue le nombre de juniors, comment former et garder les séniors de demain ?
Je ne sais pas ou tout ça nous mènera, mais pour produire des logiciels qui marchent il faudra toujours des gens qui savent coder d’une façon ou d’un autre, et il faudra trouver comment les former. Désolé je n’ai pas les réponses…Vous pouvez toujours demander à l’IA, qui sait…
Bonjour Olivier,
Merci pour votre réponse ! Oui, il faudra beaucoup de politique et de luttes.
Sur un autre aspect : est-ce que vous pensez que tout cela est viable ? A part une sorte de vérité révélée et ses prophètes, il n’y a rien qui permet de voir une rentabilité de ces entreprises en 2030. L’ia Chinoise s’en sortirait mieux peut-être. Et si tout ça collapse, je pense à tous ses data centers qui seront inutiles et tout cet argent gaspillé. Sans parler des ressources.
Je me demandes aussi si la stratégie, en tout cas pour les Iag américaines et Mistral, n’est pas de se rendre indispensable en détruisant un maximum de savoir faire pour devenir indispensable. Si elles y parviennent, elles deviendront comme les banques systémiques, « trop grosses pour couler ». Un exemple, s’il n’y a plus de codeurs (d’ailleurs ils font la promotion de ça) on ne peut plus les débrancher ces iag, car toutes les infrastructures à base de codes ne vont plus fonctionner.
D’ici 2030 beaucoup de métiers seront abîmés, plus qu’ils le sont déjà. À ce moment là, c’est peut être les collectifs qui auront fait sans iag, qui s’en sortiront le mieux. S’ils ont survécu. À voir.
Est-ce que l’iag est le nouvel hyperloop ?
Sur un autre sujet, dans la fiction on voyait des Cyborgs, ces humains augmentés par la technologie principalement mécanique. Avec ce que je lis sur les IAG, un iagborg serait plutôt diminué car il serait un outil de l’ia plutôt que son réceptacle. Mais je m’égare.
Cela fait déjà beaucoup de questions. Je me doute que vous ne pourrez pas répondre à toutes. Mais il fallait qu’elles sortent de mon esprit vers quelqu’un qu connaît le sujet.
Bien à vous Olivier.