Je reprends ici pour archivage et libre circulation, cette interview parue dans le Libé des écrivain.e.s en date du Vendredi 21 Avril 2023.
Je remercie Lucie Rico (l’écrivaine donc) pour la qualité de l’échange et du questionnement. Et allez lire son dernier roman, GPS.
____________________________________________________
Quel est l’enjeu du dialogue avec une intelligence artificielle comme ChatGPT? Où s’alimente-t-elle en connaissances pour échanger ? Quelle est la nature du discours produit et quelles en sont ses conséquences? Entretien avec Olivier Ertzscheid, enseignant-chercheur en sciences de l’information et de la communication à l’université de Nantes, qui travaille sur l’évolution des dispositifs et des usages numériques.
Lucie Rico : ChatGPT est une IA conversationnelle. Quel lien nouveau cette possibilité d’entrer en dialogue induit-elle ?
Olivier Ertzscheid : Pouvoir discuter avec des machines modifie toute la compréhension que l’on a de nos interactions langagières. Cela construit ce que l’on appelle en robotique une «vallée de l’étrange», c’est-à-dire un endroit qui est vraisemblable, mais qui en même temps met en situation d’inconfort, et affecte toutes nos autres routines cognitives habituelles. Quand on fait une recherche, on a l’habitude de déposer deux, trois, quatre mots-clés qui génèrent une liste de résultats. Puis de faire confiance, en tout cas a priori, à cette liste pour farfouiller et investiguer. Paradoxalement, être dans un dialogue va restreindre le champ des possibles puisqu’on va nous donner une seule et unique réponse.
Et puis, l’autre bouleversement, c’est la capacité de projection. Depuis que l’humanité existe, on ne sait pas parler à autre chose qu’à des gens. En parlant avec un artefact, on va projeter quelque chose dans cet échange conversationnel, qui est variable selon les individus, la connaissance que l’on a de ces systèmes, nos attentes, et la situation psychologique dans laquelle on se trouve.
LR : Si l’on considère ChatGPT comme un autre, quelle serait sa posture conversationnelle ? Celle d’un professeur ? D’un tyran faussement objectif ? D’un assistant ?
OE : ChatGPT a une forme d’empathie pré-construite. Ce qui est trouble, c’est que cela crée une confusion entre un statut affectif et un statut énonciatif. C’est-à-dire que sur le plan du discours on sait bien que l’on s’adresse à des artefacts qui sont limités, biaisés, incomplets, et en même temps, on les investit d’une aura qui peut être une aura professorale, une aura amoureuse, car ces agencements se plient à nos désirs. Un des enjeux du développement de ces artefacts c’est précisément de voir quelles seront les méta-intelligences artificielles qui vont se développer. On peut habiller ces IA pour faire en sorte qu’elles revêtent les atours du coach amoureux par exemple, ou les habits du pédagogue qui va accompagner l’élève dans la reformulation de ses questions. La force de l’unanimisme capitalistique est là: dans sa capacité à nous faire croire que l’on peut transformer ces IA en professeurs, en amoureux, et donc à entretenir la confusion entre le niveau énonciatif et le niveau affectif.
LR : Ce qui nourrit ChatGPT, ce sont des bases de données créées et alimentées par d’autres humains. Si les IA se présentent à nous comme des altérités, n’est-ce pas plutôt des miroirs ? Ce qui ferait que par cette interface, nous entretenons une conversation avec nous-mêmes ?
OE : Ce qui est à la fois très problématique mais aussi fascinant, c’est qu’en discutant avec ChatGPT, on discute avec l’humanité tout entière. Ou en tout cas avec une série de textes qui ont été produits aussi bien par des individus lambda dans des forums de discussion Reddit que des poètes ou des grands auteurs du XVIIIe et XIXe siècles. Mais aussi avec tous les individus, au Kenya notamment, qui modèrent les propos les plus haineux, sexistes. [D’autres], dans le cadre de ce qu’on appelle des Red Teams, sont d’ailleurs chargés de les tester, de pousser les limites de ces IA dans des scénarios d’attaque économique ou d’exploitation sexuelle, pour voir quelles sont les contre-mesures possibles ou les réglages que l’on doit appliquer à ces IA pour éviter qu’elles ne dérivent et qu’elles ne débordent complètement. Et enfin on discute bien sûr aussi avec tout un tas d’autres nous-mêmes qui, dans le flux des conversations avec ChatGPT, contribuent à améliorer le système avec lequel on interagit. Quand on parle à une interface on parle donc à tous ces gens-là. C’est une rupture, parce que dans l’histoire de l’humanité, on a toujours vu les gens à qui l’on s’adressait, sauf dans des cas très particuliers, et ça, ça vole complètement en éclats.
LR : Le risque n’est-il pas alors de créer une société en circuit fermé ?
OE : Avec ces nouvelles formes d’interactions, le risque semble effectivement multiplié de ne plus avoir accès aux autres formes de discours qui peuvent circuler dans la société, par exemple, le témoignage, l’aveu, l’expertise. Tout est mouliné dans un registre de langue qui pour le moment utilise très peu ou mal la citation, et est incapable de référencer correctement des sources. Le fait de perdre ces textes-là qui, dans une société, permettent d’authentifier, de discuter, d’établir des valeurs de vérité communes, peut avoir des effets tout à fait délétères sur le débat démocratique, politique, et ainsi de suite. J’ai l’impression que plus on va vers des systèmes techniques qui sont des systèmes dits experts, plus derrière, ça a tendance à nous enfermer dans des cadres cognitifs autocentrés qui nous privent de la diversité des opinions ou des registres.
LR : Pour finir, j’aimerais vous poser une question que j’ai également posée à ChatGPT, pour voir en quoi vos réponses divergent : quelle est la personne la plus puissante du monde ?
OE : Ce qui est fascinant, c’est que si vous lui avez posé cette question-là au début d’un échange et si moi je fais la même chose, il est probable qu’on ait la même réponse. Par contre, si cela fait quelques jours ou semaines que vous utilisez ChatGPT et que l’on lui pose tous deux la même question, on aura des réponses différentes. Les personnes les plus puissantes du monde, selon moi, ce sont probablement des gens qui, à l’instar de quelques grands patrons de la tech, Mark Zuckerberg ou d’autres, vivent dans l’ignorance feinte ou sincère de leur puissance et de ce qu’ils représentent sur le débat public. Je crois que les gens les plus dangereux aujourd’hui pour nos démocraties en termes de puissance, ce sont effectivement ces gens-là. Et ChatGPT, qu’a-t-il répondu?
LR : « Cela dépend de votre définition de la puissance et des critères utilisés pour la mesurer. Cependant, selon diverses listes et évaluations, certaines des personnes les plus puissantes au monde pourraient inclure des dirigeants politiques tels que le président russe Vladimir Poutine, etc. »
OE : Ce qui est étrange et fascinant dans ces IA, c’est cette fausse maïeutique où, dès que vous êtes sur une notion comme puissance, pouvoir, vérité, la première chose qu’il va faire, c’est de vous obliger à reformuler. Mais il ne vous oblige pas à reformuler pour vous aider à y voir plus clair. Quand il vous dit «cela dépend de votre définition de la puissance», il vous aide à reformuler pour que lui ait la capacité d’ajuster les seules réponses dont il dispose dans sa base. Le biais énonciatif premier est peut-être là. Cela donne l’impression qu’il nous considère. Et en même temps, on oublie que cette considération n’a rien à voir avec le dialogue ou la maïeutique platonicienne, parce que ce n’est pas une reformulation pour nous faire accoucher d’une vérité qui nous serait propre, mais c’est une reformulation qui est un guidage, qui nous maintient dans une interaction.
