Voilà déjà longtemps (presque 10 ans …) que je m'efforce d'observer ce que j'ai qualifié de "technologies de l'artefact", définies comme :
"des systèmes socio-techniques capables de créer des représentations volontairement altérées et artificielles de la réalité dans une recherche (une "mimesis") de la vraisemblance."
Des technologies de l'artefact qu'il ne faut pas confondre avec nos propres capacités à tromper les grandes plateformes en se jouant des algorithmes qui sont leurs colonnes vertébrales, comme ce restaurant classé premier sur TripAdvisor dans jamais avoir servi un seul repas, ou comme jadis les si belles heures où Nicolas Sarkozy n'était qu'un trou du cul rendu possible par le truchement du Google Bombing. Mais revenons donc aux technologies de l'artefact.
Et Wonder Woman tourna un film X. Mais en fait non.
Ces technologies (de l'artefact) nous rendent capables de coller le visage de n'importe qui (par exemple l'actrice qui joua Wonder Woman, Gal Gadot) sur le corps de n'importe qui d'autre (par exemple une star du porno) dans n'importe quelle situation (par exemple un film pornographique). Et le résultat est au-delà du troublant comme le raconte cet article de Vice.
Ceci n'est pas Gal Gadot. D'ailleurs elle ne tient pas un sex-toy. Toute blague sur un tableau de Magritte sera la bienvenue.
Et bien sûr ce n'est pas la première fois : les studios de cinéma et les effets spéciaux permettent de faire nouer des scènes à des acteurs morts depuis longtemps (Paul Walker dans Fast And Furious, Moff Tarkin ou Leïa dans Star Wars). La nouveauté ici c'est qu'à peu près n'importe qui peut désormais assez facilement se livrer à ce genre de trucage et de "mise en scène".
Il vous sera d'ailleurs également possible et de manière toujours relativement aussi simple, de coller à la fausse Gal Gadot dans le vrai film pornographique la vraie voix de Natalie Portman hurlant des obscénités grâce aux dernières fonctionnalités de la suite Adobe.
Et encore mieux, vous pourrez faire en sorte que la synchronisation des lèvres de la fausse Natalie Portman sur la fausse Gal Gadot soit absolument parfaite grâce à l'application Lyrebird, qui vous permettra également de faire dire ce que vous voudrez à des images de Barak Obama avec la voix de Natalie Portman et le visage de Gal Gadot sur le corps d'une actrice porno puisqu'un réseau de neurones aura modélisé l'ensemble des formes, motifs et expressions que peut prendre la bouche de Barak Obama.
A moins que vous ne préfériez que le faux-visage de Gal Gadot sur le vrai corps d'une vraie actrice porno prenne en compte vos propres expressions faciales ? Aucun problème à terme.
Kamoulox.
Au final nous aurons donc la voix de Natalie Portman prononçant un discours de Barak Obama avec le visage de Gal Gadot dont les expressions faciales seront commandées en direct par l'imitation des mouvements de notre propre visage le tout incarné dans le corps d'une actrice en train de tourner un film pornographique. Kamoulox comme disait l'autre.
Tout cela est d'ores et déjà possible. Et tout cela est d'ores et déjà plus ou moins relativement accessible sans aucune connaissance technique. Derrière toutes ces technologies, des réseaux de neurones, de l'apprentissage "profond", des techniques connues parfois depuis déjà longtemps en intelligence artificielle, et aujourd'hui de plus en plus disponibles librement (= en open-source).
Ceci n'est pas Gal Gadot, et ceci n'est pas une pipe non plus.
Le tableau de Magritte est souvent improprement titré par ce qui n'est que sa légende ("Ceci n'est pas une pipe") alors que le titre que lui attribua René Magritte est : "La trahison des images".
La trahison des images. René Magritte. (Source)
"L'intention la plus évidente de Magritte", nous dit Wikipédia, "est de montrer que, même peinte de la manière la plus réaliste qui soit, une pipe représentée dans un tableau n’est pas une pipe. Elle ne reste qu’une image de pipe qu'on ne peut ni bourrer, ni fumer, comme on le ferait avec une vraie pipe."
Un travail qu'il poursuivra notamment dans "La clé des songes".
Nous reviendrons plus tard sur les logiques "d'intentionnalité" à l'oeuvre derrière les technologies de l'artefact, mais en l'état et à l'instar de "la trahison des images", la trahison des technologies nous montre que, même affichée, éditée, animée, photographiée, enregistrée ou filmée de la manière la plus réaliste qui soit, une représentation de la réalité n'est pas la réalité. Et cela nous conduit immédiatement à poser la question de ce que peut encore être dans ces conditions, ce qu'avant on nommait : le "réalisme" ou le vraisemblable.
Capitalisme cognitif et technologies de la spéculation.
<HDR> Mon hypothèse est la suivante : les technologies de l'artefact sont un avatar du capitalisme cognitif qui ronge depuis déjà longtemps le sens et la valeur des mots et donc de la société qu'ils permettent d'appréhender et de comprendre. Pourquoi un avatar du capitalisme cognitif ? Parce qu'elles sont essentiellement une forme ultime de spéculation sur le vrai, sur la vraisemblance, une spéculation sur le réel. Un réel qui serai insuffisant, dont nous aurions exploré ou épuisé la quasi-totalité des ressources de vraisemblance et de vérité comme autant de ressources "naturelles", et où il s'agirait maintenant de produire des faits alternatifs au service de réalités fantasmées pour que ces formes de spéculation – bâties sur différents régimes documentaires de l'altération et de la dissimulation / re-simulation – puissent continuer de se déployer de manière aussi exponentielle qu'incontrôlable. </HDR>
La valeur de preuve n'en est plus une (preuve). Et c'est la preuve que quelque chose a changé.
Ce qui est en jeu ici c'est la valeur de preuve qui était attachée naturellement et "ontologiquement" à toute forme de document (ou de production documentaire), et ce quels que soient le temps, la forme, le support, l'époque ou la manière. C'est cette question que pose Magritte dans la trahison des images. Cette question que pose le visage de Gal Gadot animé et animant un corps qui n'est pas le sien. C'est cette question, globalement, que posent l'ensemble de ces technologies de l'artefact. La question de la valeur de preuve de l'ensemble de la production documentaire numérisée. C'est une question immense et littéralement vitale pour nos sociétés, sur un plan culturel bien sûr, mais également politique.
Cette valeur de preuve, nous sommes progressivement et collectivement en train de la perdre (au pire) ou d'en accepter la déconstruction systématique (au mieux). D'ordinaire et depuis quand même quelques siècles, c'étaient les documents qui permettaient d'apporter, de fournir et de constituer les preuves, c'étaient les documents qui attestaient d'un fait en faisant mémoire de celui-ci et en permettant son inscription dans un régime de vérité cohérent.
Alors bien sûr la falsification fait partie intégrante de l'histoire documentaire la plus ancienne comme la plus contemporaine de l'époque néo-numérique. Le numérique n'a pas inventé les faux-documents. Ni les fausses nouvelles. Mais à l'échelle des flux de circulation et de visibilité des documents numériques et de la manière dont les grands écosystèmes que sont Google, Facebook et quelques autres organisent et hiérarchisent ces flux, le rapport de force s'est inversé dans la mesure où les documents faux ou apocryphes peuvent bénéficier d'un régime algorithmique de visibilité qui, corrélé au régime de vérité en vigueur dans la plateforme concernée, contribue à l'illusion de véracité ainsi produite et l'entretient tant qu'elle permet de générer des interactions, donc des données, donc d'autres traçabilités documentaires, donc d'autres fausses preuves de vérité, vraisemblables dans la dynamique entretenue par les flux organisés par la plateforme, autres fausses preuves de vérité qui restent d'authentiques stigmates de popularité, d'autres promesses de viralité, d'autres formes "d'engagement", et ainsi de suite.
Lost in translation falsification.
Que perdons-nous lorsque la valeur de preuve des documents en circulation dans une société s'effondre un peu comme s'effondreraient subitement des valeurs boursières ? Nous perdons la capacité de faire société. Ou à tout le moins la capacité de faire société autrement que sur des valeurs oscillant au mieux entre suspiscions caractérisées et spéculations infondées. S'il est de plus en plus difficile de "croire" l'autre, s'il est donc de plus en plus délicat de lui accorder sa "confiance", si nous ne sommes plus capables que d'accorder une valeur de preuve à des documents en fonction de l'espace numérique dans lequel ils sont échangés, alors nous perdons la capacité de faire histoire commune, mémoire commune, société commune. Et alors le pire devient possible.
Se souvenir de ce qu'écrivait Hannah Arendt.
Le texte original de l'interview en anglais dit ceci :
"The moment we no longer have a free press, anything can happen. What makes it possible for a totalitarian or any other dictatorship to rule is that people are not informed; how can you have an opinion if you are not informed? If everybody always lies to you, the consequence is not that you believe the lies, but rather that nobody believes anything any longer. This is because lies, by their very nature, have to be changed, and a lying government has constantly to rewrite its own history. On the receiving end you get not only one lie—a lie which you could go on for the rest of your days—but you get a great number of lies, depending on how the political wind blows. And a people that no longer can believe anything cannot make up its mind. It is deprived not only of its capacity to act but also of its capacity to think and to judge. And with such a people you can then do what you please."
Et vous pouvez en retrouver une version longue avec le film issu de cet entretien.
Voilà pourquoi, je l'ai déjà expliqué, la question des régimes de vérité est absolument essentielle.
Voilà pourquoi, et je l'ai également déjà expliqué, la question de la documentation (des êtres humains) est déjà constituée comme le problème politique central du siècle qui s'ouvre.
Jusqu'ici tout va bien.
Alors comment en arrive-t-on à cette chute de la valeur de preuve des documents en circulation aujourd'hui ? Pourquoi la crédibilité des vieux médias semble-t-elle à ce point fragile et entamée face à des régimes de vérité aussi pervers que ceux des plateformes ? Et comment peut-on y remédier ?
A la question du "pourquoi", on peut répondre par la désintermédiation. Traditionnellement, dans la culture du livre et dans les civilisations idoines, ce qui fait la valeur de preuve d'un document est – notamment – le nombre d'intermédiaires ayant permis son élaboration intellectuelle, sa fabrication, sa publication et sa diffusion.
Plus il y a d'intermédiaires dans le processus de fabrication d'un document (de son élaboration intellectuelle à son incarnation documentaire finalisée donc) et plus sa valeur de preuve est élevée. Ainsi si l'on fait confiance à des auteurs que l'on ne connaît pas au point d'acheter leur bouquin c'est parce qu'ils sont édités par des maisons d'éditions que l'on connaît et dans lesquelles plein de gens ont à la fois lu et proposé un avis sur le manuscrit, plein d'autres gens ont aidé l'auteur en question à réécrire des passages, etc. De la même manière, dans l'édition scientifique, plus il y a d'interventions sur un article soumis à l'évaluation, et plus on dispose de garanties sur sa valeur de preuve intrinsèque. Idem dans le milieu journalistique où la représentation que nous avons de la fabrique de l'information implique un grand nombre d'intermédiaires, des reporters sur le terrain aux salles et conférences de rédaction.
Et donc lorsque l'on évacue tout ou partie de ces intermédiaires, lorsqu'il y a donc désintermédiation, une désintermédiation brutale en tout cas, la valeur de preuve du document s'effondre.
Le problème est qu'il existe dans l'histoire de toutes les sociétés (anciennes ou modernes), une corrélation assez forte entre l'effondrement de cette valeur de preuve et l'avènement de régimes autoritaires, lesquels régimes, précisément et d'un point de vue strictement documentaire, ne font rien d'autre que capter et concentrer toute "l'autorité" entre leurs mains.
Pour le résumer d'une formule, dans n'importe quelle société, moins les documents font autorité et plus les régimes politiques sont autoritaires.
<Corollaire direct de la phrase ci-dessus> : plus un régime est autoritaire et moins le cercle des documents autorisés à faire autorité est large (syndrôme de la Pravda 😉 </Corollaire>
Et là encore c'est Hannah Arendt qui avait déjà tout dit, tout écrit, tout expliqué. Puissions-nous la relire attentivement et nous servir de cette lecture pour éviter de sombrer de nouveau.
Alors comment corriger le tir ? Comment remettre de l'autorité dans la circulation documentaire pour faire en sorte que les documents retrouvent leur valeur de preuve ? En remettant des intermédiaires.
D'autres intermédiaires ?
On se heurte ici à un autre problème qui est celui de l'équilibre des régimes documentaires permettant de certifier la valeur de preuve d'un document. Plus il y a d'intermédiaires participant à l'élaboration d'un document et plus sa valeur de preuve est élevée si et seulement si le nombre d'intermédiaires reste dans une limite raisonnable ou si leur participation est encadrée par des règles éthiques ou déontologiques explicites.
Si l'on demande à 20 personnes dont le métier est d'être relecteur ou éditeur dans, par exemple, le champ de l'édition scientifique, si on demande à ces 20 personnes toutes universitaires un avis motivé sur tel ou tel texte soumis par un de leurs collègues, on s'orientera alors vers une certification tendanciellement neutre, fiable et objective. Si par contre on ne fixe aucune limite et aucune règle au nombre de personnes pouvant participer à cette certification, si ce n'est plus 20 "pairs" mais 200 000 citoyens lambda qui peuvent participer à ce processus, ça va vite fait se barrer en sucette, et les effets de la tyrannie des agissants vont jouer à plein régime. Le modèle de la sagesse des foules dispose en effet de règles claires qui conditionnent sa mise en oeuvre et son efficience et hors lesquelles il mène inexorablement vers des formes de folies dangereuses.
A l'échelle de la sphère documentaire telle que circonscrite par les régimes de vérité propres à chaque plateforme (popularité pour Google, engagement pour Facebook, vérifiabilité pour Wikipédia), la multiplication des intermédiaires s'est faite de manière perverse puisque c'est au final le même algorithme qui s'occupe de convoquer le maximum d'intermédiaires possibles pour intervenir sur un document en le likant, le commentant ou le partageant, mais que l'algorithme choisit aussi, pour faire cela, des gens dont il détermine qu'ils vont tendanciellement avoir tendance à accorder une valeur de preuve déjà très élevée au document en question.
Voilà pourquoi par exemple les Fake News sont "certifiées" par plein de gens dont l'algorithme sait qu'ils font déjà confiance à l'émetteur de la Fake News même si c'est la Pravda ou Russia Today, ou alors qu'ils adhèrent par avance à l'argumentaire de la Fake News. Du coup il n'y a que des gens qui croient que les reptiliens gouvernent le monde, que Laurent Wauquiez a sa dignité, et que Gérard Collomb est un humaniste qui attestent, certifient et d'une certaine manière "authentifient" des documents qui indiquent que les reptiliens gouvernent le monde, que Laurent Wauquiez a sa dignité et que Gérard Collomb est un humaniste. Et ces gens-là se comptent en effet par milliers.
Uberisation documentaire.
C'est ainsi que l'on parvient à une forme d'Uberisation documentaire comprise comme suit :
- une désintermédiation radicale au regard des autorités anciennement établies (et d'ailleurs en effet pour certains illégitimes ou en tout cas pas plus légitimes que d'autres et / ou dont il est bon d'interroger la légitimité, mais ce n'est pas le sujet de ce billet)
- une réintermédiation d'apparat et / mais d'apparence massive (venez-tous avec vos documents et documentez-vous les uns les autres)
- la concentration de l'autorité entre les mains d'un déterminisme algorithmique programmé pour servir une logique d'optimisation de la rentabilité des flux documentaires en circulation à l'échelle de la plateforme.
- une rémunération à la tâche (ici essentiellement symbolique), une rémunération à la certification documentaire : tu as partagé une Fake News de Russia Today, ça te donne le droit d'en partager d'autres similaires, et si en plus tu deviens un centre de partage important pour les Fake New de Russia Today alors tu pourras bénéficier d'encore plus de Fake News à partager sur encore plus de sujets différents.
Les raisons de la colère décorrélation.
Un autre phénomène joue fortement dans ces technologies de l'artefact qui est celui de la décorrélation de la source (ou de l'autoritativité directe). J'ai en mémoire, probablement comme vous, la vidéo récente de cet ours polaire famélique évoluant sur une terre brûlée. J'ai aperçu cette vidéo sur Facebook où elle avait été repostée et partagée par un de mes "amis" sans que n'apparaisse de mention explicite de son auteur ou du contexte. Et j'ai spontanément pensé que ce pouvait encore être un Fake. Il a fallu que j'attende de tomber le lendemain sur une vidéo de #Brut avec l'interview du caméraman qui avait filmé la scène pour que je rétablisse le bon régime de vérité à ce contenu (lequel régime de vérité a d'ailleurs été immédiatement dé-battu dans nombre de médias …)
D'où il ressort que la logique de ces technologies de l'artefact est aussi celle de la circulation des contenus au sein des plateformes : il s'agit d'une appropriation suivie d'une invisibilisation de l'essentiel des métadonnées contextuelles : qui parle ? dans quel contexte ? à quel moment ? Cette invisibilisation ou cette dissimulation du contexte permet, le plus souvent, de mécaniquement doper les logiques d'appropriation et de rediffusion. C'est cela qui explique – entre autres – que nous repartageons souvent des contenus comme celui de la mort d'Albert Jacquard.
Faux faire système.
"Il ne s’agit pas seulement de fabriquer des faux, encore faut-il mettre en place un système de gestion du faux." peut-on lire dans cet article absolument génial.
Le problème du faux, celui de la "fausseté", celui du vraisemblable et de l'invraisemblable, ces problèmes sont une chose, bien sûr préoccupante mais, comme dans l'article où j'emprunte la citation ci-dessus, le vrai problème est celui de la mise en place d'un système de gestion du faux. Et que ce faux fasse système.
A l'échelle des technologies de l'artefact, il semble que ce soient les plateformes qui jouent aujourd'hui ce rôle de système.
Autant pour en comprendre que pour en limiter les effets néfastes, il nous faut d'urgence mettre sur pied une théorie politique du (faux)document.
Et relire Hannah Arendt. Très attentivement.
« c’est la preuve que quelque chose à changé » -> a