Faut pas confondre échanger nos visages et l’avoir dans le Janus.

Les technologies de l'artefact sont de plus en plus fascinantes et angoissantes. Rappel, je définis lesdites technologies comme "des systèmes socio-techniques capables de créer des représentations volontairement altérées et artificielles de la réalité dans une recherche (une "mimesis") de la vraisemblance." En gros tout ce qui permet de produire du Fake. 

Ces technologies font, littéralement, la pluie et le beau temps.

Pas une semaine sans une nouvelle annonce ou application qui en soit l'écho. Voilà déjà plus d'un an qu'on nous annonce qu'il faut nous préparer à l'avènement d'une super intelligence artificielle Photoshopienne. Et parmi les dernières en dates, justement, le "détourage", qui est l'opération de base permettant ensuite toutes les retouches, devient réalisable "en un clic" grâce, là encore, à une "Intelligence artificielle". Et demain il sera peut-être possible de faire la même chose simplement … en le demandant.

En ce moment ces technologies de l'artefact se cristallisent autour de la technologie du Face-Swapping, littéralement "l'échange de visages". Je vous explique pourquoi et on essaie de réfléchir ensemble à ce que ça pourrait changer et pourquoi cela pourrait être un (gros) problème.

Face-Swapping.

Initialement réservé à la retouche photo en mode "statique" le Face-Swapping devint aussitôt une source inépuisable de mèmes et autres barres de lol. 

Un de mes Face-Swap préférés

On l'a ensuite vu apparaître de façon presque standard dans nombre d'applications dont Snapchat et acquérir une dimension dynamique assez bluffante (les visages "échangés" bougent et suivent les mouvements et expressions du visage "d'origine" filmé en direct). 

Et désormais il est possible pour à peu près n'importe qui et à coût quasiment nul, grâce à des technologies open-source de machine-learning, de pousser le Face-Swapping jusqu'à échanger le visage d'acteurs ou d'actrices sur l'intégralité d'un film, avec d'immenses problèmes à la fois moraux et technologiques, comme je vous le racontais dans l'article "Gal Gadot fait du porno. Lost in Falsification".

Et au final la nécessité de s'interroger sur l'effondrement de la valeur de preuve de tout type de document ou de publication. Interrogation qui doit elle-même être corrélée à l'extension du domaine des Fake News et de leur réception dans l'opinion. 

Après le magazine Vice qui avait sorti l'info, c'est cette fois Engadget qui s'interroge sur le virage dystopique des ces technologies de Face-Swap, notamment dans le cas du Revenge Porn. Et le même Vice indiquait encore très récemment que la vague prennait désormais une ampleur inattendue, notamment via Reddit :

"Une application vraiment facile d’accès pour faire des vidéos fake maison, porno ou autre, qui se répand et s’améliore à une vitesse pareille pourrait avoir des conséquences dramatiques sur la manière dont nous consommons les médias. Le choc entre un réseau de neurones open-source puissant et notre capacité toujours plus faible à distinguer les fausses informations des vraies, mais aussi la manière dont nous répandons l’information sur les médias sociaux, nous met dans une situation de catastrophe imminente."

Mashable revient également sur ce phénomène qu'il baptise "DeepFakes", les qualifiant de "dernière crise morale de l'internet" ("A guide to 'Deepkakes", the internet latest moral crisis") 

Crise morale, je ne sais pas trop, mais situation de catastrophe imminente, cela me semble à peu près certain. D'autant qu'il ne s'agit pas là du premier coup de semonce. Souvenez-vous de Françoise Hardy commentant le discours d'investiture de Donald Trump quand elle n'avait que 25 ans, souvenez-vous des faux discours de Barak Obama.

FFSM (Fake Face-Swapping Movies)

Les mèmes et la culture web étant ce qu'ils sont, et Nicolas Cage y occupant une place à part, on assiste actuellement à une recrudescence de FFSM (Fake-Face-Swapping-Movies***) consistant à placer le visage de l'acteur dans des films où il n'a jamais joué.

*** faut bien trouver un acronyme, je me dévoue. Et j'ai rédigé cet article avant de tomber sur celui de Mashable évoquant les "DeepFakes". La postérité tranchera 😉

Nicolas Cage en Indiana Jones dans les Aventuriers de l'Arche perdue

Au-delà du côté blague de ces détournements, quelque chose d'absolument fondamental est aujourd'hui en train de se jouer derrière l'ensemble de ces technologies de l'artefact. Quoi ? Ceci :

• il ne peut y avoir de société sans documents ayant valeur de preuve ;
• et il ne peut y avoir de valeur de preuve sans intégrité documentaire.

L'intégrité documentaire je vous en ai déjà parlé par ici. Et je vous remets cette citation d'Hervé Le Crosnier qui date de … 1995 et n'a jamais, mais alors vraiment jamais paru aussi sensible :

"La modification d’un document porteur de sens, de point de vue, d’expérience est problématique. Ce qui change dans le temps c’est la connaissance. Celle d’un environnement social et scientifique, celle d’un individu donné … Mais ce mouvement de la connaissance se construit à partir de référents stables que sont les documents publiés à un moment donné. Les peintres pratiquaient le "vernissage" des toiles afin de s’interdire toute retouche. Les imprimeurs apposaient "l’achevé d’imprimer". Il convient d’élaborer de même un rite de publication sur le réseau afin que des points stables soient offerts à le lecture, à la critique, à la relecture … et parfois aussi à la réhabilitation."

Hervé Le Crosnier. "De l’(in)utilité de W3 : communication et information vont en bateau." Présentation lors du congrès JRES’95, Chambéry, 22-24 Novembre 1995.

Pour l'instant, nous n'avons pas été capables d'élaborer ce rite de publication de manière pérenne. Ou plus exactement de nouveaux espaces ambivalents sont apparus et ont grignoté progressivement l'espace public initial du web et avec lui les logiques d'authentification et de traçabilité qui auraient pu être inventées. Ces nouveaux espaces sont bien sûr ceux des plateformes et de l'hybridation, totalement inédite à cette échelle, qu'elles permettent entre espace public et espace privé.

Or si la circulation des biens, des personnes, des oeuvres et de l'information dans l'espace public réclame, nécessite et permet des logiques d'authentification pérennes et communes (le vernissage, l'achevé d'imprimer, mais aussi, simplement et dans un autre genre, nos documents d'identité), la même circulation des mêmes biens personnes, oeuvres et informations dans un espace privé n'en nécessite aucune, voire les rejette pour permettre d'autres formes d'appropriation, de détournement, obéissant à d'autres logiques parce que justement, nécessairement et en un sens heureusement détachées de l'espace public.

<Permettez que je prenne un exemple Godwin> : dans l'espace privé (chez moi, devant ma famille, auprès de mes amis …), j'ai le droit de faire circuler l'idée que les chambres à gaz n'ont jamais existé sans avoir besoin de le "prouver". Dans l'espace public je n'ai pas ce droit. Cette idée est punie par la loi et considérée comme un délit (en France et dans d'autres pays). Si je n'ai pas ce droit et si cette idée est punie par la loi dans l'espace public, c'est précisément parce qu'il existe des documents dont la valeur de preuve est établie et qui attestent du contraire, et que l'intégrité desdits documents ne peut pas être remise en cause. </Permettez que je prenne un exemple Godwin>

Et comme les plateformes "sociales" sont à la fois l'un et l'autre, c'est à dire des espaces semi-publics et semi-privés, l'ensemble du processus d'établissement de la preuve et de l'authenticité est biaisé. Avec pour résultat, parmi d'autres, le fait que la viralité a supplanté l'authenticité dans les instanciations les plus fortes du pacte social de la transmission et de l'information, dans mais aussi pour partie en dehors des plateformes.

Volte-Face.

Sans avoir eu le temps de me livrer à un travail d'archéologie cinématographique exhaustif (les commentaires sont ouverts si vous souhaitez apporter votre pierre à l'édifice), l'un des premiers films à utiliser l'échange de visage (et donc d'identité) comme ressort principal de sa trame narrative fut le film de John Woo en 1997, "Volte-Face", dans lequel le méchant Nicolas Cage (encore …) piquait le visage du gentil John Travolta pour alternativement échapper à la police et localiser une bombe (j'ai gardé un souvenir assez confus du scénario).

 

Technologie sans visage est comme science sans conscience.

C'est bien connu, la technologie n'a pas de visage. Ce n'est peut-être donc pas totalement par hasard que les technologies de l'artefact s'attaquent en majorité à la représentation simulée du visage, notamment à l'ère et à l'heure de ce que l'on nomme désormais "Le web affectif" dans lequel l'économie des émotions est en train de supplanter celle de l'attention pour toujours mieux pouvoir cerner nos intentions.

Car le visage est l'écran et l'écrin de nos émotions. Souvenez-vous de la société Affectiva : 

"Affectiva's tech creates "classifiers" or face and emotion algorithms, from an "emotion data repository of almost 4.7 million faces analyzed, and 50 billion emotion data points recorded." 

Mais les usages numériques ne sont souvent que la déclinaison d'un habitus culturel pré-existant. La question du masque et du travestissement en font partie. 

L'usage du "Face Swap" peut être vu comme ce qu'il fut initialement, c'est à dire un simple "jeu" renvoyant au carnaval des parades de l'enfance comme au masque de la Comedia Dell'Arte. Le Face-swap de Snapchat, celui, plus récent, de l'application Face App permettant de faire sourire des toiles de maître, relèvent exclusivement de cet aspect ludique et carnavalesque.  

 

Il y a peu, une fonctionnalité "Is Your Portrait In A Museum" faisait son apparition dans l'application Google Art Museum, permettant, sur la base d'un Selfie, de trouver votre sosie (ou le portrait vous ressemblant le plus) dans le corpus des oeuvres d'art accessibles et indexées par Google. L'aspect ludique restait ici aussi au premier plan mais il ne suffisait déjà plus à gommer l'interrogation et les inquiétudes sur le cheval de Troie qu'une telle fonctionnalité peut constituer pour collecter toujours davantage de données personnelles relevant d'une approche biométrique, l'application se trouvant de facto interdite dans certains états aux USA ainsi qu'en France au nom des règles établies par la CNIL.

 

La vraisemblance de la ressemblance reste tout de même aussi aléatoire que subjective …

"Swapper et divertir" #IsTheNew "Surveiller et punir" ?

Et puisqu'il faut surveiller les surveillants, chaque usage social d'une technologie dispose également et heureusement de contre-usages reposant souvent sur des technologies semblables mais détournées comme – nous étions alors en 2016 – ces lunettes permettant de faire croire aux caméras de surveillance que vous étiez Milla Jovovich. Mais il faut cependant noter qu'à rebours de l'adage populaire selon lequel les voleurs sont toujours en avance sur la police, l'histoire même des technologies de surveillance est – hélas – l'exemple parfait dont la police (les technologies de l'aliénation) peut avoir une énorme avance sur les voleurs (les technologies permettant de s'émanciper ou de se libérer d'une aliénation). 

Le rat des Fakes et le Pacarana du web (Fable moderne).

Aujourd'hui commencent à peine à émerger des champs de recherche explicitement dédiés au repérage et à l'analyse de ces Fakes et de ces montages. Et c'est une très bonne chose que de pouvoir coupler des approches algorithmiques à des approches humaines et journalistiques comme – par exemple – celle du Décodex (un an déjà, joyeux anniversaire au passage).

Même si l'approche consistant à confier à un algorithme de reconnaissance d'image le rôle de détecter des modifications d'images faites par d'autres algorithmes risque de nous plonger dans des abîmes de perplexité et de boucles de rétroactions assez complexes et peut-être parfois assez vaines également. 

Mais tout cela, répétons-le, vaudra toujours mieux qu'une loi …

Se défaire d'un Fake n'est pas chose aisée. Et les plus convaincantes des fausses informations se passent souvent de toute technique pour atteindre des sommets de vraisemblance. L'épisode récent du rat trop cool prenant une douche qui était en fait un Pacarana trop maltraité en est la preuve. A qui et à quoi se fier dès lors si la technique est capable de tromper nos sens d'une manière et à une échelle totalement inédite, et si dans le même temps, nos sens n'ont nul besoin d'une quelconque technique pour atteindre des niveaux de confusion facilitant la propagation des nouvelles les plus fausses ? 

To be a Rat or to be a Pacarana ? That is the question. 

Descartes et Nicolas Cage : la 7ème méditation métaphysique.

Dans une quelconque uchronie, se trouvait un philosophe du nom de Descartes, René Descartes. Il contemplait un morceau de cire. Un masque fait de cire. Le masque de Nicolas Cage dans cette nouvelle cire technologique faite de bits et produite par de nouvelles abeilles ouvrières répondant au doux nom "d'algorithmes".

Assis dans un canapé trop grand que surplombait un miroir trop terne, il venait de visionner une nouvelle fois le film "Les aventuriers de l'arche perdue" dans lequel Nicolas Cage incarnait Indiana Jones, un rôle pour lequel c'est Harisson Ford qui avait été initialement pressenti avant d'être mis sur la touche suite aux révélations sur ses débuts dans l'industrie du porno en compagnie de Gal Gadot. Tout cela le plongeait dans de profondes méditations : étaient-ce nos sens qui nous trompaient, ou notre précipitation à juger ? Il nageait en plein doute. En hommage au héros du film qui l'avait accompagné pendant tant et tant de soirées, il appellerait cela, "le doute Nicolas Cagien". Ou quelque chose dans le genre.