Prestidigitalisation : de la technologie à la technomagie.

Comme un tour de magie. 

Être capable de reconnaitre automatiquement des gens masqués. Être pareillement capable de deviner, à partir d'une simple photo, l'orientation sexuelle de quelqu'un. Avouez que cela serait magique non ? Flippant mais magique. Jusqu'ici seule la célèbre mentaliste Mme Arnica était capable de réaliser de telles prédictions. Mais si, comme par magie, c'étaient désormais des algorithmes, des "intelligences artificielles" qui parvenaient à pratiquer de tels numéros de mentalisme technologique, comment réagirions-nous ? 

Vous souvenez-vous d'ailleurs, lorsque vous étiez enfant, de votre premier tour de magie réussi ? De la première fois où, même maladroitement, vous êtes parvenu à truquer le réel et à mystifier votre auditoire ? Vous souvenez-vous de cette sensation ? Je m'en souviens. Je me souviens aussi qu'il y a de cela presque déjà vingt ans, j'apprenais seul le langage HTML pour être capable d'aller ensuite donner des cours à la fac sur ce sujet. Je me souviens de la sensation éprouvée lorsque j'ai terminé de taper le code <A HREF> de mon premier lien hypertexte, lorsque j'ai lancé Netscape Navigator et ouvert en local ce fichier texte, et lorsque j'ai pu cliquer sur ce lien que je venais de créer et derrière lequel je pouvais décider d'emmener n'importe qui vers n'importe quelle page web. Je vous promets que ce jour-là j'ai ressenti la même excitation et le même sentiment de toute-puissance que lorsque j'avais, enfant, réussi mon premier tour de magie. 

Ce qui était magique c'était le résultat, ce lien cliquable que j'avais moi-même fabriqué, manipulé, formalisé et construit, et qui n'était qu'une illusion puisqu'à tout moment je pouvais choisir d'en modifier la cible. Ce simple <A HREF> était mon A-bracadabra. Il le serait pour longtemps. 

Des nombres et des doigts : vers une techno-magie.

Je n'ai jamais aimé l'emploi français du mot "digital" pour parler des affaires relevant du numérique. Imaginez que les anglophones se mettent à parler de "Hand Studies" ou de "Hand Marketing". Bref. Le numérique est affaire de nombre. De nombres qui fabriquent et rendent compte d'une réalité que des programmes doivent interpréter pour qu'elle fasse sens, là où les mots, quand il n'y avait qu'eux, faisaient sens immédiatement, spontanément, sans avoir besoin d'intermédiation programmée et préalable. 

Aujourd'hui le numérique est en train de devenir digital. Un digital littéral qui ne couvre pas simplement la dimension "tactile" ; le numérique est en train de devenir digital parce que dans les technologies numériques, dans les technologies du nombre et du dénombrable, se glissent et apparaissent des technologies de la manipulation qui convoquent une dimension quasi-magique pour le profane. Or ces technologies de manipulation ont un impact sociétal de plus en plus considérable parce que le techno-"logos", le discours qui les accompagne, est lui aussi empreint d'une dimension quasi-magique très pregnante. Le monde qui se dessine, ou celui que l'on tente de nous conter et de nous expliquer comme probable, ce monde de technologies, de programmes et d'intelligences, ce monde sera, c'est certain, pour partie ou pour l'essentiel, profondément artificiel, à moins que nous ne soyons capable de prendre pour ce qu'ils sont les artifices de pensée du grand récit techno-magique qui oscille entre une techno-logique implacable et une techno-phobie galopante. Mais nous y reviendrons plus tard. 

Ces technologies de la manipulation, je vous en ai déjà parlé il y a longtemps. J'appelais cela "les technologies de l'artefact", cette manière de "truquer" le réel en lui apposant une surcouche numérique souvent désorientante ; des technologies de l"artefact qui culminent aujourd'hui avec l'essor de la réalité virtuelle et augmentée dans sa version grand public (et dont le jeu Pokemon Go fut un climax) et par le biais desquelles nous manipulons des suites de nombres incarnées (en Pokémons ou en tout autre chose).

Artifices de l'intelligence et magie des algorithmes.

En l'espace de quelques jours, entre le 6 et le 8 Septembre 2017, deux articles scientifiques ou se faisant passer pour tels, ont défrayé la chronique et ont été repris par de nombreux sites de presse. Le premier annonçait qu'un algorithme pouvait identifier un visage masqué, et le second qu'une intelligence artificielle pouvait deviner si vous étiez homosexuel ou hétérosexuel à partir d'une simple photo. Encore plus fort que Superman et sa vision aux rayons-X. Encore plus flippant que 1984.

Tout cela pendant qu'en France, le gouvernement confiait à Cédric Villani les rênes d'une (nouvelle …) mission sur l'impact de l'intelligence artificielle. Interviewé dans Le Monde, celui-ci déclarait : 

"Si l’analyse automatique de données médicales aboutit à ce que les maladies soient mieux dépistées et que les traitements coûtent moins cher, c’est super. Si ça aboutit à ce que les compagnies d’assurance se mettent à pratiquer des tarifs différentiels en fonction d’informations confidentielles, que ceux qui souffrent des maladies les plus graves doivent payer de plus en plus cher, évidemment ce n’est pas ce qu’on veut."

Puis-je me permettre de rappeler à Cédric Villani que sur un plan historique, social ou technique, l'un n'ira – hélas – pas sans l'autre. La vision binaire qui voudrait qu'il existe une bonne IA que l'on pourrait promouvoir et développer et une mauvaise IA dont on pourrait limiter les effets négatifs en légiférant est une vision assez candide. L'IA est une technologie "atomique", une fois que l'on a compris le mécanisme de la fission et de la fusion, on peut s'en servir pour développer la bombe atomique ou pour produire de l'électricité. Un Pharmakon quoi, à la fois remède et poison, comme aime à le dire Stiegler. 

Mais revenons à ces deux articles scientifiques et au grand récit techno-logique / -magique / -phobique qui les accompagne. Algorithmes et intelligences artificielles seraient donc capables de nous reconnaître même masqués tout en lisant à livre ouvert dans notre identité sexuelle à partir d'une simple photo.

Le retour de la vengeance du fils de l'intelligence artificielle qui sait si tu es homosexuel même si tu caches ton visage parce que de toute façon tu ne peux rien cacher aux intelligences artificielles qui vont bientôt dominer le monde hahahahaha rire démoniaque.

Ou pas.

Commençons par cette histoire d'IA capable de savoir si nous sommes homosexuels. L'article original est ici et s'intitule : "Deep neural networks are more accurate than humans at detecting sexual orientation from facial images." Et il a notamment été repris et chroniqué par Techcrunch ainsi que dans le Guardian. Avant d'être heureusement et littéralement éparpillé façon puzzle, tant sur son fond idéologique puant que sur la scientificité plus que douteuse de sa forme par le valeureux Antonio Casilli dans un billet d'utilité publique et intitulé : "Une IA révèle les préjugés anti-LGBT (et anti-plein d'autres gens) des chercheurs de Stanford", éparpillage auquel se joint un collègue sociologue anglophone dans un billet tout aussi utile, jubilatoire et réjouissant.

Donc prenez deux minutes, allez lire le billet d'Antonio et revenez par ici. 

<2 minutes plus tard>

Voilà. Donc non. Aucune intelligence artificielle n'est capable de savoir si tu es homosexuel ou hétérosexuel à partir d'une simple photo. Mais quand même on a bien flippé. Et le nombre de personnes qui se souviendront, même vaguement, d'avoir lu un jour un article de journal qui citait l'exemple d'une intelligence artificielle qui était capable de savoir si on était gay avec juste une photo, ce nombre de personnes sera hélas toujours notablement plus élevé que celui des personnes ayant lu le billet d'Antonio, nombre là encore beaucoup plus élevé que celui de ceux ayant eu la curiosité de parcourir le preprint original. C'est cela, ce que l'on appelle la construction "d'un grand récit médiatique".

Prenons maintenant le cas de l'autre article : "Disguised Face Identification (DFI) with Facial KeyPoints using Spatial Fusion Convolutional Network" (pdf). Il s'agit cette fois – sur le fond et sur la forme – d'un "vrai" article scientifique. Mais la manière dont la presse s'en est fait l'écho (voir notamment les papiers de Vice et de Numerama) est assez largement exagérée. Car non, nous ne disposons pas – encore – d'un "programme" capable de reconnaître n'importe lequel d'entre nous même si son visage est masqué.

Ce dont il s'agit dans cet article – et c'est déjà énorme – c'est de construire un cadre d'apprentissage informatique ('Framework') capable d'entraîner une IA à reconnaître des visages partiellement masqués, programme qui en se basant sur la détection de 14 points-clés du visage annotés, permettrait à des programmes "classiques" de reconnaissance faciale d'être plus efficients, nécessiterait des jeux de données (datasets) moins gigantesques, et permettrait d'avoir en sortie un taux d'erreur moins élevé. Donc pour faire simple on n'est pour l'instant pas encore capable de reconnaître le visage de n'importe qui apparaissant masqué dans n'importe quelle manifestation, mais on y réfléchit depuis déjà longtemps et on commence à y parvenir avec un taux de réussite assez intéressant, mais uniquement sur des jeux de données dans lesquels on dispose déjà de la correspondance entre le visage masqué et le même visage découvert.

Alors cela reste bien sûr assez flippant en termes de dystopie possible, mais cela nous laisse aussi un peu de temps pour essayer de l'éviter, à condition bien sûr de se mobiliser un peu sur ces sujets, ce qui est encore une autre affaire …

Le fait est que ces technologies d'identification "même le visage masqué" ou basées sur des comportements et des attitudes plus que sur des traits physiques et faciaux se développent comme un champ de recherche à part entière depuis déjà plusieurs années. Souvenez-vous par exemple de ce que je vous racontais il y a deux ans (2015) à propos de ce que j'appelais – sous forme de boutade – "la reconnaissance faciale de dos", où il s'agissait "d'indexer" les attitudes corporelles pour là encore rattacher ensuite ces attitudes "reconnues" à différents jeux de données permettant d'améliorer le taux de réussite d'algorithmes de reconnaissance faciale.

Le point commun de ces deux articles c'est que s'ils ne racontent pas la même histoire, ils contribuent à forger le même récit historique : celui de l'avénement inexorable et non-négociable d'une société de surveillance totale et globale.

Aucun algorithme, aucune intelligence artificielle ne sera jamais capable de sonder nos âmes et les tréfonds de notre identité sexuelle sur la base d'une simple photographie. Et c'est tant mieux. Mais cela ne doit pas nous faire oublier qu'hier, aucune étude des bosses de notre crâne ou des traits de notre visage n'était davantage capable de déceler si nous étions un dangereux criminel ou un inverti notoire. Et pourtant cela n'empêcha pas l'essor de la phrénologie ni de la physiognomonie, ni les ravages que firent ces pseudo-sciences. De la même manière on fabrique déjà et on continuera de fabriquer des programmes et des algorithmes capables de parfaitement reproduire et amplifier les biais moraux, politiques et idéologiques de ceux qui les auront programmés ou de leurs commanditaires, "l'algorithme" ou "l'intelligence artificielle" n'étant plus que l'alibi parfait permettant de dissimuler ses actes aussi bien que ses intentions.

Ainsi au lot de techno-prophètes et autres illuminés transis de transhumanisme, aux nouveaux luddites sans cesse en guerre contre de nouvelles machines, succéderont de nouveaux physiognomonistes et phrénologues du numérique. Nous y sommes. Il est tout un pan de ce que l'on appelle aujourd'hui "intelligence artificielle" et qui n'est que la forme élaborée d'un simple psittacisme calculatoire. Prétendre y voir de l'intelligence c'est un peu comme voir de l'humanisme dans les yeux d'Eric Ciotti.  

D'autres algorithmes eux, pour autant qu'à l'instar des premiers ils disposent de suffisamment de données de notre servitude volontaire, d'autres algorithmes eux, seront en revanche tout à fait en capacité de lire sous nos masques, en capacité de dévoiler ce que nous voilons, ce que nous voulons voiler.  

Et comme souvent c'est Zeynep Tufekci qui en parle le mieux lorsqu'elle indique : 

"This is a minor paper; narrow, conditional results. But it's the direction & this will be done with nation-state data—not by grad students."

Il y a cette idée. Cette idée que se masquer, se dissimuler, se travestir ne sert plus à rien puisque l'on peut nous reconnaître quand même. Cette idée que l'on ne peut plus tricher en rien, que l'on ne peut plus rien dissimuler. Et cette idée qu'un jour même nos identités sexuelles n'auront plus rien de dissimulable. Fermer les yeux un instant et frissonner à l'idée que quelqu'un n'aille inventer les Algorithmic Gender Studies …  

Presti-digitalisation.

Le prestidigitateur est étymologiquement celui aux doigts (digital) "prestes", rapides. Cette rapidité, ce côté "preste" est aujourd'hui et depuis déjà longtemps du côté de la puissance de calcul des machines. Avec bien sûr le risque qu'il ne nous reste de promptitude que celle d'une interprétation trop rapide des résultats de ces calculs, croyant voir sur cette photo le visage d'un homosexuel, croyant reconnaître sous ce masque le visage de cet ami ou de cet ennemi. Ou pour certains aimer croire que cela est possible. Pour d'autres s'accommoder difficilement de cette idée, et la combattre. On appellerait cela de la prestidigitalisation. Et nous serions les spectateurs d'un grand spectacle de techno-magie. 

Je me souviens de mon premier tour de carte. Et de mon premier lien hypertexte. De mes premiers tours de magie. Cette simplicité et cette transparence de la manipulation technique étaient magiques. Le <A Href> était un A-bracadabra. Aujourd'hui la magie vient d'une complexité et d'une opacité qui ne sont plus directement manipulables ni parfois même observables, la magie de ces boites noires que sont devenus les algorithmes et les "frameworks" dans lesquels ils tournent, les "Datasets" dont ils se repaissent. Mais que peut produire une société des boites noires à part des formes de magie … noire ?  

"Toute technologie suffisamment avancée est indiscernable de la magie." Arthur C. Clarke.

======================================

Cet article t'a plu ? Alors ce livre te plaira :-)

======================================