Spéculation faciale : panique dans le panoptique.

D'abord il y a l'euphémisation. La novlangue. La guerre c'est la paix. D'abord on ne parle plus de vidéo-surveillance mais de vidéo-protection. Et bien sûr comme à chaque fois tout commence là. Quand la barrière de la langue est levée, quand les mots sont suffisamment travestis pour ne plus dire le vrai en se mettant au service d'une idéologie et d'un marché, alors toutes les digues cèdent. Les unes après les autres.

Toutes, je dis bien toutes, toutes les études scientifiques qui se sont penchées sur ce marché pour en mesurer l'efficacité, toutes sont unanimes pour pointer le fait que la chose que ces caméras de surveillance protègent le mieux, ce sont les intérêts dudit marché. 

Il y a 10 ans déjà, la vidéo-surveillance était un mirage technologique et politique. Dix ans plus tard c'est le cauchemar Orwellien qui est là, lui qui n'était pourtant pas supposé être un manuel d'instructions.

A Nice on apprend que "les passagers du tramway sont filmés par un système qui lit les émotions sur leur visage pour détecter toute situation anormale." C'est une filiale d'Engie qui s'y colle. Plus loin dans l'article du Monde, mais toujours à Nice on apprend encore que :

"le conseil municipal a voté, en juin, l’expérimentation d’une batterie de solutions safe city avec Thales, à la tête d’un consortium de quinze sociétés spécialisées dans l’analyse des réseaux sociaux, la géolocalisation, la biométrie ou la simulation de foules."

Je rappelle qu'en Chine, en plus du déjà tristement célèbre système de "Social Credit Score", on découvrait récemment des projets gouvernementaux de surveillance permettant de déployer : 

"des capteurs cérébraux ("Brain-reading technology") pour détecter les changements d'état émotionnel des employés sur les chaînes de production, dans l'armée et dans les postes de pilotage de trains à haute-vitesse."

En Chine. En 2018. Et donc à Nice, en 2018 toujours, tout le monde à l'air de trouve ça normal que "les passagers du tramway soient filmés par un système qui lit les émotions sur leur visage pour détecter toute situation anormale." 

Le panoptique de la panique.

Partout les espaces publics ou privés, urbains ou campagnards se rêvent en panoptiques, partout les investisseurs sont au rendez-vous, partout les politiques sont au garde à vous, partout tout le monde trouve ça "smart", parce qu'il y a "de l'IA" et du "Big Data", bé ouais coco, c'est la Tech-Town, la Smart-city quoi. Partout, chaque jour, l'espace public recule de manière dramatique. Car il n'est d'espace public que celui qui peut échapper structurellement à l'enregistrement et à la captation privée. 

La Smart-City c'est le monde miroir du panoptique Facebook : la superposition d'un espace réel de contrôle permanent à un espace virtuel de contrôle permanent. Il en est que cette perspective excite, elle devrait individuellement nous navrer et collectivement nous alarmer.

Car si l'argument sécuritaire du panoptique joue sur les ressorts de la panique de ce que pourrait être un monde laissé sans surveillance, la seule vraie cause de panique est celle qui fait que nous assistons impuissants à un double mouvement de systématisation et d'anecdotisation des régimes de surveillance. Et ce alors même que partout dans le monde une crise politique globale porte au pouvoir des régimes de plus en plus explicitement autoritaires et anti-démocratiques. Nous sommes en train de construire les infrastructures nécessaires à des lendemains d'oppression que nous n'avons même plus l'air de craindre tant ils paraissent irrémédiables. 

La résignation est le poison de ce monde vidéo-surveillé, l'oppression son modèle économique, et l'assignation son paradigme (assignation à consommer, à résider, à se déplacer dans des espaces contraints selon des trajets qui le sont également, et ainsi de suite).

Comme dans tout naufrage, il existe heureusement encore quelques poches d'air qui permettent d'espérer. Au moins temporairement. Ainsi le contrat qui mettait à disposition de la police d'Orlando la technologie de reconnaissance faciale mise au point par Amazon a été dénoncé par des dizaines d'associations de défense des libertés mais également par les employés d'Amazon eux-mêmes. 

Et à chaque fois, à chaque fois le même argument, qui tourne en boucle, tant du côté de ceux qui veulent surveiller tout le monde que de ceux qui leur en fournissent les moyens : 

"La ville d’Orlando est constamment à la recherche de nouvelles solutions pour assurer la sécurité de nos résidents et nos visiteurs. Mener des partenariats avec des entreprises innovantes pour tester leurs dernières technologies – tout en nous assurant du respect des lois sur la vie privée – est crucial."

Renforcer la sécurité et en même temps respecter non pas la vie privée mais "les lois sur la vie privée". Nuance. Car bien sûr à l'échelle de la massification du  déploiement de ces technologies de surveillance et au regard de ce qu'elles permettent désormais de faire "à la volée" et en temps réel dans le domaine par exemple de la reconnaissance automatique de visage, affirmer qu'elles sont compatibles avec une quelconque forme de respect de la vie privée à autant de sens que de prétendre qu'une coloscopie est nécessaire et utile pour réaliser un fond d'oeil.

En fait la vidéo-surveillance et la reconnaissance faciale c'est toujours la même histoire : au début tu commences par t'en servir pour identifier les invités à une fête, ensuite tu mets ta technologie au service de la police de ton pays ou de ton état, et puis à la fin ça finit toujours par retomber sur les immigrés. Simple, basique. Et authentique. Au final, ceux qui ont pour seul tort d'avoir une couleur de peau différente de celle de ceux qui les surveillent sont les premiers à faire les frais de ces systèmes profondément et structurellement pervers. Reconnaissance faciale et discrimination ethnique sont les deux faces d'une même médaille.

Et maintenant : devinette.

Quelle est la différence entre Christian Estrosi et Taylor Swift ?

Aucune. Tous les deux sont des maniaco-dépressifs du contrôle et de la vidéo-surveillance. 

Côté Estrosi, sa dernière trouvaille est de permettre à deux lycées de Marseille et de Nice de tester la reconnaissance faciale comme "outil anti-intrusion". Ahem. Là on ne parle pas de caméras installées au dessus du parking à vélos hein, on parle d'un portique qui va scanner tous les jours tous les visages de tous les élèves pour leur permettre d'entrer. Ahem. Ahem. Mais bon tout va bien puisque la CNIL a donné non pas son aval mais son "avis" sur l'expérimentation, lequel "avis" était positif, et que "la communauté pédagogique" à également, nous dit-on, donné son accord. AHEM. Je sais pas ce qu'ils fument en ce moment à la CNIL mais va quand même sérieusement falloir qu'ils arrêtent. 

Numerama a publié un papier très complet sur le "mais bordel comment ça va se passer" dans lequel on apprend notamment que cela ne concernera (au début en tout cas) que les élèves volontaires et avec l'aval des familles concernées : 

"Le lycée proposera une file d’attente distincte pour les élèves volontaires, de sorte à ce que leurs camarades ne soient pas filmés sans consentement. Les participants enregistreront leur profil biométrique, qui sera retranscris sur un badge. La forme de celui-ci, QR code sur smartphone ou badge physique, n’est pas clairement communiquée."

Il paraît aussi que Cisco (le prestataire de service) n'aura pas accès aux données biométriques captées par son portail à l'aide de son logiciel faisant tourner sa technologie de reconnaissance faciale : 

"le lycéen valide son badge à une borne lorsqu’il entre, et les caméras confirment que le profil enregistré correspond à celui à l’image. Mais elles ne devraient pas conserver de données, et seulement opérer localement. Les lycéens garderont la main sur les gabarits faciaux enregistrés dans leur support individuel, et Cisco ne devrait pas y avoir accès."

Vous noterez l'emploi du conditionnel de circonstance. Et une fois fait, vous pourrez insérer ici un grand éclat de rire ou un grand coup de pied dans la gueule du premier truc qui passera non loin du susdit pied. 

<Anecdote personnelle enrichissante> Moi personnellement j'ai des enfants, et il est vrai que je suis un lâche. Lorsque dans le petit bled de campagne où est implanté leur collège tout neuf, la "biométrie" a fait son apparition sous la forme d'une empreinte de la main (ou du pouce) permettant d'aller se gaver de frites et de ketchup dans ce paradis de l'orgasme gustatif qu'est "LE SELF", j'ai gueulé. J'ai filé 10 balles à La Quadrature du Net pour me détendre (et parce que c'est super important). J'ai dit à la réunion des parents d'élèves que :

"hum, bon ben quand même certes y'a des choses plus graves mais quand même le fichage biométrique dès la 6ème pour accéder au self alors même que tout le monde sait que ce pignouf de Jonathan le pion neurasthénique (les prénoms ont été changés) il part fumer des clopes plutôt que d'empêcher les 3èmes de piétiner les 6èmes à l'entrée du Self, hein, quand même quoi."

Et puis je suis rentré tout fier chez moi et j'ai commencé à expliquer à ma glorieuse descendance qu'il allait falloir envisager d'entrer en résistance contre ce monde Orwellien tout pourri. Ce qui a eu pour effet immédiat que le "classe-de-6ème" concerné s'effondre en larmes en mode "noooon mais je vais être le seuuuuul c'est trop la loooooooose tous mes copains ils ont déjà rempli le papier bouhouhou" et que le "classe-de-4ème" concerné se mette à me promettre de m'éviscérer et que "non mais c'est quoi cette famille pourrie où déjà on n'a même pas la télé et où en plus maintenant genre on va trop passer pour des boloss". Je cite de mémoire hein, mais c'est pour restituer l'ambiance.

Le message était donc parfaitement passé et ma mission éducative de résistance citoyenne s'arrêtait là. J'ai signé ce putain de papier pour que mes loustics parmi 400 autres mettent leur doigt (ou leur main) dans un vague scanner avant d'aller bouffer 5 jours sur 7 et je suis retourné filer 10 balles à la Quadrature du net pour me re-calmer. On ne gagne jamais tout seul. Donc allez filer 10 balles à la Quadrature du net et revenez ici. </Anecdote personnelle enrichissante>

Donc Estrosi et la région PACA, ils collent des portiques à l'entrée des lycées pour faire de la reconnaissance faciale. Portiques et technologies de l'entreprise CISCO … Ben oui. Quitte à filer les clés du ministère de la défense à Microsoft, quitte à lui offrir également celles du Ministère de l'éducation nationale, autant être cohérent en filant le travail de flicage de notre jeunesse à une autre entreprise américaine. Mais bon, tant que la CNIL a un "avis" qui est que "faut bien essayer pour voir", tout va bien, c'est cool. Je vais quand même retourner mettre 10 balles dans le jukebox de la Quadrature du Net mais c'est cool. 

Mais quand même. Quand même c'est vraiment super con que ni Christian Estrosi, ni la CNIL (Commission Nationale Informatique et Laissez-faire), ni les instances qui ont permis la mise en place de ce bordel, ni "la communauté éducative" n'aient pris le temps d'aller lire un article scientifique datant de 2010, écrit par Tanguy Le Goff, en accès libre, et titré : "La vidéosurveillance dans les lycées. De la prévention des intrusions à la régulation des indisciplines". Ben oui. Tout y est dans cet article de 2010. A commencer par la démonstration qu'à part pour les vols sur le parking à vélo (et encore) ça ne marche pas et ça ne donne aucun résultat probant autre que celui, en effet, de systématiquement finir par réaffecter un système visant à limiter les intrusions à un système permettant de discipliner les comportements. Pour ne pas être supposé de tordre la réalité je recopie ici la conclusion de l'article de Tanguy Le Goff : 

"Les résultats de la vidéosurveillance en termes de sécurisation ne sont pourtant guère probants. Son impact dissuasif est très limité sur les intrusions bien qu’il s’agisse de la principale finalité en légitimant l’installation dans un établissement scolaire. Il n’est guère plus probant sur les cambriolages et les vols, hormis ceux commis dans les parkings. En définitive, la finalité pour laquelle la vidéosurveillance donne ses résultats les plus significatifs est le maintien de l’ordre scolaire. Au prix d’un quadrillage de l’ensemble des espaces d’un lycée, elle peut servir d’appui au personnel, aussi bien enseignant que chargé de la vie scolaire, pour contrôler les actes d’indiscipline des élèves. On ne saurait toutefois surévaluer ses effets sur la modélisation des comportements des lycéens et moins encore considérer que la vidéosurveillance constitue un véritable dispositif de sécurité au sens foucaldien du terme. Son utilisation marginale, le caractère occasionnel de la surveillance en temps réel et son absence d’intégration à la politique de gestion de l’ordre scolaire en réduisent fortement les capacités à discipliner les corps."

Le grand danger, huit ans plus tard, c'est la réalité sociale et technologique qui fait que nous sommes désormais essentiellement sortis de "l'utilisation marginale" et que l'ordre du jour est à la capacité à discipliner les comportements et les corps. Surveiller et punir.

Et puis donc arrive Taylor Swift. Qui lors de l'un de ses concerts, a scanné la totalité de la foule présente pour "identifier ses harceleurs". (car Taylor Swift a visiblement des gens qui la harcèlent et dont elle connaît le visage. Bref). Voilà. Concrètement lors de la validation du billet pour entrer dans le concert, étaient disposés des écrans de télé qui diffusaient des clips, et que donc les gens faisant la queue regardaient tranquillou, mais qui étaient en fait des écrans équipés de dispositifs de reconnaissance faciale et que comme ça on avait bien le temps de bien scanner ton petit visage tout concentré que tu étais à fixer l'écran. Ha ha ha qu'est-ce qu'on rigole bien.

Je suis sûr que si Taylor Swift avait demandé la permission à la CNIL ils auraient dit "Wesh Banco, comme ça en plus on pourra croiser avec la base de Christian histoire de voir si y'a pas un lycéen de Marseille qui a séché les cours pour prendre un avion pour assister au concert à Las Vegas." Faut bien essayer. Bref. Je ne sais pas vous, je ne sais pas si c'est la période des fêtes ou quoi, mais depuis quelques temps j'ai l'impression que c'est vraiment tous les jours le Noël de la connerie.

Spéculation faciale.

Je vous ai souvent parlé des travaux de Sushana Zuboff sur le capitalisme de surveillance. Pas plus tard que dans ce dernier billet. De Google à Facebook, l'ensemble du web a muté d'une économie des documents (capitalisme linguistique) à une économie des profils (capitalisme de surveillance donc). Nous sommes aujourd'hui à la phase d'après. Celle où après avoir mis en place l'essentiel des infrastructures techniques, physiques ou numériques, d'une surveillance de chaque individu à chaque instant et dans chaque espace public ou privé, il faut, pour que le marché tienne et que les actionnaires se gavent, entretenir la spéculation.

A ce titre, la dernière "création" de la société Nvidia est proprement fascinante. Il s'agit d'une "intelligence artificielle" (en fait du Deep Learning) capable de créer des visages "qui n'existent pas" à partir de ceux de vraies personnes (l'article scientifique est disponible sur ArXiv).

 

On savait déjà reconstituer des (vrais) visages à partir d'un simple brin d'ADN, on disposait également d'immenses bases de données répertoriant, classant et indexant l'ensemble de nos émotions et de leurs traductions en autant d'expressions faciales. D'une certaine manière il ne manquait plus que cette dernière pièce dans le grand puzzle du capitalisme de la surveillance : créer des visages qui n'existent pas. En créer autant que possible. De manière infinie. Dont certains d'ailleurs finiront, et ce n'est pas le moins troublant, par être ou devenir de "vrais" visages un peu comme dans le paradoxe du singe savant ou dans la bibliothèque de Babel. 

Un nombre infini mais observable, quantifiable, analysable de visages qui n'existent pas mais pourraient être utilisés comme autant de masques, de leurres, ou simplement comme outil de spéculation. Des visages "qui n'existent pas" et qui donc ne nous appartiennent pas alors même que ceux-là qui nous appartiennent et nous définissent ne nous appartiennent plus vraiment et sont avant tout devenus "la propriété de plates-formes capitalistes".  

Google. Du moteur de recherche à la bourse des mots et à leurs enchères. Capitalisme linguistique. Facebook. Du livre des visages à la bourse des visages. Capitalisme de surveillance. Des ravages du premier nous sommes informés mais n'avons déjà presque plus de prise sur l'horizon culturel que dessinent ces architectures techniques toxiques. Des ravages du second nous paierons le prix fort d'un risque de déshumanisation encore plus grand.

Lorsque nos mots et nos visages ne seront plus rien d'autre qu'un marché, lorsque des mécanismes spéculatifs dits "à haute fréquence" les entraîneront sans que nous ne puissions plus y prendre part autrement qu'en spectateurs hébétés, la panique s'emparera du panoptique. Nous n'avons à ce jour aucune idée des conséquences de l'inévitable Krach qui prendra place après ce vertige. Mais une société où les mots ont un prix avant d'avoir un sens et où chaque émotion lue sur un visage ne vaut qu'à proportion de son coût transactionnel est une société déjà plus que flétrie. 

La spéculation sur les mots, leur appartenance à une sphère essentiellement marchande, est un appauvrissement mécaniquement proportionnel de la capacité de faire société. La spéculation sur les visages et sur les émotions qu'ils expriment est un appauvrissement mécaniquement proportionnel de nos capacités individuelles et collectives d'empathie. De notre désir même d'empathie que la spéculation vide de tout sens et de toute nécessité. Ne reste alors qu'une mécanique sociale vide de sens qui fait le lit de tous les autoritarismes pour mieux préparer celui de tous les fascismes. 

On ne protège pas une société en ne la surveillant que pour la conditionner à l'être encore davantage demain. Et s'il s'agit là du seul projet de société que l'on est en capacité de porter, de Christian Estrosi à Taylor Swift en passant par l'ensemble de nos démocraties modernes, alors il ne faut pas s'étonner que les espaces – physiques ou numériques – qui sont les plus plébiscités et dans lesquels on semble avoir "plaisir" à se retrouver soient aussi les plus carcéraux, les plus étouffants et les plus "surveillants". Ce paradoxe n'est que d'apparence. Car la fabrique du consentement a partie liée avec la rhétorique de l'enfermement. Dans ces espaces surveillés, la démocratie n'y est plus que d'apparat autant que d'apparence et la spéculation s'y est parfaitement et durablement substituée à toute forme d'argumentation. 

<Mise à jour du lendemain> La Quadrature du Net revient sur les démarches qu'elle a engagée pour s'opposer au projet porté par Estrosi et les différentes réponses reçues des élus et de la CNIL. </Mise à jour du lendemain>