Chaque élection présidentielle depuis désormais quelques mandats, donne lieu à quelques bouleversements numériques inédits et qui sans jamais totalement déterminer l'issue du vote, finissent par peser de plus en plus sur la vie démocratique et l'état du débat public le précédant.
Sans prétendre à l'exhaustivité on se souviendra que la première élection d'Obama fut en grande part centrée sur l'exploitation à large échelle des plateformes numériques (réseaux sociaux) ; que l'élection de Trump fut doublement marquée par la banalisation du recours à des plateformes comme "Nation Builder" permettant d'envisager le corps électoral comme un banal fichier client, ainsi que par l'énorme scandale de Cambridge Analytica ; Cambridge Analytica pour lequel les universitaires discutent toujours pour mesurer l'impact réel et statistique que cela a pu jouer notamment dans certains états, mais où le fait que cela ait joué un rôle aussi important qu'instrumental ne fait plus du tout débat (rôle important parmi bien d'autres actions de bien d'autres médias à commencer par … Fox News).
Naturellement il faut aussi mentionner le recours à la "data" de l'équipe d'Emmanuel Macron, futur président de la start-up nation aux 25 licornes, lors de sa campagne pour analyser les verbatims recueillis pas son équipe.
Et puis … et puis partout dans le monde, en Inde, au Brésil, le rôle hautement déterministe plus que déterminant par lequel des applications comme WhatsApp viennent, sans jamais en décider entièrement, engager l'issue d'un scrutin.
Lettre à Elyze.
A quelques mois de l'élection présidentielle en France, on parle (vraiment) beaucoup ces derniers temps d'une application, "Elyze", permettant de "swiper" parmi les propositions de différents candidat.e.s afin de déterminer celui ou celle pour qui vous auriez le plus de chances de voter par "adhésion" à son programme.
Elyze donc. Qui commence à poser tellement de problèmes que la CNIL elle-même s'empare du sujet et de ce qu'Elyze fait de nos données personnelles. En effet et arguant qu'il ne le fera bien sûr que si elles sont "anonymisées", Elyze s'autorise à revendre les données collectées : date de naissance, code postal, genre … mais aussi et surtout les réponses faites aux questions issues des différents programmes.
Dans Le Monde avec l'AFP, le fondateur de l'application détaille :
« Aucune donnée n’est partagée avec Google et Facebook. Les données sont anonymes, l’application n’identifie individuellement aucun utilisateur », s’est défendu lundi Grégoire Cazcarra, contacté par l’AFP. Selon lui, les données sauvegardées pourraient être utilisées pour des « recherches scientifiques » ou si l’application décide de proposer de nouveaux contenus, mais « elles n’ont pas vocation à être fournies à un parti ou à une équipe de campagne ».
Comprenez ici l'inverse de ce qui est dit. Il est tout à fait possible que ces données soient fournies ou vendues à des partis ou à des équipes de campagne (même si ce n'est pas "leur vocation"). Et que dans tous les cas, les partis n'achètent que rarement en direct ce genre de données sensibles, il passent en général par des intermédiaires, des courtiers en donnée (Data Brokers) ou des sociétés de type Cambridge Analytica. Donc il est plus que hautement probable que les données (réellement anonymisées ou pas, nous en reparlerons plus tard) se retrouvent de fait entre les mains de certains partis politiques.
Les choses bougeant rapidement, en date du 15 janvier, les CGU de l'application mentionnaient "la revente des données d'utilisation, toujours anonymisées, à des tiers."
Aujourd'hui (21 janvier) cette mention a disparu :
Ce qui ne change rien à ce que j'écrivais plus haut. Si vous êtes un parti politique (ou un Data Broker travaillant avec des partis politiques ou un développeur d'Elyze …), au moins trois choses vous intéressent dans l'application :
- connaître les opinions des gens (individuellement) : ce n'est pas possible puisque les données sont heureusement (et légalement) anonymisées
- connaître les propositions les plus et les moins choisies : c'est possible
- connaître les corrélations entre propositions pour établir des profils de votes (c'est à dire savoir si celles et ceux qui ont choisi a proposition 1 ont aussi choisi la proposition 2 et ainsi de suite) : cela est tout à fait possible aussi.
Parmi les autres reproches faits à l'application, on trouve les faits suivants (liste principalement basée sur le recensement du journal Le Monde et de Numérama) :
- tous les candidats n'ont pas le même nombre de propositions (il y a donc un biais statistique)
- toutes les propositions sont au même niveau (les carottes bio à la cantine et le rétablissement de la peine de mort)
- les propositions d'Emmanuel Macron sont celles … de 2017 (puisqu'il n'est pas candidat et n'a à ce jour pas présenté de programme)
- tou.te.s les candidat.e.s n'y sont pas
- si on est d'accord avec toutes les propositions de tout.e.s les candidat.e.s, c'est toujours Emmanuel Macron qui gagne. Ce "bug" (sic) a été corrigé et en tout cas explicité ainsi par les créateurs de l'application : "En réalité, chaque candidat s’était vu attribuer un identifiant et, en cas d’égalité, l’algorithme mettait en avant le candidat avec le plus petit identifiant".
- plusieurs failles de sécurité (ou plus exactement de paramétrage dans configuration des "permissions" comme l'expliquent très bien Mathis Hammel et Esther) ont permis de modifier ou d'ajouter des propositions ("virer Jean Castex") ou de faire apparaître des candidatures factices.
Suite à l'ensemble de ces polémiques, le code de l'application est, depuis le 20 Janvier, passé en open source et disponible sur GitHub (on ne rappellera jamais assez l'importance de la transparence que seul l'open source permet dès lors qu'il est question d'applications de programmes ou de plateformes ayant une dimension politique …).
Et même si nulle application n'est exempte de failles ou d'approximations, et même si le pourcentage de chances qu'elle soit victime de piratages est proportionnel à l'imprévisibilité de son succès, avouons tout de même que dans sa conception et dans les biais de présentation induits, Elyze ouvre un champ de perplexité infini sur la légitimité de routines calculatoires statistiques appliquées aux choix politiques.
[Mise à jour du soir à 19h] L'un des co-créateurs (François Mari) m'indique que désormais "plus aucune donnée n'est conservée." Mais les CGU de l'application … ne le précisent toujours. Il m'indique alors que les CGU sont également en train d'être mises à jour. Nous verrons donc demain et je referai … une mise à jour à ce moment là sur ce billet :-) [/mise à jour]
Élections, applications … et intentions.
Comme le rappelait notamment François Malaussena dès le début, le principal risque est "simplement" celui qu'un seul homme et un homme seul, le fondateur de l'application, puisse avoir entre ses mains une telle base de donnée d'opinions. Exactement (mais bien sûr à une autre échelle) comme le fait qu'un autre homme seul (Zuckerberg) puisse détenir la plus formidable base de donnée d'opinions politiques de la planète et en faire très exactement ce qu'il veut. C'est ce que j'expliquais à l'époque du mouvement des Gilets Jaunes :
"Pour Facebook il est donc très facile de très précisément savoir, à l'échelle de chaque profil individuel, qui a liké, commenté, approuvé ou désapprouvé tout ou partie des revendications, et de le faire revendication par revendication, profil par profil, avec un niveau de granularité très fin. Non seulement c'est très facile mais en plus c'est la base de son modèle économique, de son architecture technique, et de ses récents et récurrents ennuis … (…) quelle que soit l'issue du mouvement des Gilets Jaunes et indépendamment de sa temporalité propre, il est absolument évident que les prochaines élections en France vont se jouer sur la cinquantaine de thèmes qui sont présentés ici. En commençant par ceux liés au pouvoir d'achat. Quelle que soit l'issue du mouvement, la base de donnée "opinion" qui restera aux mains de Facebook est une bombe démocratique à retardement … Et nous n'avons à ce jour absolument aucune garantie qu'elle ne soit pas vendue à la découpe au(x) plus offrant(s). "
En France, cette bombe à retardement n'a pas encore explosé. Nous en saurons davantage dans 3 mois.
On a donc beaucoup mis en avant (et on a eu raison) les problèmes "techniques" de l'application Elyze. Mais ces problèmes techniques sont tous corrigés depuis le passage du code de l'application en Open Source. L'occasion de rappeler ici la part essentielle – en plus de l'Open Source – d'une ingénierie sociale collective autour de ces applications et algorithmes à impact ou enjeu politique (ce qu'on est par exemple toujours incapable de faire pour ParcourSup …). Les problèmes techniques étant corrigés ou explicités, le problème majeur d'Elyze reste celui de sa gouvernance (un seul homme) et de son (insondable) intentionnalité.
Pardon de ressasser et de ressasser encore, mais la seule et unique question à se poser n'est pas celle du code (qui doit être en Open Source ceci dit) mais celle des valeurs que ce code véhicule et qui dépendent … des gens qui créent ce code et développent ces applications. Lawrence Lessig. Corde Is Law. Janvier 2000.
Applications privées et politiques publiques.
L'autre problème majeur, indépendant d'Elyze mais que cette application permet de révéler et de documenter davantage, c'est la construction de ces bases de données d'opinions, toujours plus fines, toujours plus statistiquement importantes, et toujours plus concurrentielles avec les "classiques" instituts de sondage sur le marché de la prédictibilité de l'offre électorale attentionnelle.
De Facebook à Elyze, des Gilets Jaunes à la crise sanitaire (et aux mouvements pros ou anti qui la traversent), c'est désormais individuellement et rarement anonymement que nos opinions sont enregistrées, engrammées, corrélées, au sein d'environnement techniques sur et dans lesquels la puissance publique, les instances de régulation (comme la CNIL) , et les citoyens ont de moins en moins de leviers et de moyens "d'auditabilité".
En parallèle de cette privatisation plus qu'inquiétante dans le champ démocratique, on a pu documenter l'effet inverse que produit la possibilité de lancer des applications alimentées par des données publiques, mais aussi la bataille de chaque instant qu'il faut livrer pour disposer de ces données publiques y compris lorsque l'on est comme Guillaume Rozier, le chevalier Scraper et sans reproches.
Là où Elyze a été conçue pour collecter et agréger des opinions privées échappant au regard de la puissance publique et donc fragilisant – au moins potentiellement – sa gouvernance, Covid Tracker a été conçu pour mettre publiquement des données publiques à disposition des personnes privées et faire en sorte qu'elles puissent disposer de données "éclairées" et collectives sur les choix de gouvernance (de la puissance publique). Il s'agit là des deux modèles entre lesquels le devenir politique de la gouvernance numérique aura à choisir.
D'un côté une forme d'aliénation certes ludique mais singulière et au mieux ambigüe dans la disponibilité qui sera accordée (maintenant ou plus tard) aux données privées collectées et agrégées ; de l'autre une capacité d'émancipation collective mais qui n'a de sens que par la disponibilité de données publiques de confiance.
Plus nous avancerons dans le temps, et plus les applications "d'opinion" sur le modèle d'Elyze se multiplieront. Simplement parce que nous sommes aujourd'hui dans des sociétés où l'essentiel de ce qui s'exprime est collecté et engrammé par défaut, puisque nous exprimons essentiellement nos opinions sur des applications et dans des plateformes conçues pour collecter et engrammer tout ce qui s'y dit et s'y échange.
Il est donc d'autant plus urgent de continuer à disposer d'outils législatifs contraignants et de confier aux tiers régulateurs (comme la CNIL) de réel pouvoirs de sanction, et d'imposer, y compris de manière contraignante, les modèles de l'Open Source et de la transparence totale dans la conception et le déploiement de telles applications et plateformes. Et de rappeler qu'il existe déjà des possibilités de construire des technologies qui sont démocratiquement détenues et contrôlées, ce qu'explique et qu'illustre très bien Francesca Bria (tout comme sur un même plan mais dans un autre registre, Julia Cage explique très bien qu'il existe des moyens de disposer d'une presse libre, démocratiquement contrôlée et financée).
La politique désincarnée.
Le monde politique qui s'annonce se prépare à son prochain grand bouleversement. D'abord il a investi un nouvel espace public en clair-obscur (celui des réseaux sociaux) pour y faire simplement campagne. Ensuite il a basculé dans des obscurités inédites du point de vue de leur densité réticulaire et de leur massification (le Dark Social et le rôle des messageries privées dans les élections) : la viralité de la conviction s'est alors transformée en viralité de l'influence. Puis il a aussi exploité toutes les stratégies "infra" attentionnelles permises par ces nouveaux espaces en clair-obscur (Dark Posts et publicités plus que ciblées sur Facebook lors de la campagne de Trump ou de Bolsonaro ou de Narendra Modi).
Désormais il s'agit de franchir un pas supplémentaire. Après avoir, souvent avec succès, tenté de constamment désinformer la politique (par l'instrumentalisation des Fake News), il s'agit aujourd'hui de désincarner la politique. Nos rapports sociaux (et politiques) sont toujours médiés par des tiers que l'on dit de confiance. Partis politiques, syndicats, organisations professionnelles. Or pour plein de raisons, tout ce monde là est soit mort soit bien plus que moribond. C'est cette place vacante qu'Elyze ou que des plateformes comme Nation Builder viennent occuper. Une infrastructure attentionnelle plutôt qu'une dynamique relationnelle.
"Les jeunes" ne vont pas, ne vont plus voter, mais "les jeunes" téléchargent en masse l'application Elyze. "Les jeunes" ne vont plus voter mais (une partie) des "jeunes" s'inscrivent dans des initiatives comme celle de la primaire populaire. Cette dernière assertion est d'ailleurs plus que délicate à documenter au regard, justement, de l'opacité qui plane sur les 326 000 inscrits à cette primaire populaire : qui sont-ils, comment cette base de donnée est-elle gérée le temps de l'élection et surtout … qu'adviendra-t-il de celle-ci après l'élection ? Et ce bien au-delà de l'ensemble des autres problèmes que pose cette primaire dite populaire et qui n'est désormais explicitement rien d'autre qu'une machine bourgeoise à droitiser la gauche.
On a donc d'un côté une désaffection politique et de l'autre une multiplication des affects en politique. Il n'est pas interdit de penser que ces deux phénomènes soient corrélés.
En tout cas cette dissonance cognitive à l'échelle sociétale fait le lit de toutes les volatilités et indécisions électorales, alimentant elles-mêmes structurellement tous les extrémismes et tous les populismes.
Le vote comme récompense aléatoire.
La boîte de Skinner et le modèle comportemental de récompense aléatoire est en train de s'imposer comme une nouvelle modalité de l'expression politique, à la fois dans sa dimension instrumentale singulière (lorsque l'on nous demande de "Swiper") mais aussi dans sa dimension expressive collective (lorsque l'on nous demande de voter).
Cela accrédite et légitime l'idée que le processus intime de détermination du vote relève d'une forme d'aléatoire statistique dont nous acceptons de déléguer la responsabilité à des systèmes techniques dont nous ignorons tout des finalités. Cela nous habitue à cette idée. Ce qui ne nous prépare que mieux à l'acceptation de systèmes techniques où ce ne sera plus simplement "l'intention de vote" qui sera techniquement médiée, mais le vote lui-même (avec le pire cauchemar de toute démocratie digne de ce nom : le vote électronique).
Cela entérine aussi le fait que le vote puisse être prescrit comme un baril de lessive ou un paquet de pâtes. Il n'est qu'un segment de consommation de plus.
Qu'importe le résultat, pourvu que ce soit n'importe quoi.
On savait déjà que le processus individuel de vote était multifactoriel, on savait qu'il se faisait pour une grande part du corps électoral se déplaçant, de plus en plus au dernier moment. On découvre avec Elyze qu'il peut être réduit à un modèle de récompense aléatoire. Et que ce modèle prépare vraisemblablement des lendemains assez sombres. A fortiori dans un monde (le même) où "les algorithmes" penchent déjà (très) à droite.
Swing States … of Mind.
Pourquoi assez sombres ? Et bien parce qu'à l'image du titre de cet article, "des Swing States à la Swipe politique", le vote de ces Swing States aux USA est celui qui donne lieu au maximum de campagnes crapuleuses dans lesquelles il n'est d'objectif que de flatter les instincts les plus primaires et grégaires y compris au détriment de toute forme de cohérence du projet politique que l'on porte.
Aujourd'hui, souvent en s'en félicitant discrètement et toujours en s'en désolant publiquement, c'est le champ politique tout entier qui bascule et qui prend conscience que ce que l'on nomme "l'opinion" est en train de se défaire socialement pour se transformer en un gigantesque "Swing States of Mind". Un "Swing States of Mind" instrumental où chacun peut à tout moment changer en fonction de la capacité que l'on aura à lui promettre individuellement ce qui le flattera le plus, et le plus immédiatement, et le plus au dernier moment du vote. Alors les "promesses" qui étaient une composante importante de la narration politique, mais demeuraient toujours des promesses "collectives" (pour la nation, pour les corporations ou pour des milieux socio-économiques), ces "promesses" se fragmentent, s'atomisent et se singularisent.
L'avènement, s'il advient, d'une Swipe politique dans laquelle chaque citoyen devient un "Swing State of Mind" mathématisable et donc prédictible (ce qui est différent de "prévisible") c'est le risque de n'avoir plus que des promesses individuelles et circonstancielles comme facteur déclenchant du vote ou de l'intention de vote. Et c'est également le risque déjà documenté que les mieux à même d'être les prescripteurs efficaces de ces promesses singulières soient les firmes dont le seul projet politique est un intérêt économique.
Elyze c'est le désir de la récompense aléatoire appliqué au champ politique. Or le vote n'est pas le résultat d'un balayage aléatoire d'arguments politiques tous mis sur le même plan et anonymisés de la même manière que l'on procèderait à des tests à l'aveugle pour vanter les mérites d'une marque de lessive par rapport à une autre.
Et si Elyze singe à ce point les modalités d'applications de sites de rencontre, les usagers actifs de ces sites là vous le confirmeront : l'attrait du défilement infini des profils l'emporte bien souvent sur le désir et surtout sur le risque de la rencontre. Il est donc assez improbable qu'Elyze incite à aller voter ou même à s'intéresser aux enjeux politiques. Mais il est tout à fait possible qu'elle soit au contraire un nouveau coup de balai pour certaines formes résiduelles d'engagement, de militantisme, et de mobilisation lors d'échéances électorales.
A regarder le geste, il n'est pas de grande différence sinon de vitesse et d'intensité, entre le balayage d'un "swipe" et l'administration d'un soufflet, d'une gifle, d'une claque. "Swipe" signifie d'ailleurs tout autant "glisser" que "porter un coup violent".
Préservons la démocratie de ces glissements autant que de ces frappes.
