Guerre psychologique et fuite de données : ne nous Trumpons pas de cible.

Je republie ici pour archivage une version complète de la tribune publiée Vendredi par Libé sous le titre : "Le scandale Facebook pose avant tout une question politique." Mais juste avant, un petit Bonus Track.

=B=O=N=U=S====T=R=A=C=K=

La première fois que je vous ai parlé de Cambridge Analytica sur ce blog, c'était il y a un an, en Mars 2017. Et j'écrivais ceci, qui est malheureusement toujours d'actualité : 

"Nous savions déjà que l'homme était un document comme les autres. Nous nous alarmions du fait que certains tentent de définir l'humanité à l'aune de sa capacité à être documentée en y distinguant comme dans un nouveau fascisme, les surhommes sur-documentés et les sous-hommes sans documents, les "Undocumented Men".

(…) Si vous êtes à la recherche du cauchemar totalitaire des prochaines années, alors imaginez ce que donneront ces techniques de "bio-psycho-social profiling" une fois qu'elles seront totalement couplées aux NBIC, les "Nano-Bio-Info-Cogno technologies". Des tonnes de données, de métriques, comportementales, commerciales, géographiques, "émotionnelles" … Des Pétabytes de corrélations. Et la capacité d'analyse en temps-réel, capacité déléguée à une "intelligence artificielle" c'est à dire à une machine à calculer. Une machine à calculer et à produire de la propagande sur-mesure. Capitalisme de la surveillance et dictature documentaire sont les deux faces d'une même médaille à côté de laquelle le monde décrit par Orwell aura rétrospectivement l'air d'une démocratie participative."

=B=O=N=U=S====T=R=A=C=K=

D'abord il y a l'évidence. A l'évidence quiconque peut disposer d'une partie substantielle et suffisamment ciblée des données collectées et agrégées par Facebook dispose d'un outil d'influence absolument redoutable et tout à fait inédit à l'échelle de l'histoire de l'humanité et de la manipulation de l'opinion. Quantitativement et qualitativement, jamais aucun média n'avait été en capacité de disposer d'autant de données privées et intimes sur autant de personnes en temps réel et à flux constant (plus de 2 milliards d'utilisateurs). "Une version post-moderne de la Stasi" pour reprendre la formule de Julian Assange. Mais en pire. 

Ceci étant posé en préalable, toute agence de "Relations Publiques" (RP) comme elles se nomment par euphémisme et antiphrase puisqu'il s'agit surtout d'entretenir des connivences privées y compris par les plus vieux moyens du monde (prostitution), toute agence de RP donc, Cambridge Analytica compris, aura une tendance naturelle à surestimer auprès de ses clients et des médias le pouvoir réel dont elle prétend pouvoir disposer pour façonner l'opinion. Au regard de ce que sont ses clients et ses intérêts, cette affaire est cyniquement une extraordinaire publicité pour Cambridge Analytica.

Dessin de Joep Bertrams.

Mais attention à ne pas rater l'essentiel des enjeux de cette affaire. Certes la collecte de données est massive. Certes le mode opératoire de la collecte est suspect (au travers d'applications tierces notamment). Certes les soupçons de collusion entre Facebook et Cambridge Analytica méritent d'être explorés par la justice. Certes le laisser-faire de Facebook confine à l'incurie chronique dans cette affaire. Mais n'allons pas pour autant imaginer que l'élection de Trump s'est joué uniquement sur de l'analyse de données et du profilage marketing, même parfaitement ciblé, même à cette échelle. 

D'autant que rien n'est vraiment nouveau. Un porte-parole de la campagne d'Obama indique que lui aussi a naturellement travaillé avec Facebook** pour avoir accès aux données personnelles d'utilisateurs d'obédience plutôt démocrate. C'est un fait : tous les candidats de toutes les élections de tous les pays travaillent et travailleront toujours avec toutes les entreprises et médias susceptibles de leur apporter des infos en termes d'analyse de l'opinion et accessoirement leur promettant d'être en capacité d'exercer des actions d'influence. 

Mais pour le reste, choisir pour qui nous allons voter est – heureusement – un processus décisionnel largement multi-factoriel qu'aucune martingale algorithmique ne peut prétendre modéliser de manière fiable, fut-elle gavée d'une immensité de données qualifiées. Et à ce titre l'élection de Trump en est d'ailleurs la preuve éclatante. Facebook et Cambridge Analytica ont certainement une part de responsabilité dans cette élection mais ils n'ont à eux seuls pas "fait l'élection". Loin s'en faut.

Au-delà des agences de comm ou de RP, la première question qu'il me semble essentiel de retenir de toute cette affaire c'est celle de savoir comment garantir que "l'executive board" de Facebook lui-même ne cède pas à la tentation d'exploiter l'immensité des données dont il dispose pour mener une campagne d'influence sur des sujets politiques ou sociétaux. D'autant que l'on sait qu'une place était réservée pour Zuckerberg dans l'équipe Clinton si celle-ci avait remporté l'élection. Et sans pour autant avoir besoin de fantasmer sur les intentions présidentielles de Mark Zuckerberg, il est au moins acquis et avéré qu'à l'échelle qu'atteint aujourd'hui Facebook, il ne peut pas, il ne peut plus faire l'économie d'un projet politique.

L'autre question liée est celle de l'intentionnalité de la collecte et de l'usage qui est fait de ces immenses volumes de données. L'un des ingénieurs en intelligence artificielle chez Google, François Chollet, a, certes peut-être très opportunément mais de mon point de vue très justement indiqué quel était l'enjeu principal de cette intentionnalité en déclarant sur son compte Twitter (je souligne) : 

"Le problème avec Facebook n'est pas "uniquement" la question de la privacy et le fait qu'il puisse être utilisé comme un panoptique totalitaire. L'aspect le plus inquiétant à mon avis est son utilisation de notre consommation d'information comme un outil de contrôle psychologique ("The more worrying issue, in my opinion, is its use of digital information consumption as a psychological control vector"). (…) En bref, Facebook est en capacité de simultanément prendre la mesure de tout ce qui nous touche et nous concerne, et de contrôler l'information que nous consommons. Quand vous avez à la fois accès à ces dimensions de perception et d'action, vous faites face à une situation classique en Intelligence Artificielle. Vous pouvez établir une boucle logique optimisée pour le comportement humain. (…) Une boucle dans laquelle vous observez l'état actuel de vos cibles et déterminez l'information avec laquelle il est nécessaire de les alimenter, jusqu'à ce que vous observiez les opinions et les comportements que vous voulez obtenir. Une bonne partie du champ de recherche en Intelligence Artificielle (particulièrement celle dans laquelle Facebook investit massivement) concerne le développement d'algorithmes capables de résoudre de tels problèmes d'optimisation, de la manière la plus efficace possible, pour pouvoir clore la boucle et disposer d'un niveau de contrôle total sur le phénomène." 

Et la dernière question est celle de savoir si cette énième affaire, s'ajoutant à la liste déjà longue des casseroles qui collent à l'image de la plateforme sociale, aura ou non une incidence sur le comportement des usagers, sur nos comportements. Un article du New-York Times indiquait que Zuckerberg aurait été averti de l'essentiel des révélations qui allaient être faites quinze jours avant leur sortie, et qu'il aurait sous-estimé le tollé que cela allait susciter. Il est plutôt probable que Zuckerberg ait vu dans cette affaire l'occasion d'un crash test bienvenu : voir jusqu'où les utilisateurs sont prêts à tolérer que la plateforme continue de faire et de laisser-faire absolument n'importe quoi avec leurs données, voir jusqu'où l'idée que Facebook soit reconnu comme un formidable média de manipulation de masse n'empêche en rien d'en avoir un usage trivial nous servant simultanément d'exutoire, de service de mise en relation et un peu aussi de source d'information.  

Croire que cette affaire sera un éclair de lucidité dans l'opinion et permettra une prise de conscience accrue des enjeux posés par une plateforme privée rassemblant deux milliards d'utilisateurs sur un modèle économique de régie publicitaire est une chose. Imaginer que cela impactera les comportements de ces mêmes utilisateurs en est une autre. Ceux qui le pensent font la même erreur que ceux qui pensaient que Trump n'avait objectivement absolument aucune chance de l'emporter tant l'énormité de ses prises de parole ou ses positions était une caricature de caricature.  

Par l'architecture de panoptique sur laquelle il repose, Facebook ne peut de toute façon pas être autre chose qu'un instrument de surveillance. L'utiliser comme tel n'est ni "bon" ni "mauvais" mais juste "logique et cohérent". La routine. Et ses deux milliards d'utilisateurs n'ont pas besoin d'une quelconque perversité pour se mettre à se surveiller les uns les autres dès lors qu'ils sont installés dans cette architecture panoptique. Fenêtre sur cour. La fonction crée l'organe et l'architecture crée la perversité des régimes de sur- ou de sous-veillance. N'espérons donc pas davantage un changement de mentalité, de moralité ou un exode des utilisateurs à la faveur des révélations de ce nouveau scandale ; "révélations" qui ne sont en fait que la répétition et l'incarnation de la fonction panoptique de la plateforme. Et n'espérons pas davantage que les excuses de Zuckerberg changeront quoi que ce soit. Sans changement d'architecture et sans changement de modèle économique, rien ne pourra changer dans les logiques d'usage que la plateforme autorise.

Entre responsabilité effective et influence relative dans l'élection américaine, et qu'il s'agisse de Facebook ou de Cambridge Analytica, il ne faut pas que nous nous trompions de cible en combattant les symptômes plutôt que le mal. La solution pour empêcher l'accession au pouvoir de personnalités névrotiques ou simplement avides de leur propre suffisance ne se trouve pas dans la régulation de Facebook ou dans l'abolition de son modèle publicitaire mais dans le seul champ de l'action publique. Dans le champ du Politique dont Facebook n'est que le reflet le plus souvent hors-cadre.

C'est sur l'incurie de l'action politique et sur la perte de sens de la parole politique que se fabrique et s'entretient le modèle d'affaire des agences de RP comme Cambridge Analytica. "Building a community" comme ne cesse de le répéter Zuckerberg, n'est rien d'autre qu'un slogan marketing totalement creux. La seule chose que Facebook ait jamais permis de construire c'est une architecture de la surveillance dans laquelle Mark Zuckerberg a constitué une audience dont viennent se repaître annonceurs et agences de RP. Et la seule communauté qui vaille est celle des intérêts financiers de la firme.

Facebook n'est que le reflet du naufrage de la publicitarisation de l'action publique et de la parole politique. De la société du spectacle de Debord, décidément visionnaire à plus d'un titre. Mais plus qu'un reflet Facebook est aussi un miroir. Le miroir qui nous est tendu de l'Hiroshima démocratique qui nous attend collectivement si nous n'arrivons pas à redresser la barre. Car quand Facebook ou Zuckerberg se mettront vraiment à faire de la politique, alors il sera en effet trop tard.

——————–

** Dans le cadre de la campagne d'Obama les choses étaient tout de même différentes puisque la captation des données était explicite, via une application clairement dédiée que les utilisateurs installaient donc en toute connaissance de cause, même s'il a été ensuite établi que les données rapatriées n'étaient pas uniquement celles de l'utilisateur mais également de son graphe d'amis, amis qui, eux, n'avaient rien demandé. 

 

==========================================

Quelques articles qui ont le mérite d'être clairs, synthétiques et/ou essentiels de mon point de vue sur les enjeux de cette affaire : 

Les rapides mais pratiques : 

Siècle Digital : "Tout comprendre sur la plus grande crise de l'histoire de Facebook". Si vous sortez de votre grotte et découvrez l'affaire, tout y est. 

L'an 2000 : "Merci Donald tu vas nous laisser un internet meilleur". Papier très malin de Vincent Glad (même si je suis moins enthousiaste que lui).

Tristan Nitot qui rappelle que la première faute de Facebook est d'avoir, en toute connaissance de cause, "laissé faire". 

Et les TO-TA-LE-MENT in-con-tour-na-bles.

Zeynep Tufekci, bien sûr : "Facebook's Surveillance Machine" dans le NYTimes.

"A business model based on vast data surveillance and charging clients to opaquely target users based on this kind of extensive profiling will inevitably be misused. The real problem is that billions of dollars are being made at the expense of the health of our public sphere and our politics, and crucial decisions are being made unilaterally, and without recourse or accountability."

Et ne manquez sous aucun prétexte l'interview lumineuse d'Antoinette Rouvroy : "A mon sens, Zuckerberg est dépassé." vraiment si vous ne devez lire qu'un seul article sur cette affaire, c'est celui-ci. Vraiment.

"ce scandale est surtout le signe de l’échec de l’autorégulation des grandes plateformes comme Facebook ainsi que le résultat d’un manque d’éthique dans le domaine de la recherche. (…) 

L’infrastructure code les usages. Il ne sert donc à rien de "responsabiliser" les utilisateurs. (…) 

L’autre problème, c’est qu’on a l’impression de participer à une communauté alors qu’en réalité, il n’y a pas d’échange. Tout le monde est seul devant son écran. Facebook n’est pas un espace public. On assiste à une hypertrophie de la sphère privée qui se caractérise paradoxalement par une dépersonnalisation. (…)

Un citoyen devient un consommateur. Cambridge Analytica peut voir ce dont j’ai peur et ainsi développer chez moi une réponse réflexe. Le but est de contourner la capacité des personnes à réfléchir. Le calcul remplace le processus de sens et de jugement. La politique devient un espace de pure spéculation et plus un espace de négociation. On se contente d’actualiser ce qui existe comme potentialité. C’est pourquoi un algorithme ne décrit rien. Il produit un état de fait. L’état de fait devient la norme. (…)

C’est une pathologie de la norme. Il n’y a plus rien à représenter, plus de distance critique, tout est dans les données. La norme ne préside plus la récolte des données, elle émane des données et de leur traitement. (…)

Le droit doit garantir la possibilité d’une désobéissance. Il faut fermer les portes des facultés de droit aux géants du web et sauvegarder le rapport au savoir et à la vérité qui est propre à l’université. (…)

Le réel se gouverne lui-même: le néolibéralisme n’aurait pas pu rêver mieux. Ce sont les moins nantis qui vont être le plus touchés, car on ne présuppose plus que les individus soient capables de faire des choix. On va exacerber leurs peurs pour générer des réflexes. Ceux qui n’ont pas accès à un bon niveau d’éducation, ceux qui n’ont pas d’opinions, ceux qui vivent au jour le jour seront très vulnérables. Il n’y aura plus de concurrence possible avec des gens "augmentés". La réalité virtuelle sera faite pour les plus pauvres afin d’éviter les révoltes. C’est le vieux système de la manipulation des masses qui va ressurgir, mais avec des outils inédits."

Derrière tout cela, il y a surtout l'urgence d'évoluer vers un droit social des données et une reconnaissance du Digital Labor pour éviter que ce genre de scandale ne puisse se reproduire. Merci à Lionel Maurel de le rappeler et de faire le job, une fois de plus. 

Et pour le fun, Tim Berners-Lee, 62 ans, qui fait un petit Tuto Privacy à Mark Zuckerberg, 33 ans. Magique.