Mourir pour des CGU.
Le 3 avril 2018 à San Francisco, une femme ouvrait le feu devant les locaux de YouTube. Motif ? Elle accusait la firme de censure et lui reprochait de démonétiser ses vidéos. Comme tant d'autres depuis déjà de longs mois. Fort heureusement une nouvelle tuerie de masse a été évitée. Et cette femme, Nasim Najafi Aghdam, semblait fortement déséquilibrée psychologiquement. Il n'en reste pas moins que le 3 avril 2018 à San Francisco on a tué pour des CGU et de l'audience.
Le premier homicide commis par un automate.
Le 18 mars 2018 à Tempe, En Arizona, Elaine Herzberg est morte. Elle traversait la route avec son vélo. C'est la première femme tuée par une voiture autonome. C'était la nuit et il y avait pourtant quelqu'un assis au volant de la voiture autonome mais qui, au moment du choc, était occupé à scruter son téléphone plutôt que d'être attentif à la conduite et de pouvoir reprendre la main en urgence. Certes. Il n'empêche qu'en dehors des théâtres de guerre et à l'exception notable des accidents de travail dans des usines automatisées, il n'empêche que le 18 mars 2018 à Tempe en Arizona c'est la première fois qu'un robot, qu'un programme, qu'un automate, tue un être humain qui s'appelait Elaine Herzberg. Un accident où il n'y avait que deux personnes sur cette route la nuit, et où pourtant ils étaient trois. Le premier accident impliquant deux personnes et un automate. Un automate et deux femmes, sur lesquelles Thierry Crouzet a écrit un texte absolument magnifique.
Et puis il y a le reste. Tout le reste.
Il y a Google. Et ces milliers d'employés qui font circuler une pétition pour demander à ce que leur employeur se retire du projet militaire "Maven" et du "business de la guerre" en général. Ils demandent cela suite aux révélations qui ont permis de comprendre que lorsque nous pensions cliquer sur d'innocentes Captchas pour accéder à un service nous entraînions (aussi) des intelligences artificielles utilisées ensuite pour des programmes militaires sur des théâtres de guerre.
Il y a Facebook. Qui en plus de faire face à d'incessantes révélations sur des fuites de données de plus en plus massives est désormais accusé par des experts des Nations Unies d'avoir été un élément central dans la diffusion de la propagande génocidaire contre les Rohingya en Birmanie. Il y a 4 ans de cela Zeynep Tufekci pouvait encore expliquer brillamment comment Facebook avait facilité l'organisation des révolutions sociales mais en avait compromis la victoire. Depuis quatre ans au moins deux choses ont changé : d'abord, à l'échelle de groupes entiers de populations, il semble que le potentiel de nuisance de la grande plateforme bleue l'emporte désormais sans mesure sur sa capacité d'émancipation ou de simple facilitation sociale inter-individuelle ; et ensuite il apparaît évident que même sa capacité à simplement nous distraire ou à nous faire passer le temps doit être questionnée à l'aune du changement précédent.
Il y a une forme de vertige et de folie à lire chaque jour un nouvel article sur ces nouvelles fuites de données, des grandes plateformes aux petites applications, des adultes aux enfants : GrindR hier qui "partage" les données sur le statut sérologique de ses utilisateurs, YouTube et Google qui ciblent les enfants, et ainsi de suite. Voilà pour le business. Quant à ce qui est des Leaks ou des piratages, ils forment les deux derniers tableaux de ce triptyque de la Datapocalypse en cours.
Il y a une forme de vertige et de folie à voir que c'est Zuckerberg lui-même qui annonce que sa "top-priorité" pour 2018 est de chercher à s'assurer qu'il n'interférera pas avec les élections qui s'annoncent aux Etats-Unis mais également au Mexique, un Inde, au Pakistan …
"With important elections coming up in the US, Mexico, Brazil, India, Pakistan and more countries in the next year, one of my top priorities for 2018 is making sure we support positive discourse and prevent interference in these elections."
Après le déjà classique "SEME" (Search Engine Manipulation Effect) nous voilà face à des formes aussi inédites que difficilement quantifiables de "SNME"( Social Network Manipulation Effect). SNME Face auquel on ne pourra qu'être circonspect et prudent devant les dernières annonces du Zuckerberg, dont celle de constituer un comité de chercheurs indépendants (mais validés par Facebook) qui pourront avoir accès aux "ressources" de Facebook pour mener différentes études permettant de détecter et d'atténuer les biais lors d'élections.
Le vrai scandale n'est pas celui de la captation de nos données personnelles. Inutile de s'interroger sur le nombre d'individus ainsi scrutés et volés : il est exactement équivalent au nombre d'utilisateurs enregistrés sur ces plateformes. Le vrai scandale n'est pas non plus qu'un média soit en mesure d'influencer l'opinion.
Depuis leurs illisibles CGU jusqu'au ciblage comportemental en passant par les stratégies de persuasion technologiques en charge de maintenir notre attention et notre aliénation constantes, le vrai scandale est celui de l'intentionnalité cachée et perverse qui fait désormais de ces plateformes d'authentiques menaces pour les démocraties. Or si cette intentionnalité peut, à la marge, être cadrée par différentes formes de régulation, elle a d'abord partie liée avec le modèle économique de régie publicitaire de ces plateformes. Tant que ce modèle perdurera, aucune loi, aucun état et aucune forme de régulation ne sera réellement efficace. Car face à la régulation, dont celle permise et promise par le RGDP (nous y reviendrons), se dresse assez classiquement l'autre modèle : celui de la spéculation.
Régulation et spéculation sont dans une plateforme.
La spéculation désigne étymologiquement un lieu d'observation ("speculatio"). Facebook plus que tout autre plateforme incarne jusqu'à sa propre caricature ce lieu d'observation, ce lieu dans lequel c'est l'observation de tout le monde par chacun et réciproquement, cette fission de la surveillance et de la sous-veillance qui permet aux logiques économiques spéculatives de conditionner la totalité des modalités relationnelles intersubjectives qui s'y déploient.
Il est peut-être encore possible de réguler (par la loi) un certain nombre de "fonctions" de la plateforme. Mais pour parvenir à une régulation efficace il faut d'abord comprendre que la nature de Facebook est intrinsèquement spéculative. Et que Facebook ne changera jamais de nature. Jamais. Il ira au bout de la logique spéculative qui le fonde, même au prix de son effondrement marchand ou de sa dissolution sociétale.
Le monde se divise en deux catégories. Ceux qui renoncent à toute vie privée en échange de services gratuits. Et ceux qui paient.
A moins bien sûr … qu'il ne parvienne à nous faire (r)acheter au prix fort les promesses de privacy dont son modèle de gratuité nous avait privés et dont il avait organisé la spoliation à l'échelle industrielle. Vincent Glad, en reprenant l'expression d'Ethan Zuckerman, a raison de rappeler que l'affaire Cambridge Analytica est avant tout celle du "pêché originel de l'internet" : le pêché de la gratuité financée par la publicité et le ciblage comportemental.
Et si cette succession d'affaires sonnait finalement le glas du modèle gratuit à l'échelle de Facebook et donc de ce qu'est devenu internet ? Et si dans un opportunisme cynique Zuckerberg en profitait pour nous amener là où il n'avait jamais osé jusqu'ici nous conduire ? Et si nous étions désormais prêts à payer pour notre vie privée et qu'il le savait puisqu'il avait tout fait pour nous démontrer la nocivité d'un modèle gratuit à l'échelle de sa plateforme ?
Pay for Privacy ?
Pure hypothèse ? Jamais de la vie ? Peut-être. Ou peut-être pas. Dans un récent entretien au New-York Post, Sheryl Sandberg, numéro 2 de Facebook a fait deux déclarations majeures. D'abord elle a indiqué que de toute évidence, d'autres révélations allaient suivre l'affaire Cambridge Analytica, et que l'ampleur des données ainsi collectées et le nombre de comptes concernés allait exploser. Carrément.
"Et n'imaginez pas que cela soit le dernier scandale de l'entreprise sur la question de la privacy. Je ne vais pas m'asseoir ici et vous dire que nous n'en trouverons pas davantage, parce que nous en trouverons davantage."
Et juste avant cela elle avait précisé ceci :
"We have different forms of opt-out. We don’t have an opt-out at the highest level. (…) That would be a paid product."
Cette stratégie, si elle se met en place, pourrait aussi permettre à Zuckerberg de regagner par ce biais ce que l'application du RGPD pourrait lui faire perdre en termes de cash.
Ou pas …
Le célèbre frontispice "C'est gratuit (et ça le restera toujours)" n'a, je pense, jamais été aussi près de voler en éclats. D'abord à cause des différents scandales qui frappent la plateforme, mais aussi par la promesse de l'application du RGPD. Un RGPD qui sera – pas le choix – appliqué à l'échelle européenne mais bien sûr "adapté" (traduisez : non appliqué) dans les autres régions où la plateforme est présente.
Avec toujours les mêmes excuses depuis déjà 14 ans, et ce récent chef d'oeuvre de langue de bois et de foutage de gueule :
"Lorsqu’il s’est exprimé sur le sujet pour la seconde fois, Mark Zuckerberg a ainsi déclaré : « Dans l’ensemble, je pense que les règlements comme celui-ci sont très positifs […] Nous avons l’intention de rendre les mêmes contrôles disponibles partout, pas seulement en Europe ». Néanmoins, il indique également que le format ne sera pas « exactement » similaire à la RGPD européenne : « Nous devrons trouver ce qui a du sens dans différents marchés, avec des lois différentes dans différents endroits. Mais permettez-moi de le répéter, nous allons rendre tous les mêmes contrôles et réglages disponibles partout, pas seulement en Europe ».
Quand le chef du grand bateau bleu commence à t'expliquer qu'il va chercher une manière de "trouver ce qui a du sens dans différents marchés" dans le cadre de l'application d'un règlement européen, tu es en droit de subodorer qu'il ne va pas y mettre que de la bonne volonté pour y parvenir.
Facebook est gratuit et, s'il ne disparaît pas, il le restera probablement toujours. Mais il pourra aussi, c'est en tout cas mon hypothèse, proposer un certain nombre de fonctionnalités payantes permettant de garantir le "plus haut niveau d'opt-out sur la privacy" dont parlait Sheryl Sandberg. Et si vous refusez toujours d'y croire, alors regardez du côté du YouTube. Et voyez rouge. Et préparez-vous au lancement, qui sait, d'un Facebook Blue ?
Dans le discours de son audition ce 10 avril devant le Congrès et la Chambre (disponible intégralement ici en version pdf), une audition déjà entachée de fortes suspicion de corruption avant même qu'elle ne se tienne, Zuckerberg a également indiqué ceci :
"I've directed our teams to invest so much in security — on top of the other investments we're making — that it will significantly impact our profitability going forward. (…) But I want to be clear about what our priority is : protecting our community is more important than maximizing our profits."
"Protéger notre communauté est plus important que de maximiser nos profits". Alors bien sûr on peut lui accorder le bénéfice du doute. Non je déconne. Enfin vous faites ce que vous voulez hein. Mais n'oubliez pas qu'en plus de ces "investissements massifs dans la sécurité" qui vont "impacter de manière significative la rentabilité" de l'entreprise, le minimum syndical des mesures déjà annoncées ainsi que l'application là encore minimale du RGPD va également concourir à "impacter de manière significative la rentabilité". Dans ce contexte, difficile d'imaginer un instant qu'un plan B n'est pas déjà à l'étude et qu'une sorte de modèle Freemium de la privacy n'y figure pas au moins comme une piste possible.
S'il est mis en place un jour, ce prix à payer sera celui que nous aurons été incapable de consacrer à la mise en place d'un droit social des données et à un service public des mêmes données dans lequel, comme le rappelle Morozov :
"au lieu de laisser Facebook nous faire payer ses services ou continuer à exploiter nos données à des fins publicitaires, il faut trouver un moyen pour que les entreprises de son acabit paient pour avoir accès à nos données, qui seraient considérées comme une propriété collective et non individuelle."
Convenez avec moi que ce serait ballot.
Juste avant le passage où il mentionne que la protection de "sa" communauté est plus important que la maximisation des profits de la plateforme, Zuckerberg écrit ceci :
"We now have about 15,000 people working on security and content review. We’ll have more than 20,000 by the end of this year."
Alors puisque Zeynep Tufekci a déjà parfaitement répondu à la question de savoir quelles seraient les questions que le Congrès devrait poser à Zuckerberg (en gros : "Aucune. Et que les avocats et les élus retournent bosser pour faire voter des lois permettant de contrôler et de limiter les logiques de surveillance dans l'économie numérique"), puisque Zeynep a déjà tout dit donc, j'ajouterai simplement qu'il est grand temps de réexpliquer à Zuckerberg le fonctionnement de sa plateforme. En effet ce ne sont pas 15 000 ou 20 000 personnes qui travaillent sur la validation des contenus qui y circulent mais … deux milliards d'utilisateurs. Ce qui est à la fois le principal problème et peut-être, j'y viens bientôt, la principale solution.
L'attention se vend mais la tranquillité s'achète.
Nous voilà donc, tous autant que nous sommes, désormais intranquilles.
Nous verrons si l'avenir me donne raison ou tort mais plus globalement et comme je l'écrivais déjà en 2013, le systématisme des technologies de traçage et de biométrie, tout autant que le capitalisme de la surveillance qui leur sert de cadre, rend presque impossible de ne pas imaginer qu'il faille désormais payer pour bénéficier d'un niveau de privacy simplement "correct" :
"(…) le passage à l'ère industrielle et grand public de la biométrie est tout sauf anecdotique. (…) Nombre d'analystes commencent à comprendre que, stratégiquement et commercialement, cette inclusion biométrique forcée (…), conjuguée à la fin de l'anonymat possible, va permettre d'enclencher la phase 2 de la rentabilisation de l'économie de l'attention : nous amener à accepter (et à souhaiter …) qu'il faille désormais payer pour un droit à la privauté, qu'il fasse mettre la main au portefeuille pour s'extraire, s'abstraire du panoptique marchand, littéralement s'en "dés-indexer" et retrouver un possible droit à la décontextualisation. Les grandes firmes ont depuis longtemps compris qu'il leur serait très compliqué de convaincre les usagers de payer pour des services ou des ressources jusqu'ici perçues comme légitimement gratuites. Compris également que la machine à cash de la publicité contextuelle n'était pas loin d'atteindre son optimum et devait être complétée par d'autres revenus à la courbe de croissance possiblement exponentielle. Comme la vente de l'accès s'épuise, on va donc vendre du retrait.
C'est la monétisation de l'opt-out. Du "pay per view" au "pay per out". (…) Vous n'étiez pas prêts et ne vouliez pas payer pour entrer dans le système ? Vous serez prêts à payer pour en sortir. On paie déjà pour "exclure" la publicité des offres de streaming musical. On paiera pour pouvoir s'extraire du vertige du panoptique, ou pour, plus vraissemblablement, que ceux-là mêmes qui nous emprisonnent, les attentionnés gardiens de notre attention, nous fassent miroiter l'espoir d'être les uniques possesseurs de la clé de notre cellule. Dès lors nous sentirons nous moins enfermés, moins cernés, moins coupables de le rester en sachant que nous le sommes. Pas dit pour autant que nous ayons l'occasion ou même l'envie de sortir de nos cellules."
De la tranquilité de l'âme.
L'esprit humain est actif et porté au mouvement : toute occasion de s'exciter et de se distraire lui fait plaisir, et plaît encore plus à tout esprit méchant, pour qui la variété des occupations est un frottement agréable. De ce travers naît un vice des plus odieux : la manie d'écouter tout ce qui se dit, la curiosité pour les secrets publics et privés, la connaissance d'une foule d'anecdotes qu'on ne peut sans péril ni rapporter ni entendre.
Évitons surtout les gens moroses qui se chagrinent de tout, et pour qui tout est un sujet de plainte. Quelque fidèle, quelque dévoué que soit un ami, un compagnon, toujours troublé, toujours gémissant, n'en est pas moins le plus grand ennemi de notre tranquillité.
Il est bon de se retirer souvent en soi-même ; la fréquentation des gens qui ne nous ressemblent pas trouble le calme de l'esprit, réveille les passions, et rouvre les plaies de notre âme, s'il y est encore quelques parties faibles et à peine cicatrisées. Il faut donc entremêler les deux choses, et chercher tour à tour la solitude et le monde. La solitude nous fera désirer la société, et le monde de revenir à nous-mêmes : l'une et l'autre se serviront de remède. La retraite adoucira notre misanthropie, et la société dissipera l'ennui de la solitude.
Les trois paragraphes précédents ne sont pas extraits d'un manuel de Digital Detox distribué dans la Silicon Valley mais de l'ouvrage de Sénèque daté du 1er siècle après JC : "De la tranquillité de l'âme". Le premier paragraphe renvoie à l'usage de Facebook comme arme de distraction massive. Le second à la manière dont la plateforme est capable d'instrumentaliser parfaitement nos émotions et nos "relations". Et le troisième enfin, renvoie à l'omni-connexion et à l'aspect semi-public et semi-privé de l'espace social que nous investissons au travers de l'usage de la plateforme. C'est autour de ces 3 aspects, ni plus ni moins, que s'est bâti le formidable succès de la plateforme et c'est également autour d'eux que se dessine aujourd'hui la crise majeure qu'elle traverse. On ne relit jamais assez Sénèque.
Au commencement était le bit.
Et moi en commençant ce billet je ne voulais vous parler que de ces deux jours et de ces deux femmes. Nasim Najafi Aghdam qui a ouvert le feu le 3 avril 2018 devant les locaux de YouTube pour une histoire de CGU, et Elaine Herzberg, tuée par une voiture autonome le 18 mars 2018 à Tempe en Arizona. Et puis je vous ai parlé d'autre chose, de données, de Facebook, de plateformes, de régulation, de spéculation et même de Sénèque.
Mais à chaque fois je n'ai parlé que de la même urgence et de la même évidence.
Car tout le monde savait depuis longtemps que les véhicules autonomes causeraient des pertes humaines. Qu'il y aurait un accident. Cet accident a eu lieu.
Car tout le monde pouvait se douter que "YouTube le grand radicaliseur" amènerait un jour quelqu'un à passer à l'acte. Ce passage à l'acte a eu lieu.
Et personne ne pouvait réellement ignorer l'ampleur du scandale absolu de la spoliation organisée de nos discours, de nos comportements et de nos habitudes numériques. Tout comme tout le monde sait que c'est l'ensemble des GAFAM qui va avoir à traiter cette question de la spoliation, et qu'ils n'ont pour l'instant à nous proposer que les modèles du Bunker et de la passoire, aussi toxiques l'un que l'autre. L'ampleur de ce scandale a désormais été révélée. Comme l'avait été hier grâce à Edward Snowden l'ampleur de la surveillance de masse.
D'utilisateur résident à citoyen résilient.
Les questions qui se posent sont donc les suivantes. Youtube et Google se relèveront-ils du premier meurtre commis au nom de leurs CGU ? Tesla et Elon Musk abandonneront-ils tout projet de voiture autonome après ce premier accident mortel ? Facebook et Zuckerberg pourront-ils se relever après le scandale Cambridge Analytica ? Tous autant qu'ils sont, du haut de leurs plateformes, auront-ils la capacité de résilience nécessaire ? La réponse à cette question est connue. Elle est inscrite en chacun de nous.
Parce que cette capacité de résilience, c'est nous.
Nous sommes et nous resterons la capacité de résilience de ces systèmes techniques. La seule. A nous d'en prendre pleinement conscience.
Invité d'Augustin Trappenard il y a quelques jours sur France Inter, Yasmina Khadra livrait un texte magnifique qui se terminait sur ces mots :
"Tournons le dos aux gourous de malheur, ne prêtons l'oreille qu'aux appels fraternels, n'élisons nos idoles que parmi ceux qui nous font rêver car ce qui nous émerveille nous grandit ; et sachons une fois pour toutes, que nous n'avons pour destin commun que la portée de nos choix."
J'espère qu'au sortir de son audition au Congrès, Mark Zuckerberg trouvera un peu de temps pour lire ou relire Sénèque et Yasmina Khadra, et que nous en ferons de même.
Et profitons-en au passage pour reprendre un peu de Lessig. Code is Law. Si le code c'est la loi et si l'on tue pour des GCU ou que les accidents algorithmiques se multiplient, alors c'est qu'il est temps de faire en sorte que le code … ne fasse plus jamais la loi.
