L'avez vous reçue ? Je parle de cette lettre. Dont 1,7 milliards d'individus furent destinataires. De la lettre que le 16 février 2017 Mark Zuckerberg a écrit. Une lettre est intitulée : "Construire une communauté globale."
Et elle s'ouvre sur une question :
"Sommes-nous en train de construire le monde auquel nous aspirons tous ?"
Si vous aviez encore des doutes sur les ambitions présidentielles de Mark Zuckerberg, ils devraient être définitivement levés lorsque vous aurez terminé la lecture de cette lettre. Il veut faire du monde un pantalon parfait. Son pantalon.
"Le progrès nécessite maintenant que l'humanité se rassemble non pas uniquement autour de villes ou de nations mais également en tant que communauté globale."
Deux paragraphes plus loin, Mark fait figurer le passage suivant en gras, pour mieux attirer notre attention dessus :
"Dans des temps comme ceux que nous traversons actuellement, la chose la plus importante que nous puissions faire chez Facebook, est de développer les infrastructures sociales qui donneront aux gens la capacité de construire une communauté globale qui fonctionne pour chacun d'entre nous."
Cinq point sont alors annoncés. Cette communauté devra être :
- "Supportive" : un "soutien" qui permettra d'endiguer le déclin des institutions existantes
- "Safe" : une "sécurité" face aux désastres du monde (allusion claire au Safety Check et autres boutons de prévention du suicide)
- "Informed" : une communauté "informée"
- "Civicaly-engaged" : une communauté qui mettra en avant le "civisme" pour faire face à l'abstention massive lors de scrutins démocratiques
- "Inclusive" : une communauté "inclusive" portée par des valeurs collectives et communes
Chacun de ces points sera ensuite développé dans un long paragraphe de la même lettre. En voici l'essentiel.
1. Concernant le "soutien", Zuckerberg indique :
"Une société en bonne santé a besoin de communautés pour soutenir et accompagner nos besoins personnels, émotionnels et spirituels."
Et de citer les groupes Facebook qui regroupent des personnes atteintes de maladies rares, ceux dédiés à l'aide aux réfugiés, à la parentalité, etc.
2. Concernant la "sécurité", tout y passe :
Terrorisme, catastrophes naturelles, épidémies et pandémies, crise des réfugiés, pollution, réchauffement climatique … Aucune nation, écrit Zuckerberg, n'est capable de faire face seule à ces problèmes ou de leur trouver une solution. Facebook, si. Et de citer l'action de la plateforme lors du séisme au Népal, lors des attentats terroristes avec le Safety Check, la prévention du suicide, les enlèvements d'enfants, etc.
C'est sur ce point que pour la 1ère fois dans sa lettre, Mark Zuckerberg introduit la question de l'intelligence artificielle, qui selon lui, est la seule réponse technologique pouvant permettre, dans les milliards de contenus et de messages publiés chaque jour sur sa plateforme, de détecter ceux qui sont inquiétants, ou alarmants (il mentionne ici les suicides "livestreamés", mais également les cas de harcèlement) et qui pourraient être évités si :
"quelqu'un s'en était aperçu et l'avait signalé de manière appropriée."
Un peu plus loin Zuckerberg indique qu'ils travaillent pour entraîner cette intelligence artificielle à faire la distinction entre, par exemple, un article de journal relatant des faits terroristes, et des articles faisant la propagande du terrorisme. Bon courage …
Vient alors le classique dilemme entre surveillance totale et préservation de la vie privée.
"Garder les gens en sécurité c'est protéger à la fois la sécurité et la liberté des individus." (As we discuss keeping our community safe, it is important to emphasize that part of keeping people safe is protecting individual security and liberty)
Et de rappeler les "efforts" que Facebook consent pour augmenter le niveau de cryptage des communications qui passent par ses applications comme WhatsApp ou Messenger.
3. Concernant le côté "informé" de cette communauté globale :
Zuckerberg replace d'entrée le débat dans l'horizon contradictoire de la bulle de filtre d'un côté, et des Fake news de l'autre. Avec un nouveau noeud Gordien à trancher : comment à la fois garantir une diversité de points de vues et limiter les points de vues "erronés".
Ce qui inquiète Zuckerberg au-delà des Fake News et de la bulle de filtre, ce sont, écrit-il :
"les effets très puissants qui lient sensationnalisme et polarisation de l'opinion et conduisent à une perte de compréhension globale d'un phénomène."
Et s'il en restait parmi vous qui doutaient encore que Facebook soient un média à part entière, ou qui pensaient que la question de l'éditorialisation algorithmique était secondaire, voici qui devrait lever définitivement toute ambigüité :
"Nous avons fait des progrès dans notre manière de lutter contre les hoax comme nous l'avions fait contre le Spam, mais nous devons en faire davantage. Nous avançons avec précaution car il n'y a pas de ligne de démarcation nette entre les hoax, la satire et l'opinion. Dans une société libre il est important que les gens puissent partager leur opinion même si les autres pensent qu'ils ont tort. Notre approche va désormais moins se focaliser sur la suppression de la désinformation, et davantage sur la mise en avant d'informations et de points de vue complémentaires, incluant le travail des fact-checkers sur l'exactitude ("accuracy") d'une information."
Là encore, c'est une intelligence artificielle qui s'occupera de faire le job. Mais quelques lignes plus loin on trouve un aveu aussi inédit que révélateur. Zuckerberg écrit noir sur blanc que (je souligne) :
"Les médias sociaux sont des médias de formes courtes où les messages qui résonnent sont amplifiés à de nombreuses reprises. Cela récompense la simplicité et décourage la nuance. Dans le meilleur des cas cela rend plus visibles certains messages et expose les gens à des idées différentes. Dans le pire des cas cela sur-simplifie des sujets importants et nous pousse à des points de vue extrêmes."
Facebook annonce donc qu'il va s'appuyer sur 2 stratégies pour lutter contre la désinformation : d'une part l'analyse des interactions (en essayant de valoriser les articles réellement lus au détriment de ceux qui sont partagés alors que l'on a à peine eu le temps d'en lire le titre), et de l'autre une liste (noire ?) d'éditeurs / fournisseurs de contenus identifiés comme "sensationnalistes". Soit le versant d'un Décodex à l'échelle … planétaire 😉
Le passage sur "l'information" est de très loin le plus dense, le plus passionnant et le plus ambigu de la lettre de Zuckerberg. Il est également l'un de ceux qui a suscité les réactions les plus vives, en mode "Zuckerberg is building a news organization without journalists", ce qui me semble parfaitement … exact 🙂
Toujours concernant les médias, on peut y lire ceci :
"Donner une voix aux individus n'est pas suffisant si l'on ne dispose pas également de gens dont la tâche est de découvrir de nouvelles informations et de les analyser. Nous pouvons encore faire beaucoup pour aider l'industrie de l'information, pour s'assurer que sa fonction sociale soit garantie et "soutenable", en aidant les informations locales, et développant des formats adaptés aux terminaux mobiles et en améliorant le modèle économique sur lequel s'appuient les médias (sic)."
Et de conclure en parlant du coeur du Business Model de Facebook sans le nommer, c'est à dire la kakonomie :
"Finalement, je veux souligner que la grande majorité des conversations sur Facebook sont sociales, et pas idéologiques. Il y a des amis qui partagent des plaisanteries et des familles qui s'en servent pour rester en contact à travers le monde. Il y a des gens qui trouvent des groupes de discussion, qu'ils soient nouveaux parents ou souffrant de maladies rares. Parfois c'est simplement pour s'amuser, être ensemble et discuter de sport ou de religion. Et parfois c'est pour survivre, comme les réfugiés qui communiquent pour trouver un abri."
4. Concernant l'engagement civique et citoyen :
Zuckerberg parle de bâtir deux types "d'infrastructures sociales" :
"La première pour encourager l'engagement dans les processus politiques existants" (appel à aller voter notamment pour lutter contre l'abstention)
"La seconde pour établir de nouveaux processus participatifs dans des prises de décisions collectives pour les citoyens du monde. Notre monde est plus connecté que jamais, et nous faisons face à des problèmes globaux qui dépassent les frontières nationales. En tant que première communauté mondiale, Facebook peut explorer et developper des projets de gouvernance citoyenne renouvelée à une échelle massive."
Je traduis intégralement le paragraphe dans lequel Zuckerberg développe ce qu'il entend par "l'engagement dans les processus politiques existants" car c'est certainement dans ce paragraphe que Facebook se positionne le plus clairement comme un "média politique" et laisse ouverte la porte à toutes les interprétations pouvant laisser penser que du "média" au "parti politique", il n'y a qu'un pas que le peut-être futur candidat à la Maison Blanche pourrait franchir assez rapidement :
"En plus d'encourager le vote, la meilleure opportunité qui nous est offerte est de permettre aux gens d'être impliqués ("engaged") avec les sujets de tous les jours qui les préoccupent, et pas simplement lors des périodes électorales. Nous pouvons aider à établir un dialogue direct et responsable entre les gens et leurs représentants élus. En Inde, le premier ministre Modi a demandé à ses ministres de partager leurs meetings et leurs actions sur Facebook pour qu'ils puissent bénéficier d'un retour direct des citoyens. Au Kenya, des villages entiers et leurs représentants politiques se rassemblent sur des groupes WhatsApp. Dans les campagnes politiques récentes – de l'Inde à l'Indonésie, en Europe ou aux Etats-Unis – nous avons constaté que les candidats vainqueurs étaient ceux qui avaient les communautés les plus grandes et les plus impliquées ('engaged"). De la même manière que la télévision fut le premier média pour la communication politique ("civic communication") dans les années 60, les médias sociaux le seront pour le 21ème siècle."
Par parenthèse, Zuckerberg, à propos de l'Inde, omet de mentionner l'énorme polémique qui avait entourée l'approche de Facebook visant à offrir aux Indiens un accès internet limité à une quarantaine de sites web choisis par Facebook lui-même …
Sur le fond, et se mettant autant que faire se peut dans la peau de Mark Zuckerberg, il est impossible d'imaginer qu'il ne se voit pas lui-même en candidat victorieux aux prochaines élections lorsqu'il écrit posément que "les candidats disposant de la communauté la plus grande et la plus engagée sur Facebook étaient ceux qui gagnaient systématiquement les élections".
Et un peu plus loin :
"Les mois derniers nous avons aidé notre communauté à doubler le nombre de connections entre les gens et leurs représentants élus en rendant ces connexions possibles en un seul clic. En Islande il est devenu fréquent de taguer des politiciens dans des groupes de discussion pour qu'ils puissent porter ces sujets au parlement. (…) De la place Tahrir au Tea party (sic), notre communauté organise ces mobilisations en utilisant notre infrastructure pour l'organisation d'événements ou le lancement de groupes de discussion."
(Bonus Track : ici je vous conseille très très très vivement d'aller visionner l'intervention de Zeynep Tufekci dans laquelle elle explique brillamment "Comment internet (et Facebook) a facilité l'organisation des révolutions sociales mais en a compromis la victoire")
5. Dernier point programmatique de la lettre de Mark, celui d'une communauté "inclusive".
Il sera ici question de l'épineux problème des CGU, c'est à dire du rapport que le code (informatique) des plateformes sociales entretient avec la loi des Hommes. Avant d'attaquer, Zuckerberg commence par poser la triangulation suivante : Facebook, dit-il, est à la fois un média, une technologie et une communauté ("Facebook is not just technology or media, but a community of people").
Zuckerberg commence par rappeler que Facebook a été confronté à des décisions problématiques et qu'il a souvent et clairement merdé (comme dans l'exemple de la censure de la photo du prix Pulitzer de la jeune fille fuyant les bombardements au Napalm au Vietnam). En bon politique qu'il est déjà, Zuckerberg a compris qu'une décision importante était d'autant mieux acceptée qu'elle commençait par des excuses sur des erreurs précédentes. Voici donc ce qu'il écrit :
"Cela m'a beaucoup peiné de voir que j'étais souvent d'accord avec ceux nous critiquant et nous reprochant d'avoir fait des erreurs. Ces erreurs ne venaient presque jamais (sic) de positions idéologiques que nous aurions pu avoir en conflit avec notre communauté, mais plutôt d'opérations de passage à l'échelle ("operational scaling issues"). La philosophie qui nous guide dans l'élaboration de nos standards communautaires est d'essayer de refléter au mieux les normes culturelles de notre communauté (sic). En cas de doute, nous privilégions toujours la possibilité de favoriser les possibilités de partage."
Littéralement, la dernière phrase ("When in doubt, we always favor giving people the power to share more") est un bon gros vieux mensonge dont seul un politique adepte de la langue de bois la plus râpeuse est capable. En effet dans tous les exemples connus, y compris ceux mentionnés par le fondateur de Facebook, c'est précisément l'inverse qui a été fait, c'est à dire qu'en cas de doute, Facebook a toujours, je dis bien toujours, limité ou carrément supprimé la possibilité offerte de partager ces photos, ces documents, ces vidéos ou ces opinions. La photo de la jeune vietnamienne ? Supprimée. Le tableau l'origine du monde assimilé à de la pornographie ? Supprimé. Ces campagnes en faveur de la lutte contre le cancer du sein également accusées de pornographie ? Supprimées. Si supprimer, rendre invisible, obfusquer ces contenus qui contreviennent apparemment aux standards communautaires est la manière qu'a Facebook de "privilégier la possibilité de favoriser les possibilités de partage", en ben … on n'a pas le cul sorti des ronces.
Donc après un Mea Culpa de circonstance et un bon gros mensonge digne de la meilleure Fake News de l'ère post-vérité, voici le nouveau projet de Mark Zuckerberg pour résoudre la quadrature du cercle visant à établir des standards communautaires (c'est à dire religieux, idéologiques, politiques et culturels) applicables à une communauté … d'1,7 milliards d'individus.
Ce qui va (peut-être) changer.
Primo Facebook n'est plus un Business familial mais une "source d'information et de discours publics". ("First, our community is evolving from its origin connecting us with family and friends to now becoming a source of news and public discourse as well").
Deuxio, le monde est divers ("Second, our community spans many countries and cultures, and the norms are different in each region"). Il faut donc des "standards" davantage ancrés localement ("With a community of almost two billion people, it is less feasible to have a single set of standards to govern the entire community so we need to evolve towards a system of more local governance"). Bref une territorialité des GCU se rapprochant du principe de territorialité de la loi …
Tertio, y compris à l'échelle d'une culture donnée, le curseur des opinions est toujours assez flou et mouvant ("even within a given culture, we have different opinions on what we want to see and what is objectionable"). Donc si on veut réellement faciliter l'expression de toutes les opinions, il faut accorder davantage de contrôle personnel aux utilisateurs sur ce qu'ils peuvent dire, faire ou voir. ("This suggests we need to evolve towards a system of personal control over our experience.")
Et quatrièmement, à l'échelle des centaines de millions de contenus "vérifiés" par Facebook chaque mois, même une marge d'erreur de moins d'1% signifie de laisser des millions de contenus problématiques en circulation.
Alors fort de ces 4 constats, Mark Zuckerberg nous fait part de son tourment mais également de sa lucidité :
"Assis là en Californie, nous ne sommes pas les mieux placés pour identifier les normes culturelles dans le monde." ("Sitting here in California, we're not best positioned to identify the cultural norms around the world.")
Bien sûr ce n'est qu'une formule, mais quand même, accordons-lui au moins ce crédit, il est l'un des rares pour ne pas dire le seul à reconnaître les limites d'un ethno-centrisme californien.
Et voici donc, enfin, LA solution choisie par Facebook pour rendre la communauté plus inclusive (je souligne) :
"L'idée c'est que chacun dispose d'options lui permettant de régler ses propres paramètres concernant la politique des contenus ("content policy"). Où se situe votre limite concernant la nudité ? La violence ? Les contenus graphiques explicites ? Les jurons ("profanity") ? Vos critères deviendront vos paramètres personnels. Nous vous poserons périodiquement des questions pour améliorer cette définition de vos paramètres afin que vous n'ayez pas à chercher comment les régler. Pour ceux qui n'indiqueront pas de choix particulier, le réglage par défaut sera celui de la majorité des utilisateurs de votre zone géographique, comme pour un référendum. (…)
Avec davantage de possibilités de contrôle, des contenus ne seront supprimés que s'ils sont plus insupportables / répréhensibles ("objectionable") que l'option la plus permissive. De cette manière les contenus n'apparaîtront pas chez les utilisateurs dont les réglages personnels indiquent qu'ils ne veulent pas les voir, ou au moins qu'ils veulent les voir précédés d'un avertissement. Bien que nous continuions de bloquer certains contenus en fonction de nos standards et des lois locales, nous espérons que ce système de choix personnels et de démocratie référendaire puisse minimiser les restrictions de ce que nous pouvons partager."
J'attire votre attention sur la contradiction – que d'autres ont également souligné – contradiction qui existe entre le fait, d'une part, d'indiquer que l'on laisse à l'utilisateur la liberté de déterminer ce qui est choquant ou offensant pour lui, et, d'autre part, d'indiquer que l'on continuera de suivre les lois locales ou de bloquer des contenus contrevenants aux "community standards".
Dans une république laïque et démocratique, les différentes communautés sont toutes soumises à la même "loi". C'est cette même et unique loi qui garantit aux différentes communautés la possibilité de vivre ensemble, même si chacune desdites communautés dispose naturellement de ses propres "standards", mais aucun desdits standards ni desdites communautés ne peut se prétendre en dehors ou au dessus de la loi.
Mais Mark Zuckerberg aime les contradictions. Souvenez-vous. C'était le 9 Janvier 2015. Deux jours après les atroces attentats contre Charlie Hebdo. Mark Zuckerberg écrivait alors sur son mur :
"Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde". Mark Zuckerberg le 9 Janvier 2015.
En analysant à l'époque cette déclaration j'écrivais :
"Étonnant non ? Je vous le remets dans l'ordre : les citoyens font partie d'un état. L'état dispose d'un gouvernement, élu par les citoyens. Le gouvernement décide des lois s'appliquant aux citoyens de son état. Une société commerciale transnationale est présidée par un individu qui n'est élu par personne (sauf parfois par son conseil d'administration, OK). Lequel individu décide d'appliquer à l'ensemble des utilisateurs de sa plateforme, les lois du pays dans lequel ils – les individus – résident. Sauf s'il n'est pas d'accord (le chef de la société commerciale) avec ces lois ou qu'il estime (le chef toujours) qu'elles contreviennent (les lois) à la philosophie et/ou au modèle commercial de sa plateforme, de son service".
Concrètement, cette nouvelle approche permettant à chaque individu de choisir sa propre "limite" dans les contenus acceptables ne servira à rien, ou alors de manière tout à fait marginale. Par exemple, dans l'histoire de la une de Charlie Hebdo avec une caricature du prophète à sa une, admettons que vous soyez un citoyen Turc, de religion musulmane, et que ces caricatures vous semblent acceptables, que vous ne les jugiez pas offensantes. Et bien vous ne les auriez pourtant pas vues et n'auriez pourtant pas pu les partager puisque l'état Turc a demandé à Facebook de les bloquer sous peine de fermer l'accès au réseau social depuis la Turquie. Idem pour les innombrables photos de poitrines féminines. Même si votre seuil de tolérance n'est pas atteint, la vue en gros plan d'un téton féminin est toujours contraire aux standards communautaires de Facebook et vous ne pourrez donc ni les voir ni les partager. Et s'il s'agit d'une oeuvre d'art ? Ben c'est toujours compliqué …
Mais ce qui est vraiment super étrange c'est l'analogie avec le référendum qu'utilise Zuckerberg ("Pour ceux qui n'indiqueront pas de choix particulier, le réglage par défaut sera celui de la majorité des utilisateurs de votre zone géographique, comme pour un référendum"). Car ce qu'il désigne n'a rien à voir avec un référendum. Un acte référendaire dans une démocratie consiste à convoquer publiquement le peuple pour lui demander de répondre à une question formulée de manière explicite et dont les résultats sont ensuite – et surtout – rendus publics, le processus de référendum étant lui-même transparent et auditable.
Le "référendum" de Facebook désigne une tout autre réalité puisqu'il s'agit de s'appuyer sur un réglage "par défaut", totalement obscur pour l'ensemble des utilisateurs concernés (je n'ai pas le résultat du "vote" des "utilisateurs de ma zone géographique"), parfaitement inauditable, et portant non pas sur une mais sur une multitude de questions et de paramètres (nudité, violence, religion, etc …).
Pourtant rien n'empêcherait techniquement Mark Zuckerberg d'organiser de vrais référendums. Il pourrait consulter, de manière globale ou pays par pays, les utilisateurs de Facebook pour leur poser la question de savoir s'ils acceptent que les tétons d'une poitrine féminine cessent d'être considérés comme de la pornographie ; il pourrait, par référendum, demander de statuer sur la question des caricatures et du dessin de presse, et ainsi de suite. Mais il ne le fera jamais. Car le modèle de Facebook n'est pas un modèle référendaire mais un modèle publicitaire.
La loi du Talion d'Achille.
Ce que Zuckerberg promet, c'est finalement la loi du Talion. Oeil pour oeil, dent pour dent. Comme le rappelle Wikipédia, la loi du Talion "caractérise un état intermédiaire de la justice pénale entre le système de la vendetta et le recours à un juge comme tiers impartial et désintéressé." Si un contenu ne te plaît pas, te semble trop violent, si un contenu t'agresse, à toi de fixer la limite, le seuil de cette agression, à toi de faire en sorte qu'elle cesse.
Or, naturellement, une telle loi du Talion à l'échelle d'une communauté d'1,7 milliard d'individus n'a aucun sens, car si chacun se met à faire la "police", si chacun devient réellement libre de fixer ce qu'il peut ou ce qu'il refuse de voir, c'est alors l'ensemble du modèle média de Facebook qui s'effondre ; la triangulation "communauté – média – technologie" est incapable de tourner, de fonctionner, de produire de la valeur d'usage ou de la valeur publicitaire si chaque individu dispose de cette liberté qui équivaut à un arbitraire total. Loi du Talion … d'Achille.
Donc Zuckerberg, juste après nous avoir promis cette nouvelle marge de liberté, nous annonce immédiatement que les "standards communautaires" et les "lois locales" (et l'intelligence artificielle) continueront de faire l'essentiel du boulot de filtrage.
La liberté nouvelle promise par Zuckerberg à l'ensemble des utilisateurs de sa plateforme c'est la liberté du régulateur de vitesse sur une voiture : vous êtes libre de fixer la limite que vous voulez à ce régulateur, mais cette liberté s'arrête où commencent les limitations de vitesse prévues dans le code de la route et les contrôles de vitesse effectués par la maréchaussée. Donc vous êtes surtout libres … de croire que vous êtes libres.
Le triangle "média – technologie – communauté" pose de toute façon un problème de régulation impossible à résoudre si chacun de ces trois points est traité de manière équivalente ; en effet les "communautés" sont encadrées par des lois, les médias se caractérisent d'abord par le respect d'une déontologie c'est à dire d'un corpus de règles morales professionnelles, et enfin les "technologies" n'obéissent, en l'état, qu'aux limites définies par les CGU du site hôte. Il faudrait donc qu'il n'y ait aucune contradiction entre des lois et des CGU qui n'en seraient que l'incarnation dans le cadre d'usages spécifiques, et il faudrait en outre que du côté des communautés comme des technologies on respecte une déontologie commune. Ce ne sera évidemment jamais le cas, et c'est l'une des raisons pour lesquelles l'équilibre entre "média – technologie – communauté" à l'échelle de la plateforme Facebook sera toujours un équilibre instable et générateur de tensions, d'obfuscations, et d'arbitraire.
L'existence (numérique) précède l'essence (algorithmique). Ou pas.
Et pourtant ce débat sur la part de liberté qui nous est réellement octroyée dans le grand ectoplasme de l'empilement des déterminismes algorithmiques est absolument fondamental. Il est absolument fondamental car il est au croisement de la philosophie (question du libre arbitre) et de la sociologie (question de la "culture" qui fait que chaque individu, selon son éducation et les pratiques sociales routinières auxquelles il est exposé, aura ses propres représentations de ce qui est beau ou laid, tolérable ou intolérable, juste ou injuste, etc …).
Ou comme le résumait encore Zeynep Tufekci en un tweet :
"Culture is what you see reinforced around you in repetition, especially through peers. Now: algos are part of it."
Soit en français : "La culture c'est ce qui peut être renforcé par la répétition, particulièrement venant de vos pairs. Désormais : les algos en sont une part importante (de la culture)"
Entre rigidité de la loi et arbitraire de l'opinion ou du sentiment personnel, l'espace du libre arbitre "culturel" dans l'enceinte des CGU de Facebook est quasi quantique, c'est à dire qu'il peut se vivre comme étant exercé alors même qu'il est nié, et réciproquement. C'est fascinant.
Premier bilan de cette lettre : #JeudiConfession.
Ben oui, elle a été publiée un Jeudi. C'est à ma connaissance la première fois que Zuckerberg reconnaît ou valide explicitement un certain nombre de phénomènes par ailleurs identifiés depuis longtemps par les observateurs (souvent aussi détracteurs) de Facebook : la kakonomie, la bulle de filtre, la polarisation et le sensationnalisme, mais c'est aussi la première fois qu'il acte, sans les minorer autrement que dialectiquement, les énormes bévues commises par Facebook autour de la question du filtrage de certains contenus.
C'est également la fin d'un cycle déjà entamé lors de précédentes déclarations dans lesquelles il reconnaissait mais encore à demi-mot que Facebook était devenu au moins autant un média au sens classique du terme qu'une plateforme de réseau social. Cette fois, autour de la triangulation "communauté / média / technologie", Zuckerberg assume clairement, explicitement et définitivement la mutation de l'ensemble de l'écosystème Facebook d'un site de networking familial à une plateforme d'informations et de discours publics.
C'est aussi, à l'évidence, la confirmation de Facebook comme entité politique sur fond "d'infrastructures sociales". Comme le rappelle cet article du Guardian :
"Pendant que le fondateur de Facebook envisage assurément une entrée dans la vie politique, il reconnaît également que le fait de diriger le plus grand réseau social au monde est déjà en soi une carrière politique. Peut-être que dans la perspective historique de Zuckerberg, après les tribus, les villes et les nations, vient … Facebook. Dont il est, déjà, le leader."
Second bilan : IA IA IA IA IA.
Ben oui, Zuckerberg adore l'intelligence artificielle, l'année dernière il avait construit son propre Jarvis pour gérer sa maison pendant qu'il apprenait le Mandarin, et là il va donc nous mettre de l'IA partout : pour filtrer et modérer les contenus, pour aider à lutter contre le sensationnalisme, pour détecter les comportements suicidaires (ou déviants ?), pour augmenter les signalements des contenus à modérer (l'IA nous dit Zuckerberg est déjà à l'origine d'un tiers des contenus "flagués"), pour faire la différence entre un article de presse sur le terrorisme et un article appelant au terrorisme, et puis surtout pour garantir l'aspect "démocratique" de la plateforme, oui, oui, très exactement :
"Notre approche est de combiner la création de processus démocratiques à grande échelle pour déterminer les standards communautaires, avec de l'intelligence artificielle pour aider à les faire respecter." ("with AI to enforce them")
Standards dont on nous dit quelques lignes plus haut qu'ils doivent :
"refléter les normes culturelles de notre communauté".
Troisième bilan : We He The Media.
Facebook est un média. Facebook est un média classique ("a source of news and public discourses"). Sans journalistes. Avec bientôt 2 milliards de lecteurs quotidiens. Je ne crois pas que sa lettre soit "un plan pour détruire le journalisme", mais il est évident que toutes les questions qui se sont posées à l'échelle du journalisme depuis qu'il existe, vont se reposer à une échelle totalement inédite et avec des conséquences absolument gigantesques sur l'ensemble de nos démocraties et des exercices citoyens qui les soutiennent.
Mark Zuckerberg est-il en train de construire le monde auquel nous aspirons tous ?
Alors, reposons maintenant la question qui ouvre la lettre de Mark Zuckerberg, c'est à dire :
"Sommes-nous en train de construire le monde auquel nous aspirons tous ?"
Et demandons-nous la chose suivante :
"Mark Zuckerberg est-il en train de construire le monde auquel nous aspirons tous ?"
Probablement pas. Mais tentons de préciser un peu et demandons-nous :
"Les (nouvelles) infrastructures sociales que propose Facebook et que Zuckerberg annonce, fonctionneront-elles et/ou seront-elles suffisantes ou nécessaires pour chacun d'entre nous ? Suffisantes ou nécessaires pour filtrer, encadrer, réguler le rapport que chacun d'entre nous entretient avec l'information, avec la religion ou le sentiment religieux, avec la culture, avec … les autres ?"
Rien n'est moins sûr. D'autant que, et c'est totalement inédit à cette échelle, c'est donc pour partie – mais une partie essentielle – une intelligence artificielle qui sera en charge de ces opérations de régulation et de filtrage.
Mark le leader suprême est déjà au sommet d'une carrière politique absolument inédite, à la tête d'une nation construite et dirigée comme un vulgaire mais non trivial fichier client.
En Avril 2016 des employés de Facebook adressaient cette question à Zuckerberg :
"Quelle est la responsabilité que Facebook peut prendre pour empêcher Donald Trump de devenir président des Etats-Unis en 2017 ?"
On connaît hélas la suite de l'histoire, qui a vu l'élection de Trump et, à défaut d'être en capacité d'établir la part de responsabilité que Facebook comme plateforme a pu tenir dans cette élection, aura donc servi de maïeutique à son fondateur pour aller jusqu'au bout de l'explicitation de son projet "politique", c'est à dire "construire le monde auquel nous aspirons tous", un monde bleu, commençant par un F, piloté par une intelligence artificielle et entretenant l'illusion d'une compatibilité systémique entre un total libre arbitre individuel et le respect de standards communautaires tantôt extrêmement permissifs et tantôt extrêmement dirigistes et ne suivant la loi des états que tant que celle-ci ne remet pas en cause le modèle économique ou les ambitions stratégiques de la plateforme.
La plus grosse erreur que nous puissions faire serait de traiter à la légère la redéfinition des contours du ressenti de l'action "politique" tels qu'esquissés par la lettre de Zuckerberg, et dont la clé principale sera déterminée par le poids respectifs de chacun des termes composant l'équation :
Infrastructures sociales de nos aspirations = communauté + technologie (IA) + média
L'autre erreur consisterait à sous-estimer la performativité du discours de Zuckerberg. Une performativité renforcée par le régime de vérité propre à la plateforme, celui de l'engagement.
Au-delà du seul "taux d'engagement" défini comme "Le pourcentage de personnes ayant aimé, commenté ou partagé une publication, ou ayant cliqué dessus, après l’avoir vue", l'engagement c'est aussi :
"La participation active, par une option conforme à ses convictions profondes, à la vie sociale, politique, religieuse ou intellectuelle de son temps."
A ce titre, la première infrastructure sociale performative de Facebook – et peut-être la seule … – est le Like. Le Like comme participation active ne nécessitant pas de conformité forte avec ses convictions profondes. Une infrastructure sociale qui dès 2010 a commencé à contaminer l'ensemble du web, tuant ce qu'il restait de liens et déclenchant la première grande offensive d'une vague de reterritorialisation qui n'ira dès lors qu'en s'accélérant.
La première infrastructure sociale performative, et le premier projet politique de Facebook, c'est le Like. Très loin du referendum. Plus proche du vote par acclamation. Du pouce levé des jeux du cirque. Une parodie plus qu'un parangon de démocratie.
L'autre projet politique que Zuckerberg nous annonce dans sa lettre, c'est qu'une intelligence artificielle puisse créer et garantir les conditions d'une sorte de démocratie globale. Et je dis bien "d'une sorte de".
Dans les prochains mois, dans les prochaines années, Mark Zuckerberg va devoir relever un défi assez considérable s'il veut réellement bâtir l'infrastructure sociale de nos aspirations : il devra choisir entre s'appuyer sur la technologie (IA) ou sur les utilisateurs pour faire vivre ce média, son "média". Pour l'instant, après lecture attentive de sa lettre, il a clairement fait le choix de la technologie, d'un pan technologique dominé par l'intelligence artificielle. Ce qui est tout sauf étonnant. Et peut légitimement paraître inquiétant. Car il ne peut y avoir de démocratie ou de politique sans "rendu public", or l'ensemble des choix de Zuckerberg se réclament essentiellement d'une dimension technique qui rend tout processus de rendu public extrêmement délicat ou carrément impossible.
Dans le dernier paragraphe de sa lettre, juste avant de citer Lincoln, Zuckerberg écrit ceci :
"L'Histoire a connu beaucoup de moments comme celui-ci (sic). De la même manière que nous avons fait de grands bonds en passant des tribus aux villes et des villes aux nations, nous avons toujours du construire des infrastructures sociales telles que des communautés, des médias et des gouvernements pour nous permettre de progresser et d'atteindre le prochain niveau."
Zuckerberg à imaginé Facebook comme une communauté permettant de noter les plus jolies filles du campus.
Zuckerberg a ensuite bâti l'empire Facebook comme un média de masse capable d'individualiser le modèle de régie publicitaire qui le fonde.
Zuckerberg nous propose aujourd'hui de passer au stade suivant : un gouvernement Facebook. Plus exactement, Facebook est déjà dans son esprit le prochain stade d'une inédite et flippante car très concrète et opérationnelle forme de gouvernementalité algorithmique totale.
L'un des textes qui a le plus tourné suite à la publication de la lettre de Zuckerberg a été celui d'Ara Balkan, opportunément traduit par Framasoft. On peut y lire ceci :
"L’infrastructure que nous construirons doit être fondée sur les biens communs, appartenir aux biens communs et être interopérable. Les services eux-mêmes doivent être construits et hébergés par une pléthore d’organisations individuelles, non par des gouvernements ou par des entreprises gigantesques, travaillant avec des protocoles interopérables et en concurrence pour apporter à ceux qu’elles servent le meilleur service possible. Ce n’est pas un hasard : ce champ sévèrement limité du pouvoir des entreprises résume l’intégralité de leur rôle dans une démocratie telle que je la conçois."
Pour moi, ce n’est pas un monde détenu et contrôlé par une poignée d’oligarques de la Silicon Valley. C’est un monde avec des biens communs sains, dans lequel – en tant que communauté – nous possédons et contrôlons collectivement ces aspects de notre existence qui nous appartiennent à tous, et dans lequel aussi — en tant qu’individus — nous sommes maîtres et avons le contrôle des aspects de notre existence qui n’appartiennent qu’à nous.
Imaginez un monde où vous et ceux que vous aimez disposeraient d’une capacité d’action démocratique ; un monde où nous bénéficierions tous d’un bien-être de base, de droits et de libertés favorables à notre dignité d’êtres cybernétiques. Imaginez un monde durable libéré de l’avidité destructrice et à court terme du capitalisme et dans lequel nous ne récompenserions plus les sociopathes lorsqu’ils trouvent des moyens encore plus impitoyables et destructeurs d’accumuler les richesses et la puissance aux dépens des autres. Imaginez un monde libre, soustrait (non plus soumis) à la boucle de rétroaction de la peur fabriquée et de la surveillance omniprésente qui nous entraîne de plus en plus profondément dans un nouveau vortex du fascisme. Imaginez un monde dans lequel nous nous octroierions la grâce d’une existence intellectuellement riche où nous serions libres d’explorer le potentiel de notre espèce parmi les étoiles."
Un monde où l'on recommencerait à créer des liens, pas juste à poser des Like.
On ne construit pas une communauté globale sur une plateforme fermée et propriétaire. On ne finance pas un idéal à grand coups de publicités ciblées.
Ceci dit à bien y réfléchir …
Ceci étant dit, Mark Zuckerberg a raison sur au moins un point. Il est l'un des seuls êtres humains sur la planète à pouvoir, par sa seule volonté, faciliter et accélérer la création d'une communauté globale dotée d'infrastructures sociales numériques efficientes. Il lui suffit pour cela de mettre fin au modèle et à la régie publicitaire de Facebook, de basculer l'ensemble de sa plateforme en Open Source, d'en faire un bien commun doté d'un système de régulation collective semblable – par exemple – à Wikipédia. Alors oui, cette plateforme serait un levier d'expérimentation politique formidable, inédit, vertigineusement enthousiasmant, sans aucun équivalent connu. Un cadeau fait à l'humanité tout entière. De la même manière si Larry Page et Serguei Brin, les deux fondateurs de Google, appliquaient les principes qui étaient les leurs au lancement de leur moteur en 1998, c'est à dire s'ils renonçaient à leur régie publicitaire puisqu'ils ont eux-mêmes démontré et écrit que :
"les moteurs de recherche reposant sur un modèle économique de régie publicitaire sont biaisés de manière inhérente et très loin des besoins des utilisateurs. (…) nous croyons que le modèle publicitaire cause un nombre tellement important d'incitations biaisées qu'il est crucial de disposer d'un moteur de recherche compétitif qui soit transparentet transcrive la réalité du monde."
Alors oui, sur ces 3 piliers que sont Wikipédia, Google et Facebook, peut-être commencerions-nous à construire le monde numérique auquel nous aspirons tous, celui que Ara Balkan et tant d'autres appellent de leurs voeux.
On ne construit pas une communauté globale sur une plateforme fermée et propriétaire mais sur un acte fondateur qui est celui du don désintéressé. C'est ce que fit Tim Berners Lee lorsqu'il inventa le World Wide Web sans lequel ni Facebook ni Google ne pourraient exister aujourd'hui. C'est ce que fit Tim Berners Lee lorsqu'il plaça immédiatement cette invention, son invention, dans le domaine public. Il n'avait à l'époque ni la fortune ni même les ambitions qui sont aujourd'hui celles de Mark Zuckerberg. Il n'envoya pas de lettre à 1,7 milliard d'êtres humains. Mais lui et lui seul, par ce simple don, réussit à créer cette possibilité d'une communauté globale au sein de laquelle chacun avait, non pas l'obligation de se reconnaître dans une aspiration qu'on lui disait être partagée par tous, mais la possibilité d'imaginer, de décrire et de partager le monde auquel lui, et lui seul peut-être, avait envie d'appartenir.
Alors comme ni Zuckerberg ni aucun autre milliardaire de la vallée des larmes de silicone ne renonceront à leur fortune ou à leurs ambitions politiques ou à leurs concours de Moonshots technologiques, c'est à nous qu'il incombe de faire le job, de se mettre au travail, pour créer les conditions d'émergence d'une nouvelle infrastructure sociale numérique qui à son tour pourrait permettre l'émergence de nouvelles utopies concrètes. Cela pourrait par exemple prendre la forme d'un index indépendant du web. Mais vous connaissez déjà toute l'histoire non ?
La lettre de Mark Zuckerberg date plutôt du 16 février 2017.
Mais tout le reste est parfait.
J’ai rarement lu un article aussi intéressant. Flippant mais passionnant.