Je parle souvent avec mes étudiants des questions des libertés numériques. Et des censures qui vont avec.
La place "Tien'anmen".
Autorité(s). A quelques jours de l'anniversaire de la répression sanglante de la place Tien'anmen (4 Juin 1989), le gouvernement chinois a bloqué depuis le 15 Mai la totalité de l'encyclopédie Wikipédia dans toutes les langues. Comme rappelé par la fondation Wikimédia, Wikipédia a été bloquée par intermittence en Chine depuis 2004, puis la version en Mandarin de l'encyclopédie totalement bloquée depuis Juin 2015 et donc désormais dans toutes les langues.
Internet est arrivé en Chine en 1994. En 1998, le "projet bouclier doré" est lancé. L'autre grande muraille sera donc celle du "great firewall".
Popularité(s). La version chinoise du moteur de recherche Google à toujours répercuté la censure chinoise. Et j'ai toujours souvenir de la différence entre les résultats de Google Images quand on cherchait des images de la place Tien'anmen. Dans la version chinoise du moteur ou dans ses versions en mandarin, les images de la répression et celle de l'étudiant bloquant à lui seul une colonne de chars étaient remplacées par des jeunes filles dansant en costume traditionnel et autres images de propagande.
Cette censure, technique, infrastructurelle, est au service d'une politique ou elle est l'instrument d'un chantage économique qui est le lit de toutes les compromissions (sans censure, pas d'accès au marché). Les images de la place Tien'anmen, l'obfuscation de l'image de l'étudiant face aux chars est l'une de ces dichotomies qui ont toujours accompagné mon propre cheminement sur la question des libertés numériques. Au-delà de la censure politique, au-delà de Google et de la Chine, cette affaire permet, m'a permis en tout cas, de voir et de mesurer ce qu'était la matérialité algorithmique d'une expression idéologique, et de toutes les aliénations ou les émancipation permises.
Une censure techniquement complexe mais évidente à montrer tant est visible son gigantisme, et tant est visible aussi l'évidence de ce qu'elle cherche à cacher.
Le mot "Nazi".
L'autre cas dont je parle souvent avec mes étudiants, et qui m'a lui aussi profondément marqué, est celui de la page de résultats de Google suite à la requête "Nazi", dans la version allemande et américaine du moteur. Permettez que je m'auto-cite.
"Quand j'explique à mes étudiants de DUT infocom l'histoire des algorithmes et des outils de recherche et que nous nous interrogeons sur la notion de "pertinence" et de "popularité, je leur donne tout le temps le même exemple. Sur le moteur Google américain, la requête "nazi" donne comme premier résultat le site du parti nazi américain. La même requête ("Nazi") mais sur la version allemande du moteur, donnait pendant très longtemps comme premier résultat le site du musée de l'holocauste (elle donne aujourd'hui uniquement une compil des pages Wikipédia sur le nazisme).
Une même requête, un même algorithme, aucune intervention manuelle sur les résultats de recherche et pourtant deux premiers liens parfaitement antagonistes : le parti nazi américain et le site du musée de l'holocauste. Fin de la démonstration, mes étudiants ont compris que la notion de "pertinence" était totalement subjective, que la notion de "popularité" disposait de biais culturels, historiques et législatifs (le parti nazi est légal aux Etats-Unis), et que le déterminisme algorithmique était lui-même contraint par un déterminisme culturel. Et que tout cela allait donner un cours très intéressant 😉"
Pas de censure ici mais une surface, celle du moteur de recherche, et une profondeur, la profondeur d'une culture, d'une différence culturelle. Mais le début, déjà, d'histoires communautaires plutôt que d'une histoire commune.
Une différance comme "un ajournement du sens". Ajournement que permettent des externalités dont les moteurs se nourrissent, des externalités qui sont le web et que leurs index et crawlers ne travaillent pas comme une surface d'argile vierge mais dont ils rendent, dont ils rendaient, précisément, les altérités et les aspérités.
Et puis les résultats, de recherche, n'ont plus jamais été les mêmes. Ils ont été individualisés, personnalisés, essentialisés d'une certaine manière. Renvoyés à des contextes non plus collectifs et culturels mais individuels et connivents.
Low Cost sur l'Holocauste.
Alors dans les résultats de recherche se sont cachés des juifs, car partout il semblait que l'antisémitisme montait. Et puis les moteurs de recherche ont répondu à la question de l'Holocauste. A la question de savoir si l'Holocauste avait vraiment existé.
Plus d'histoire de place, en Chine ou ailleurs, plus d'histoire de mot, délit ici et opinion ailleurs, mais une histoire de publicité. L'Holocauste continuait d'exister dans le ventre du moteur mais pour qu'il se lise sur son visage il fallait désormais payer. De la publicité. Souvenez-vous :
"Une journaliste du Guardian a parfaitement bien résumé toute l'affaire dans l'article intitulé "Comment virer les sites négationnistes des premières places de Google ? En payant Google." (…) : "J'ai réussi à faire ce que Google disait être impossible. Moi, une journaliste sans aucune connaissance informatique, j'ai réussi à changer l'ordre des résultats de recherche de Google sur la requête "est-ce que l'holocauste a vraiment eu lieu ?" (…) J'ai viré Stormfront du haut de la liste. J'ai inséré un résultat issu de la page Wikipédia sur l'Holocauste. J'ai remplacé un mensonge par un fait." Comment ? En jouant avec la régie publicitaire Adwords et en achetant un lien payant (la page Wikipédia sur l'Holocauste) pour l'ensemble des requêtes négationnistes mentionnant l'holocauste. Coût de l'opération : entre 24 et 289 livres sterling. Business As Usual. Le journalisme a un prix. "Si vous ne voyez plus ce lien sponsorisé c'est que je n'ai plus d'argent. Chaque clic me coûte 1,12 livres et j'ai une limite journalière de 200 livres." Deux cent fois la vérité par jour. Si quelqu'un a décidé d'acheter cette vérité. Pour les milliers d'autres requêtes quotidiennes sur l'Holocauste, il faudra se satisfaire des 10 meilleurs raisons pour lesquelles il n'a pas eu lieu. (…)"
La fin de l'histoire. Et le commencement du storytelling. Toute histoire et toute croyance vaut d'être racontée. Tout récit mérite d'en masquer d'autres. Il suffira d'y mettre le prix.
La question de la censure (collective) est désormais devenue celle (individuelle) de ce que l'on sent sûr. Si l'on sent que c'est sûr, si pour nous c'est sûr, alors plus besoin pour nous de censure. La censure opérait a priori, en amont, elle opère désormais en aval, par noyage dans la masse, par enfouissement des contenus : au-delà de la première page de résultats de Google, au détour d'un hoquet algorithmique du News Feed. Sur la première page de résultats, tout en haut de notre News Feed il y a ce que l'on croit, il y a ce que l'on sait, il y a ce que l'on croit savoir, il y a ce que les algorithmes savent que l'on peut croire.
Free Speech and Free Reach.
"Quand dire c'est faire" disait Austin. Acte de langage performatif et fonction perlocutoire de la langue. Aujourd'hui la performativité semble s'être déplacée. La fonction perlocutoire est moins conditionnée par des actes de langage que par des actes d'exposition, par des stratégies de visibilité. "Quand dire c'est voir". Nous parlons d'abord de ce que nous voyons. Cela n'est ni nouveau ni propre aux architectures des plateformes du web. Ce qui est nouveau c'est la densité et l'intensité de ces paroles rassemblées, et ce qui est nouveau c'est la question de savoir non pas qui nous montre ce que nous devons voir mais quels déterminismes culturels et sociaux sont arbitrés par des règles algorithmiques de visibilité et d'exposition. De savoir, aussi, dans quelle mesure ils le sont et à quelles fins.
Un éditorial de Wired daté d'Août 2018 titrait sur le fait que "Free speech is not the same as free reach". La liberté d'expression n'est pas la même chose que la liberté d'exposition, que la portée de ce que l'on dit.
Que chacun soit libre de dire et de penser et de montrer ce qu'il veut est une chose. Cette liberté fonde la différence entre un état démocratique et un état autoritaire. Et nous renvoie à la question de la censure évoquée plus haut. Place Tien'anmen. Liberté par ailleurs variable dans l'espace même des démocraties comme autant de différances. Et nous renvoie cette fois à la question du mot "Nazi" évoquée plus haut, délit en France, opinion aux USA.
Que chacun soit libre de dire et de penser et de montrer ce qu'il veut est une chose. Que des architectures techniques, que des artefacts socio-techniques soient à ce point déterminants dans l'exposition de ces opinions individuelles pose en revanche question. Supposer que ces artefacts soient dotés d'une volonté propre est aberrant et concourt à façonner le techno-mythe d'algorithmes omnipotents. Il faut donc poser la seule question qui vaille et qui est celle de la conception humaine de la finalité de ces plateformes et de leurs déterminismes. Et des responsabilités afférentes.
Au sein de l'artefact socio-technique qu'est Facebook, au sein de cette plateforme qui, de manière totalement inédite, rassemble un nombre tout à fait considérable d'êtres humains et d'inférences calculatoires et statistiques déterminantes individuellement et collectivement, la liberté d'expression est avant tout subordonnée à la tolérance des CGU et à la négligence parfois opportuniste de leur application ; et la liberté d'exposition n'est un formidable jeu de dupes. Je ne suis en effet "maître" que de la possibilité de choisir d'atteindre "tout le monde", "mes amis" ou "des amis spécifiques" mais les "audiences invisibles" cumulées à la portée (reach) souvent aussi opaque qu'improbable me rendent doublement dépendant de la plateforme et de ses déterminismes algorithmiques.
L'enjeu est un peu différent pour les moteurs de recherche (Google en l'occurence) puisque n'étant pas "hébergeur" des discours tenus sur le web ou dans d'autres plateformes, la firme ne traite le sujet de la liberté d'expression qu'en seconde main, au travers d'une liberté d'indexation qui l'engage uniquement à partir du moment où l'exposition des discours indexés se dévoile dans ses pages de résultats.
Là encore, comme pour Facebook précédemment, c'est la liberté d'exposition qui engage et qui est le coeur des représentations du monde qu'elle construit et qui sont pour chacun d'entre nous des représentations structurantes. Eminemment structurantes comme le sont celles de Facebook. Qui ne sont naturellement pas les seules, qui ne sont pas exclusives des autres "médias" ou cercles sociaux au milieu desquels nous co-évoluons, mais qui sont, je le répète, aujourd'hui éminemment structurantes sur le plan politique, social et culturel. Ce qu'Anil Dash avait résumé d'une formule :
"La différence entre des individus choisissant les contenus qu'ils lisent et des entreprises choisissant ces contenus à la place des individus affecte toutes les formes de médias."
Dans nos démocraties contemporaines, la question vitale des libertés publiques et individuelles, au travers des garanties de l'expression possible d'idées et d'opinions singulières, est aujourd'hui une question de liberté d'exposition bien plus que de liberté d'expression. C'est à ce titre que la question de la responsabilité des plateformes doit être engagée. Non pas sur le plan de la liberté d'expression (déjà encadrée et définie par la puissance publique, y compris, hélas, dans les régimes les moins démocratiques) mais sur celui de la liberté d'exposition permise ou empêchée par leurs architectures techniques. Qui sont aussi des architectures éditoriales.
L'homme du web et celui de Tien'anmen.
Il y a 30 ans dans quelques jours, au lendemain du commencement d'une sanglante répression donc nul aujourd'hui ne connaît le nombre exact de victimes, un homme seul se dressait devant une colonne de chars. Nous étions en Juin 1989. Trois mois plus tôt, en Mars 1989, Tim Berners Lee inventait le web.
Je me suis souvent demandé ce qui changerait si l'homme de Tien'anmen se dressait, aujourd'hui, devant une colonne de chars, trente ans après l'invention du web.
Ce que nous en aurions vu. Ce que nous en aurions dit. Ce que nous en aurions su. Si le système de "crédit social" lui aurait permis d'être là. Trente ans après l'invention du web, trente ans après le massacre sanglant de la place Tien'anmen, la Chine a décidé de bloquer la totalité de l'encyclopédie Wikipédia, dans toutes les langues. Les régimes autoritaires ou totalitaires ont ceci de précieux qu'ils désignent toujours, à coup sûr et en miroir, les atouts et les alliés les plus précieux d'une démocratie qui entend les combattre. C'est cela qu'est Wikipédia aujourd'hui : la précieuse et mouvante synthèse d'une liberté d'expression et d'une liberté d'exposition au service d'une liberté plus grande encore : celle de comprendre le monde.
