Attaque par déni d’opinion

Dans mon panoptique informationnel en ce moment se rencontrent deux infos.

D'abord celle de la gigantesque attaque concertée dont serait victime internet, attaque initialement signalée par Bruce Schneier. Ce qui fait dire au camarade Xavier de La Porte (et pas qu'à lui) que "Quelqu'un se prépare à détruire internet."

Et puis il y a bien sûr l'hallucinant et glaçant témoignage de cet universitaire victime de violences policières. Un témoignage relayé sur Facebook par un de ses collègues enseignants, la victime souhaitant d'abord garder l'anonymat. La viralité de ce post Facebook fut énorme et immédiate. On le sait, les émotions qui se propagent le mieux sont celles relevant de la colère et de l'indignation. Et là niveau colère et indignation, nous fûmes servis. L'affaire s'étale aujourd'hui dans (presque) toute la presse, un dépôt de plainte est en cours auprès de la police des polices. Mais là n'est pas mon sujet. Guillaume Mazeau, qui a d'abord diffusé ce témoignage initialement anonyme sur son compte Facebook a vu sa publication rendue inaccessible pour "non-conformité aux standards de la communauté Facebook". Ces standards communautaires sont disponibles ici et vous pourrez chercher, vous n'y trouverez rien qui concerne la suppression d'un témoignage anonyme de victime de violences policières. A moins que la non-conformité visée soit celle d'une atteinte à l'image de la police nationale, ou bien encore que ce soient les insultes émaillant le témoignage ("Sale PD" est parmi les plus soft) qui n'aient alerté les modérateurs ou l'algorithme sourcilleux de Facebook, sur un post dont le taux de viralité était repéré comme anormalement élevé au regard de la page personnelle sur laquelle il avait été publié.

Résultat, le post est supprimé du compte de Guillaume Mazeau mais également de l'ensemble des comptes qui l'avaient "partagé".

Heureusement si l'on peut dire, un autre régime médiatique a, entre temps, pris le relai, et ce témoignage se trouve presque immédiatement relayé sur Mediapart, puis Libération, etc, etc.

Nombre de médias et d'analystes soulignent ce matin l'affreuse "censure" de Facebook sur ce post. Mais la réalité est plus complexe que cela. Facebook n'a rien "censuré", pas en tout cas au sens où l'on entend habituellement le terme de censure. Il y a bien censure c'est à dire "limitation arbitraire ou doctrinale de la liberté d'expression de chacun", mais Facebook en tant qu'entité n'a rien censuré directement.

Attaque DDoO (Distributed Denial Of Opinion)

Si le post de Guillaume Mazeau a été supprimé, c'est parce qu'il a été victime (le post) d'une attaque massive en déni d'opinion. Comme il n'enfreint en rien les standards communautaires, la seule explication plausible est qu'il ait été signalé en masse par une fachosphère très organisée et formée aux logiques de viralité du réseau, et que ladite fachosphère ait coché l'une des cases suivantes :

Pour autant qu'on soit au courant du fonctionnement de la modération (humaine et algorithmique) sur Facebook, c'est à dire assez peu, celle-ci n'intervient pas en première intention sur des publications ou des profils signalés. Seuls comptent pour l'algorithme le nombre et la fréquence (ramassée dans le temps) des signalements. Ce n'est que dans une infime minorité de cas (personnalités publiques ou affaire relayées dans la presse et capables de porter atteinte à l'image du réseau social) que Facebook réexamine dans un second temps les publications incriminées pour voir si elles enfreignent réellement ou non ses "standards communautaires", et accepte parfois de les rétablir <Mise à jour en cours de rédaction> Ben voilà le post en question vient d'être rétabli sans que Facebook ne fournisse la moindre explication </Mise à jour>.

Mais revenons-en à l'objet de ce billet. Oui, des forces obscures sont à l'oeuvre sur les internets. Les premières cherche(raient) à détruire internet en multipliant les attaques par déni de service (DDoS Distributed Denial Of Service). Les secondes se jouent des règles de l'éditorialisation algorithmique en multipliant les attaques par déni d'opinion (Distributed Denial Of Opinion).

Ces attaques fonctionnent exactement de la même manière.

Elles supposent l'intervention d'un collectif organisé et structuré mais autant que possible difficilement traçable parce que réparti en une foule de lieux/points divers.

Elles partagent l'objectif tactique plus que stratégique de "faire tomber" un site, une plateforme, une publication ciblée, une opinion gênante ou contraire à la doxa ou à l'idéologie dont elles se réclament.

Enfin, autre point commun, lorsqu'un site "tombe", c'est tout un écosystème de sites tiers qui tombe aussi. Lorsque des hackers ciblent une banque via une attaque par déni de service, c'est l'ensemble des enseignes partenaires ou utilisant les solutions de paiement de cette banque qui se trouvent également en carafe. Dans le cadre de l'attaque par déni d'opinion, lorsque le post de Guillaume Mazeau "tombe", c'est également l'ensemble des profils qui l'avaient partagé ou republié qui se trouvent également atteints.

Pour combattre ces attaques l'erreur serait de se tromper d'ennemi : dans l'exemple de la photo de la petite fille vietnamienne fuyant nue sous les bombes, c'est un programme informatique d'analyse d'image, développé par Facebook, qui est intervenu pour la supprimer, comme d'ailleurs pour l'origine du monde de Courbet : dans ces cas-là il s'agit donc bien d'une censure de et par Facebook. Mais dans l'affaire du témoignage publié par Guillaume Mazeau sur son compte, ce n'est pas Facebook qui "censure" mais un collectif fascisant qui joue avec l'algorithme pour le manipuler. Comme en d'autres temps et de manière plus légère, des collectifs organisés pouvaient jouer et se jouer de l'algorithme de Google pour associer le mot-clé "trou du cul" à la biographie d'un locataire de l'Elysée. 

Alors que faire ? Au moins trois choses.

Prendre le temps de réfléchir aux logiques d'éditorialisation algorithmique et rendre publique la partie du code assimilable à des logiques d'éditorialisation classiques. Des années que je ressasse tout ça mais on finira bien par y venir … 🙂

Ensuite se saisir de l'opportunité que les plateformes nous offrent (encore un peu) en termes de régulations et de négociations collectives : ces plateformes ne vivent et ne tiennent que par les régimes d'interaction qui les sous-tendent et par l'image qu'elles renvoient et qu'elles veulent aussi lisse, neutre et positive que possible. L'essentiel des combats gagnés autour de la "privacy" ne l'ont pas été en justice mais dans cet espace de négociation collective qu'offre "l'opinion" et la masse des utilisateurs concernés.

Enfin, permettre au législateur de s'exprimer. Non pas pour "civiliser l'internet" (N. Sarkozy) cet "incubateur de Djihadistes" (A. Juppé), non pas pour criminaliser la lecture ou la consultation de tel ou tel type de site, mais pour mieux définir et encadrer ce qui, par exemple, relève d'un "délit d'entrave" à l'IVG, pour lui permettre de combler quelques vides juridiques béants plutôt que de multiplier les régimes juridiques naturellement incompatibles avec la nature même du réseau en termes de plasticité, d'évolutivité, de réactivité et de volumétrie des contenus supportés ou diffusés. 

Et puis surtout, surtout … ne jamais laisser l'opportunité aux plateformes d'être à la fois juge et partie, y compris dans la résolution des conflits d'opinion ou des logiques propagandistes de tous poils qui les agitent et les structurent. Ne jamais cesser de leur demander des comptes, des explications, des preuves de la manière dont elles opèrent.

Je me souviens d'une histoire que je raconte souvent à mes étudiants.

Au tout début des publicités Adwords, aux USA, le lobby chrétien traditionnaliste "pro-vie" (anti-IVG) avait lancé une campagne publicitaire massive d'achats de mots-clés. A l'époque il était possible d'insérer des images dans les liens sponsorisés. Les images choisies pour "illustrer" cette campagne étaient ignobles (foetus avortés en gros plan). Lorsque l'on effectuait une recherche sur l'interruption volontaire de grossesse, on se trouvait ainsi "cerné" par, d'un côté, des liens sponsorisés remplis d'images immondes du lobby pro-vie, et de l'autre par des liens organiques également majoritairement hostiles à l'IVG étant donné que le même lobby disposait également de ressources financières et d'une stratégie de référencement naturel dont les associations du planning familial ne disposaient pas ou dont elles n'avaient pas le temps de s'occuper. Suite à la polémique qui se déclencha, Google décida alors de modifier les règles d'affichage de ses liens sponsorisés en deux temps : d'abord en interdisant d'y inclure des images, ensuite en interdisant d'y pratiquer toute forme de prosélytisme dans ses "Guidelines" :

"Ainsi, la promotion du contenu suivant n'est pas autorisée :

• Contenu incitant à la haine, à la violence, au harcèlement, au racisme, à l'intolérance sur la base de l'orientation sexuelle, des convictions religieuses ou politiques, ou relatif à toute organisation prônant de tels actes
• Contenu susceptible de choquer ou de répugner."

Même si je ne compte pas – mais alors vraiment pas – parmi les défenseurs des "jardins fermés", ces plateformes disposent d'une réactivité et d'une plasticité qui leur permet de réguler, au nom de la morale, du respect de l'autre ou de la paix sociale, les tentatives d'instrumentalisation dont elles sont la cible (même si in fine c'est davantage la défense de leur image de neutralité et l'optimisation des marges de leur rente publicitaire qui prennent le pas sur toute considération morale ou éthique …). Donc ces plateformes réagissent, adaptent et font évoluer leurs CGU (conditions générales d'utilisation) et c'est, parfois, plutôt une bonne nouvelle. A la seule condition que ces évolutions soient elles-mêmes inscrites dans un corpus juridique dont elles n'ont pas la possibilité de s'abstraire ou de s'affranchir. Pour reprendre l'histoire de la campagne anti-IVG, laisser la seule appréciation de ce prosélytisme à Google nous aurait exposé à de dangereux revirements de situation. Et si Google a modifié ses CGU publicitaires c'est aussi et surtout car il existe une loi sur le droit à l'avortement et un délit d'entrave à l'IVG.

Le code et la loi. Déjà très vieux mais chaque jour plus essentiel débat.

Moralité.

Si le plus grand danger auquel le Net (l'infrastructure du réseau) est aujourd'hui exposé est celui d'une attaque DOS (Denial Of Service) massive, le plus grand danger auquel le Web est aujourd'hui exposé est celui de ces attaques par déni d'opinion. Des attaques qui peuvent émaner de collectifs plus ou moins organisés et militants, mais également être instrumentalisées par les plateformes elles-mêmes, parfois en toute conscience et de manière assumée, parfois "à l'insu de leur plein gré" et au gré d'évolutions sociétales pour l'essentiel imprévisibles et de boucles algorithmiques qui ne peuvent gérer efficacement que le prévisible. Mais dans l'un comme dans l'autre cas c'est la nature discrétionnaire de ce déni d'opinion qu'il convient de lever si l'on veut être capable de combattre correctement toutes les formes de censure, d'où qu'elles émanent, et quelles qu'en soient les procédés et l'origine. 

En d'autres termes, parvenir à articuler la territorialité juridique du délit d'opinion avec la déterritorialisation du déni d'opinion permise par les différentes plateformes. Voilà, parmi d'autres, un des enjeux essentiels de notre siècle.