"Je pensais que la haine était la limite de la discussion. Et la haine devient la base de la discussion". Fabrice Arfi. Émission Quotidien du 8/11/2017. A propos de la Une de Charlie Hebdo sur Edwy Plenel.

La foule haineuse et (pas si) anonyme (que ça) se déchaîne une nouvelle fois. Après tant d'autres et pour tant d'autres raisons ce sont cette fois Nadia Daam ou bien encore Eliott Lepers qui sont les victimes expiatoires de cet acharnement haineux qui ne se limite plus à la version "cyber" du harcèlement qu'il révèle mais prend également place dans la vraie vie, n'hésitant pas, n'hésitant plus à poursuivre devant leurs domiciles celles et ceux que l'on aura désigné comme autant de boucs émissaires.

Je ne vais pas ici me Finkielkrautiser en filant la métaphore des égouts du web. Je ne crois pas que le web soit un égout. Ni même qu'il soit dégoutant. Et si je sais que si le flacon ne fait rien à l'ivresse, je sais aussi que les manifestations numériques du harcèlement en changent probablement l'étendue mais certainement pas la nature, ni d'ailleurs la fonction.

J'ai par ailleurs déjà souvent donné mon point de vue sur qu'il faudrait faire pour lutter contre les discours de haine (conférence en 2015, et en 2017, plus la captation de la conf en vidéo, plus d'autres réflexions sur le "financement participatif de la haine").

Je suis tombé par terre, c'est la faute à Twitter, le nez dans le ruisseau, c'est la faute au réseau.

Pour le dire rapidement, dans les récentes affaires de harcèlement qui touchent des personnalités publiques ou des journalistes, la responsabilité, la seule, incombe entièrement aux plateformes. Toutes, je dis bien toutes, de Twitter à Facebook, sont parfaitement capables, quasiment en temps-réel, et sans n'utiliser rien d'autre que leurs algorithmes déjà disponibles, toutes sont parfaitement capables de repérer et de qualifier ces actions de harcèlement à grande échelle adressés à une personnalité publique. Et toutes ces plateformes sont de la même manière parfaitement capables de suspendre immédiatement les comptes harceleurs. Toutes sont par ailleurs libres de continuer d'externaliser leurs politiques de modération à des ouvriers et ouvrières sous-payées aux Phillippines parce que ce travail est trop "sale" ou trop mal payé ou trop violent psychologiquement pour l'installer aux Etats-Unis (siège social) ou en Irlande (siège fiscal), mais c'est (presque) un autre sujet.

Mais oui, Twitter et Facebook sont capables de faire immédiatement cesser ces campagnes de harcèlement. Ils en sont "capables" au sens premier c'est à dire qu'ils en ont et la capacité et la compétence et le pouvoir. Et cela tout le monde le sait. Ceux qui feignent de l'ignorer, de le dissimuler ou d'affirmer l'inverse sont soit des incompétents soit des menteurs.

Tout le monde a également compris que la solution viendrait pour moitié au moins, non pas des "utilisateurs" mais des "citoyens", tant que ceux-ci sont capables de mettre à mal le poumon publicitaire de certains sites / forums, sites et forums aussi parfaitement identifiables qu'ils sont parfaitement nauséabonds. L'initiative Sleeping Giants commence d'ailleurs à faire tâche d'huile et c'est tant mieux. Car oui, il y a bien de la pub sur le forum 18-25 nonobstant les éhontés mensonges de la directrice de Webedia, la société qui possède et héberge ledit forum. Et oui, assécher la source de financement qui rend possible l'existence de ces espaces entièrement dédiés aux discours haineux est une stratégie efficace. Pas suffisante, mais efficace.

Le harcèlement est d'abord une question de contexte. Et de loi. Mais la loi, elle, ne varie pas. Le harcèlement dans un contexte scolaire doit être traité par les acteurs du système scolaire. En faisant appliquer la loi. Le harcèlement dans un contexte professionnel doit être traité devant les instances représentatives concernées. En faisant appliquer la loi. Et ainsi de suite. Le harcèlement dans l'espace public, dès lors qu'il prend la forme d'une manifestation publique, doit être traité par la puissance publique. En faisant appliquer la loi. Et le harcèlement dans le cadre de ces plateformes privées qui jouent et instrumentalisent en permanence des énoncés semi-publics (parce que plein de monde les voient) et semi-privés (parce que l'on n'est pas pour autant dans un espace public), le harcèlement dans le cadre de ces plateformes doit être, en priorité, traité par ces plateformes privées. En faisant appliquer la loi.

Toute la loi. Rien que la loi. Qui que l'on soit.

Rien n'est compliqué pour résoudre ce problème du harcèlement.

Sauf si le problème compliqué est celui de virer des utilisateurs qui sont avant tout des clients.

Je le redis, Twitter peut très facilement suspendre momentanément ou définitivement, les comptes à l'origine du harcèlement dont sont victimes Nadia Daam, Eliott Lepers et tous leurs hélas nombreux prédécesseurs. Mais Twitter ne veut pas le faire. Car virer des clients ce n'est jamais bon pour le business. Il se sert donc en général de deux arguments : primo les comptes fermés ou suspendus seraient immédiatement recréés sous un autre nom ou pseudo, et deuxio il serait compliqué de savoir où commence réellement le harcèlement. Le tout abrité derrière le rempart de ses CGU, quand ça l'arrange, et en annonçant des modifications à la marge, des "clarifications", quand ça commence à trop se voir qu'ils font n'importe quoi. Ces deux arguments sont deux pures arguties.

L'argument selon lequel les comptes suspendus seraient recréés presqu'aussitôt sous un autre nom ne tient pas une seule seconde car l'immensité des "harceleurs" ne se recréeraient pas de compte ; ou plus exactement, si la politique de Twitter en la matière était de faire preuve de fermeté, l'immensité de ces harceleurs-suiveurs ne prendrait plus le risque de voir leurs comptes bloqués ou suspendus.

Et l'autre argument qui consiste à indiquer qu'il est difficile de savoir où commence la qualification juridique du harcèlement est aussi inepte en droit qu'il est humiliant pour les victimes.

Car enfin, pour mettre de l'intelligence artificielle dans des putains de frigos qui parlent alors là on a des algorithmes et des process hyper-méga compétitifs et des bataillons de start-ups en mode lean-management de mes burnes. Mais quand il s'agit de repérer et de bloquer des comptes appelant "à violer ou sodomiser cette nana" ou "à aller buter les enfants de ce fils de pute à la sortie de l'école", quand une personnalité publique est la cible d'insultes et de menaces répétées, quand il s'agit de repérer et de bloquer des comptes relayant ce genre de messages et s'en rendant donc complices, alors là ben l'algorithmie redevient compliquée et l'analyse du langage naturel n'a visiblement pas fait le moindre progrès depuis les années 20. 1920. Un peu à l'image de la société Webedia qui a tenté, à l'arrache et devant le tollé suscité par l'affaire du forum 18-25, de faire fonctionner un algorithme de cours élémentaire 2ème année pour détecter des mots-clés "interdits". Et je ne te parle même pas de ces victimes de harcèlement qui osent, elles, balancer le nom ou le numéro d'un agresseur ou d'une personnalité ayant tu ces agressions alors qu'elle était au courant. Là bizarrement leur compte est immédiatement bloqué parce qu'il contrevient aux CGU de la plateforme.

Non mais sérieusement … Qui peut croire que Twitter n'est pas en capacité de détecter ces tweets caractérisés en droit comme du harcèlement ou des appels à la haine ? Qui peut croire que Facebook ignore l'existence de forums néo-nazis ou anti-sémites ? Qui peut croire qu'un appel au viol explicite ou que d'autres manifestations tout aussi explicites de la haine soient difficilement caractérisables en droit ? Qui peut imaginer une seule seconde que les mêmes algorithmes qui sont en capacité de réguler en temps réel des milliards d'interactions et de trier et d'organiser des millions d'informations seraient incapables d'isoler tant structurellement que linguistiquement des comportements et des mots relevant du harcèlement et d'en référer à la justice lorsque c'est nécessaire ? Qui peut sérieusement envisager que lors de déferlements organisés de violence à l'égard, qui plus est, d'une personnalité publique, ces plateformes n'ont pas le temps, les moyens ou les compétences pour mettre fin à ces déferlements ?? Ne serait-on pas un tout petit peu en train de nous prendre pour des buses ?

Un secret peut-être partagé.

Permettez-moi un instant de faire une analogie avec ce qui se passe dans le monde médical, du côté des soignants. Les soignants sont soumis à ce que l'on appelle le "secret médical" qui est en fait un "secret professionnel", lequel n'est pas négociable mais peut dans certaines circonstances prendre la forme d'un "secret partagé" (au sein d'une équipe). Et ce "secret" n'empêche pas que les mêmes soignants soient également tenus à une obligation de dénonciation, notamment pour certains faits commis sur des enfants (vous retrouverez toutes ces infos notamment par ici pour les soins infirmiers mais cela vaut pour l'ensemble des professions de santé).

En plus de ceux déjà évoqués plus haut, l'un des arguments des plateformes (de Twitter à Facebook en passant pas Google ou Apple) est souvent d'invoquer une forme de "double secret professionnel" : la formule "secrète" de l'algorithme qui empêche de savoir comment il fonctionne et empêche donc également le législateur de vérifier s'il est en capacité d'effectuer certaines actions, et le "secret" lié à leur politique de confidentialité (secret des "données"). Et bien j'ai la conviction profonde (et accessoirement argumentée) que tout cela est du pur #Bullshit et représente un réel danger pour nos démocraties à moyen terme.

Il est nécessaire et urgent que ces plateformes soient, comme le sont les soignants, et à l'échelle du nombre d'usagers qu'elles rassemblent, soumises à des secrets partagés avec, par exemple, des représentants de la puissance publique. Et il faut qu'elles aient une obligation de dénonciation dans des cas relevant, par exemple, de harcèlement, et parfaitement caractérisés en droit. Et il est tout aussi urgent de les sanctionner pénalement et financièrement si elles ne le font pas.

Ou alors il faut les nationaliser 😉

Mais l'objet n'est pas ici de traiter de la question du cyber-harcèlement. Ce qui m'intrigue et me fascine est la manière dont, en moins d'une dizaine d'années (ce qui est certes énorme à l'échelle d'un média qui n'a que 25 ans), la qualification et la représentation de la figure de "la foule anonyme" s'est polarisée à l'inverse de ce qu'elle était au départ. Et c'est cela dont je vais maintenant vous parler 🙂

Comment sommes-nous passés de la "sagesse des foules" à la "folie des foules" ?

Comment … et pourquoi ? Mon hypothèse est la suivante : les effort conjugués et systémiques d'un capitalisme de la surveillance et l'émergence là encore systémique de formes toujours plus aliénantes de Digital Labor ont facilité et peuvent permettre d'expliquer en partie cette bascule dans les représentations que nous avons de la "foule". L'alliance du Digital Labor et du capitalisme de la surveillance ont en partie fabriqué ces foules haineuses, qui peuvent être perçues comme les stigmates inquiétants d'un totalitarisme annoncé.

Foules haineuses dont il ne s'agit jamais de nier l'existence mais dont il faut aussi rappeler, à l'échelle des 3 milliards de personnes disposant d'un accès à internet et au web, qu'un groupuscule de connards décérébrés restera un groupuscule de connards décérébrés bénéficiant de la "tyrannie des agissants" décrite – notamment – par Dominique Cardon. Groupuscule qu'aucune détresse affective ni aucune misère sexuelle ne saurait excuser (même si cela permet de l'expliquer pour partie, bisous Manuel Valls).

Et que si nuisibles, nocifs, toxiques, et dangereux soient-ils, ces agrégats temporaires et opportunistes de connards décérébrés ne sont que la partie hélas visible d'un iceberg d'échanges et de relations sociales par ailleurs parfaitement respectueux et le plus souvent féconds et que l'on appelait hier encore "le web" et qui, c'est vrai, se réduit comme peau de chagrin dans l'ombre des plateformes.

L'amour spéculatif … de la haine.

Question. Si, comme je l'ai affirmé plus haut, ces plateformes ont en effet les moyens et les compétences pour mettre rapidement fin à ces campagnes de harcèlement organisées, la question est alors de savoir pourquoi elles ne le font pas, ou si peu ou si mal ?

Réponse. Si ces plateformes paraissent si inefficaces dans la lutte contre le harcèlement, c'est parce qu'à l'échelle du capitalisme linguistique qui est leur modèle, le harcèlement est perçu analysé et traité comme la forme spéculative du discours haineux. Et que cette forme de spéculation est économiquement féconde puisqu'elle alimente en interactions lesdites plateformes. Laisser se déployer la volumétrie des logiques de harcèlement, ou refuser de prendre les mesures nécessaires pour les stopper rapidement et efficacement, équivaut, aussi trivialement que cyniquement, à entretenir la spéculation linguistique sur des logiques de haine, de détestation, de stigmatisation, de colère, etc. Et quand on est une plateforme qui repose sur un triptyque capitaliste (capitalisme linguistique, cognitif et "de la surveillance"), on ne combat jamais la spéculation : on l'entretient, on crée les conditions de son existence, on la rend possible, on la facilite.

Nota-Bene (parce que tout cela est très triste mais qu'il ne faut jamais voir que le côté obscur de la force) : de la même manière, les threads quasi-infinis ou les milliers ou dizaines de milliers de reprises et partages de mèmes et autres lolcats participent de la même logique de spéculation discursive. Il s'agit de créer les conditions de l'emballement et d'entretenir cet emballement dès qu'il se manifeste.

La sagesse des foules.

L'histoire raconte qu'en 1906, lors d’une foire agricole, un homme a tenté de vérifier jusqu’à quel point un groupe de 787 personnes pourrait déterminer le poids exact d’un bœuf. Quand le poids du bœuf a été révélé (543 kg), il en est ressorti que l’estimation de la multitude avait été de … 542,5 kg.

On trouve cette histoire dans le livre "La sagesse des foules" de James Surowiecki, paru en 2004, quelques mois à peine après la mise en ligne de la première version de "The Facebook". Le titre du livre de Surowiecki est lui-même un clin d'oeil au Best-Seller du 19ème siècle de Charles Mackay, "Extraordinary Popular Delusions and the Madness of Crowds" (Les Délires collectifs extraordinaires et la folie des foules), paru en 1841 donc. Chez Mackay, cette "folie" et des "délires collectifs" s'exemplifient autour de la théorisation des effets de "bulle économique", avec la "crise de la tulipe" qui se produisit en Hollande et fut le premier "Krach financier". Théorie qui sera ensuite notamment reprise par Kenneth Galbraith dans son ouvrage "Brève histoire de l'euphorie financière".

L'ouvrage de Mackay comprend aussi un chapitre sur les maisons hantées, où il explique que ce sont en général les personnes faibles et crédules qui éprouvent de l'attirance pour ce genre d'endroits, alors même que ce sont aussi les personnes plus plus portées à y voir des fantômes, renforçant et perpétuant du même coup l'imaginaire et la croyance autour des maisons hantées. Soit une forme de boucle rétroactive de déterminisme. Bref et plus globalement, pour Mackay :

"Les gens, on le sait, pensent en troupeaux ; on peut également voir qu’ils deviennent fous en troupeaux et récupèrent seulement la sagesse lentement, un à un."

Et c'est cette idée dont Surowiecki va prendre intelligemment le contrepied en démontrant un certain nombre de principes caractéristiques de la sagesse des foules, principes dont je vous parlais déjà dans ce vieil article :

Collectivement les gens en savent plus que ce que les gens en haut croient.
Un groupe avec un QI moyen plus faible sera meilleur pour résoudre un problème qu’un groupe de gens avec un profil homogènes et un QI moyen plus élevé, grâce à leur diversité (origine, expérience, âge, formation…).
Avec un groupe homogène, plus les membres parlent, plus il devient stupide.
Il faut encourager les désaccords et les opinions dissonantes.
Les leaders doivent diminuer lors propre influence dans un processus de résolution de problèmes et éviter de s’entourer de gens qui pensent comme eux,
La diversité est la clé d’une foule intelligente, la diversité à deux niveaux tout particulièrement :
- Perspective (la façon de percevoir un problème)
- Heuristique (la façon de régler un problème)
Les groupes sont plus intelligents quand les gens agissent individuellement.

Il ne s'agit donc pas d'affirmer que les foules sont par nature intelligentes, à l'opposé de l'idée de l'effet de meute et des comportements grégaires qu'il produit, mais tout au contraire de montrer qu'à une certaine échelle, au-delà de certains seuils et dans le cadre de logique particulières (concourir à l'amélioration d'un système par exemple), bref, que si certaines conditions sont réunies, les comportements de foule peuvent s'avérer réellement collaboratifs et vertueux.

La sagesse des foules a par ailleurs une nature paradoxale, presque contre-intuitive :

"Le paradoxe de la sagesse des foules est que les meilleures décisions de groupe proviennent d’un grand nombre de décisions individuelles indépendantes. […] La sagesse des foules n’est pas affaire de consensus. Elle émerge en fait des désaccords et même des conflits. C’est ce qu’on pourrait appeler l’opinion moyenne du groupe, mais il ne s’agit pas d’une opinion avec laquelle chacun dans le groupe peut être d’accord. Cela veut donc dire qu’on ne peut pas trouver la sagesse des foules dans le compromis."

La folie des foules.

Si l'idée de Surowiecki d'une "sagesse des foules" eut en effet son heure de gloire, et si bien avant la parution du bouquin éponyme, des systèmes techniques furent entièrement bâtis sur ses principes (à commencer par la "philosophie" de l'algorithme du Pagerank), aujourd'hui l'idée même d'une foule intelligente et coopérative ou collaborative semble parfaitement contre-intuitive tant l'espace médiatique est saturé de faits-divers en prenant le contrepied direct, dont les affaires de harcèlement évoquées plus haut.

Pourtant la sagesse des foules, en tout cas les principes posés par Surowiecki sont toujours opératoires. Ce sont leurs conditions d'exercice qui ont varié. En 2004, lorsque paraît le livre, Facebook n'existe pas comme l'entreprise tentaculaire que nous connaissons aujourd'hui. C'est la puissance conjuguée d'un bouleversement des pratiques et des modes de connexion au sein d'environnements eux-mêmes désormais davantage fermés qu'ouverts (les "jardins fermés" dénoncés par Tim Berners Lee) qui va rendre presqu'impossible la mise en oeuvre des conditions d'existence d'une sagesse des foules. Le règne des plateformes, l'individuation programmatique plus que la personnalisation marchande, et les autres "bulles de filtre" vont achever de rendre presqu'impossible l'expression "sage" de foules que l'on convoque et qui naviguent, dans ces plateformes, entre différentes injonctions souvent contradictoires.

Ainsi, Facebook se trouve peuplé de groupes profondément homogènes qui neutralisent ou pénalisent les actions individuelles alors qu'ils donnent en revanche une prime au suivisme et à la polarisation des opinions. La même homogénéité relative que l'on retrouve sur le forum 18-25 et sa misère sexuelle. Plus globalement, la nature même du réseau et l'organisation sociale qui en dépend, dès lors qu'elle favorise les logiques d'hyper-concentrations – que cette hyper-concentration soit humaine, sociale, technique ou capitalistique – rend inopérante ou inaudible les effets de la sagesse des foules, laquelle ne s'exerce "naturellement" que dans des environnement décentralisés et (relativement) ouverts.

"les groupes fonctionnent mieux que les individualités si et seulement si quatre conditions s’accomplissent : une diversité d’opinions, de décentralisation, d’indépendance et des mécanismes d’addition de la multitude ; sous les dites circonstances, chaque individu apporte et évalue une partie de l’information pour, auprès du reste des individus, atteindre un verdict collectif." écrit Surowiecki

L'effet d'agglutination consécutif à la sociabilité de plateformes dans lesquelles la proximité s'efface devant la promiscuité, exacerbe ce que René Girard appelait le désir mimétique en ce qu'il est d'abord l'imitation du désir de l'autre et "conduit souvent à des formes de rivalité mimétique dont les effets pervers sont la jalousie, la haine ou l'envie". La suite est très bien expliquée par Simone Manon sur le site Philolog (je souligne) :

"Seul l'être qui nous empêche de satisfaire un désir qu'il nous a lui-même suggéré est vraiment objet de haine. Celui qui hait se hait d'abord lui-même en raison de l'admiration secrète que recèle sa haine." écrit Girard. Comprendre que les hommes sont dans des rapports de rivalité mimétique revient ainsi à prendre conscience que plus une société devient égalitaire plus elle suscite l'envie entre ses membres car la moindre différence inégalement valorisée peut la susciter."

Plus une plateforme devient égalitaire et plus elle suscite l'envie entre ses membres car la moindre différence inégalement valorisée peut la susciter. Limpide non ?

Le Krach du Crowd.

En 2004 donc, paraît l'ouvrage "la sagesse des foules". Et Zuckerberg met en ligne la première version de "The Facebook". En à peine quatre ans, tout va basculer. C'est en effet en 2008 que Nicolas Carr publie dans The Atlantic un papier qui va faire date et titré : "Google nous rend-il idiots ?"

A compter de ce moment, tous les rêves d'intelligence collective vont s'effondrer et avec eux les utopies structurelles de l'internet et du web. Le temps de la massification sera aussi celui des désillusions. La foule avait été intelligente et le web collaboratif. On avait quand même, excusez du peu, inventé ce qui reste comme l'une des plus fascinantes constructions intellectuelles de l'humanité : Wikipedia. Mais tout cela était bel et bien fini. Désormais Google allait nous rendre idiots, le clickbait déferler sur la presse comme la vérole sur le bas-clergé, Facebook allait chevaucher le rêve sécuritaire, les Fake News et la post-vérité envahir le monde, et les pédo-nazis régner sur 4Chan. Alain Finkielkraut se caressait en silence. Ce n'était pas que Google. C'était l'internet et le web dans leur entier qui nous rendaient stupides. A moins que …

Et une nouvelle fois se le répéter :

Plus une plateforme devient égalitaire et plus elle suscite l'envie entre ses membres car la moindre différence inégalement valorisée peut la susciter.

Si l'on voulait revenir aux principes de la sagesse des foules, en recréer les conditions d'existence, il nous faudrait impérativement sortir des logiques actuelles d'hyperconcentration et de monopole. La sagesse des foules n'était pas encore morte, mais les jardins fermés étaient en train de l'enterrer vivante. Et comme disait ma grand-mère, "on n'avait pas le cul sorti des ronces" :-/

Dans la sillage de l'oubli dans lequel a sombré cette idée d'une sagesse des foules, les notions de coopération et de collaboration qui faisaient office de mantras au temps du web dit "2.0", ont elles aussi sombré. Vous aviez aimé le web collaboratif ? Vous adorerez le web roboratif de ces plateformes coercitives.

De manière finalement assez logique, le mot même de "foule" s'est retrouvé cantonné au rôle de sideman pour des notions relevant uniquement de la sphère économique et financière : et l'on vit ainsi fleurir le Crowd-funding, le Crowd-sourcing et autre Crowd-lending. La foule n'était plus qu'un gigantesque portefeuille. Et il n'y avait que le portefeuille qui comptait. Le grand hold-up métonymique. La partie prise pour le tout. Et les gens pris pour des cons dès qu'on est né connecté alors qu'on est …

Une foule sentimentale.

Parce qu'en effet on a soif d'idéal, mais il faut voir comme on nous parle. Comme on nous parle. Car Souchon avait raison. La foule, la vraie, celle qui en tout cas intéresse désormais les plateformes n'est plus ni sage ni stupide. Elle est sentimentale. Elle est traversée d'émotions qu'il faut à tout prix capter car ces données là n'ont pas de prix.

La foule était sentimentale, les données émotionnelles, l'informatique affective, et avec elle c'est tout le web qui devenait affectif.

Il faut voir comme on nous parle. Comme on nous parle.

==================================================================================

Cet article m'a été inspiré par le lecture de celui de Tim Hwang : "The Madness of the Crowd"