Comment fait-on pour que les hommes cessent de violer ?

C'est le dernier shitstorm en date sur Twitter. Les comptes (initialement militants et féministes) qui ont publié cette phrase se sont trouvés bloqués ou suspendus. 

En suspens la phrase : "Comment fait-on pour que les hommes cessent de violer ?"

Pourtant cette phrase n'est pas agressive, pourtant elle n'est pas insultante, pourtant elle est même conforme à la réalité sociologique du viol (bah oui, la majorité des violeurs sont des hommes, voir – notamment – les travaux que mène la sociologue Véronique Le Goaziou depuis plus de 15 ans). 

Sur les faits eux-mêmes, la suspension a été levée, les tweets supprimés ont été rétablis, et Twitter France a plaidé … "l'erreur de modération" (sic). On pourrait donc en rester là. Mais comme tout cela me semble assez révélateur et intéressant de phénomènes (et d'erreurs ou d'excuses) de plus en plus fréquent.e.s et qu'un arbitraire total semble toujours de mise, je vais quand même vous en toucher deux mots 🙂

Cet épisode est "intéressant" à plus d'un titre si on l'observe uniquement pour comprendre la manière dont il structure les échanges autour de "faits de société" à l'échelle des médias sociaux, une structuration d'autant plus paroxystique qu'elle met en scène une articulation entre les dimensions privées du fait concerné et la caractérisation publique qui le rend soit insupportable et condamnable, soit l'élève au rang de cause que l'on ne peut que soutenir. Cette dimension paroxystique tient à la nature même des médias sociaux, espaces depuis l'origine semi-publics ou semi-privés et qui ne sont jamais aussi féconds, puissants mais aussi dangereux dès lors qu'y sont traités des sujets ou des faits qui eux-mêmes relèvent d'une articulation entre la dimension privée ou intime de l'action et la vertu publique de la parole.

"Voici un assassinat : s'il est politique, c'est une information,
s'il ne l'est pas, c'est un fait divers."

Voilà ce qu'écrivait Roland Barthes dans le chapitre "Structure du fait divers" (accessible en pdf) de ses Essais Critiques (1964). 56 ans après lui nous pourrions écrire : "Voici un tweet : s'il est politique, c'est une information, s'il ne l'est pas, c'est un fait divers." 

"Comment fait-on pour que les hommes cessent de violer ?"

Ce tweet est (évidemment) politique, c'est (donc) une information. C'est aussi un fait divers. Car il n'est (évidemment) pas que politique. Reste que chaque viol est un assassinat. 

Barthes qui dans le même texte toujours à propos du fait divers écrivait aussi : 

"le fait divers, au contraire, est une information totale, ou plus exactement, immanente; il contient en soi tout son savoir : point besoin de connaître rien du monde pour consommer un fait divers; il ne renvoie formellement à rien d'autre qu'à lui-même; bien sûr, son contenu n'est pas étranger au monde : désastres, meurtres, enlèvements, agressions, accidents, vols, bizarreries, tout cela renvoie à l'homme, à son histoire, à son aliénation, à ses fantasmes, à ses rêves, à ses peurs : une idéologie et une psychanalyse du fait divers sont possibles; mais il s'agit là d'un monde dont la connaissance n'est jamais qu'intellectuelle, analytique, élaborée au second degré par celui qui parle du fait divers, non par celui qui le consomme; au niveau de la lecture, tout est donné dans un fait divers ; ses circonstances, ses causes, son passé, son issue; sans durée et sans contexte, il constitue un être immédiat, total, qui ne renvoie, du moins formellement, à rien d'implicite; c'est en cela qu'il s'apparente à la nouvelle et au conte, et non plus au roman. C'est son immanence qui définit le fait divers."

Je crois que c'est la définition la plus juste de ce qu'est un "Tweet" : une information totale et immanente.

Mais alors : "Comment fait-on pour que les hommes cessent de violer ?"

Avec cette nuance d'importance tout de même qui est le propre de la nature numérique des faits et de leurs expressions publiques ou semi-publiques : à la différence du fait divers de Barthes, le "tweet" comme unité de discours renvoie formellement à tout autre chose qu'à lui-même. Et ce en permanence.

Roland Barthes encore : 

"Il n'y a pas de fait divers sans étonnement (écrire, c'est s'étonner) ; or, rapporté à une cause, l'étonnement implique toujours un trouble, puisque dans notre civilisation, tout ailleurs de la cause semble se situer plus ou moins déclarativement en marge de la nature, ou du moins du naturel."

"Ecrire c'est s'étonner". Dans ses travées, dans ses tracas et ses travers, Twitter est cette écriture de l'étonnement, c'est à dire cette écriture d'un trouble. Il n'est en tout cas jamais aussi puissant et efficace que dans ces cas là. Et ce n'est pas un hasard si nombre de luttes et de minorités qui sont autant de troubles, naissent et s'expriment en ce réseau plutôt qu'en d'autres et y trouvent écho, même si de ces échos peuvent aussi naître d'autres troubles et d'autres violences. L'écriture de l'étonnement. L'écriture d'un trouble.  

S'étonner ensuite du trouble qui naît de la question : "Comment fait-on pour que les hommes cessent de violer ?"

Comment fait-on pour que Twitter cesse de suspendre ?

Le pendant de l'étonnement, le pendant de la surprise, c'est de suspendre. A trop vouloir surprendre, Twitter suspend. Une nouvelle trilogie :

surprise > suspicion > suspension

Les effets de surprise qui sont l'articulation et l'artifice rhétorique et discursif premier de la plateforme, appellent l'attention et donc aussi la suspicion en légitimité. Suspicion autour de laquelle se jouent et se nouent des régulations complexes entre agencements collectifs d'énonciation invisibles les uns pour les autres. Régulations qui à leur tour déclenchent souvent d'autres agencements, algorithmiques et calculatoires, qui à leur tour déclencheront des suspensions conditionnées à des suppressions (il faut ainsi souvent accepter de supprimer un ou deux tweets pour lever la suspension du compte).

Twitter c'est l'éternel dialogue du su (verbe "savoir") et de l'insu. C'est la diction (addiction aussi) de dire à la fois "à l'insu" de chacun et "dans l'insu" de tou.te.s. Les indicibles #MeToo, #MeTooInceste ou #MeTooGay pour ne prendre que ces trois là, mais #BlackLivesMatter aussi, deviennent dicibles comme à notre insu.

"À l'insu de" est grammaticalement une locution prépositive. Qui à l'échelle de Twitter et en replaçant chaque "su" sur une échelle du dicible, annonce un futur positif. Pré-positif.

Alors comment fait-on pour que Twitter cesse de suspendre celles et ceux qui demandent : "comment fait-on pour que les hommes cessent de violer ?" 

Le débat qui entoure la suspension des comptes ayant publié cette simple phrase, "Comment fait-on pour que les hommes cessent de violer", nous rappelle que la première dynamique de l'interaction, de la viralité, du "buzz", sa recette ultime et sa martingale définitive, ce n'est pas l'indignation (qui naît et renaît chaque fois de surprises) mais l'indignation sur l'indignation. Ici un sujet d'indignation (le viol, a fortiori dans le contexte des récents – et pas ou peu polémiques – #Metoo, #MeTooInceste ou #MeTooGay) donne lieu à une censure (on va y revenir) et l'on se met à s'indigner au carré. On s'indigne que l'on s'indigne (du sujet – le viol -  ou de la censure du sujet). Bref, à tous les coups à s'indigner au carré on gagne (en viralité). 

Cela nous rappelle aussi que l'autre axe fondamental de cette indignation au carré, c'est sa géométrie … variable : les mêmes (souvent) qui trouvaient hier absolument inadmissible qu'un réseau social censure le compte de Donald Trump ne trouvent pas aujourd'hui choquant que celui d'une militante féministe le soit de la même manière. En tout cas on les entend beaucoup moins … De l'autre côté celles et ceux au soutien des militantes féministes censurées se réjouissaient souvent de même que le compte de Trump ait été bloqué et suspendu (avant d'être définitivement banni ce qui est un autre sujet). Aucun jugement de valeur là-dedans mais le constat empirique que nos indignations sont avant tout des miroirs tendus de nos propres tolérances à l'intolérance. 

Twitter c'est l'expérience intime et sans cesse renouvelée de notre propre compréhension, appréhension, négation ou sublimation du paradoxe de la tolérance.

Sur le fond de l'affaire maintenant, qui est celui de la modération.

Par delà l'explication de Twitter ("c'est une vraie erreur" et "c'est parce qu'on a mis encore plus d'automatisation et de Machine Learning"), il existe deux hypothèses non-exclusives l'une de l'autre. La première est que ces suspensions de comptes essentiellement féministes et militants – en tout cas dans un premier temps – soient la résultante de signalements coordonnés en provenance d'autres réseaux militants hostiles. La seconde est que la modération algorithmique se soit "bêtement" appliquée considérant que "les hommes" sont une catégorie (au sens documentaire ou informatique du terme, c'est à dire une entité univoque), que "le viol" soit une autre catégorie, et que sur un plan algorithmique (donc automatique), associer une catégorie (les hommes) à une autre catégorie explicitement interdite car criminelle (le viol) déclenche un blocage ou une suspension automatique, le temps qu'un modération humaine intervienne ensuite pour régler le litige en cas de réclamation. "Les hommes" versus "le viol", soient deux entités-nommées comme on dit en linguistique de corpus. Deux "classes" également. Et la lutte des 2 classes. 

Une autre hypothèse probable est que très peu de signalements plus ou moins coordonnés aient suffi à déclencher ces suspensions de compte à cause précisément de l'association entre ces deux catégories ("les hommes" et "le viol") contrevenant aux CGU de la firme. 

Soyons clairs, j'ignore totalement ce qui s'est réellement produit pour chacun des comptes suspendus. Ce que je sais un peu en revanche, c'est la manière dont les processus de signalement et de modération algorithmique fonctionnent. Laissez-moi vous raconter. 

Les hommes qui violent sont-ils des catégories protégées ?

L'histoire remonte à 2016 et à l'époque le Süddeutsche Zeitung s'était procuré des documents internes de Facebook qui détaillaient la manière dont la plateforme appliquait ses critères de modération automatique (algorithmique). Je vous remets ci-dessous un extrait de l'article du journal Le Monde qui s'en était fait le relai et dans laquelle on parle notamment de "catégories protégées", un peu comme les espèces du même nom.  

Orientation sexuelle, origines ethniques, sexe, genre, religion, nationalité, handicap ou maladie entrent dans le cadre de ces « catégories protégées » (PC), ce qui était déjà indiqué en clair dans les « Community Guidelines ». En revanche, on apprend ici que d’autres catégories ont le droit à une certaine protection : en fonction de l’âge (les seniors, les jeunes), en fonction de l’emploi (enseignants, docteurs, chômeurs…), du statut social (riche, pauvre, classe moyenne…), de l’apparence ou encore de l’appartenance politique.

Pour préciser la façon d’appliquer des restrictions liées aux attaques contre ces groupes, ces documents prennent parfois l’allure de formules mathématiques : « PC + PC = PC, alors que PC + NPC = NPC ». En clair, l’association de deux catégories protégées forme une catégorie protégée. Par exemple, les « femmes irlandaises » regroupent les catégories « nationalité » et « sexe » ; elles sont donc protégées, soulignent ces documents. Il est donc interdit d’écrire que « les femmes irlandaises sont stupides ». En revanche, les adolescents irlandais ne le sont pas, car la catégorie « adolescent » n’est pas protégée. Il est donc possible de dire du mal des adolescents irlandais.

Il est aussi précisé que si les membres d’un groupe religieux sont protégés, la religion elle-même ne l’est pas. La même règle vaut pour les pays, qui ne sont pas protégés, contrairement à leurs habitants. Ainsi, il est possible d’attaquer l’islam ou le christianisme, mais pas les musulmans ou les chrétiens.

Les documents obtenus par la Süddeutsche Zeitung montrent aussi la subtilité complexe de ces règles, qui ne cessent d’évoluer. Ainsi, il est possible d’insulter les migrants, mais pas les musulmans, qui sont protégés. Les migrants, eux, appartiennent à une « catégorie quasi protégée », « une forme spéciale introduite après des plaintes en Allemagne », croit savoir le journal. Ainsi, des messages haineux envers les migrants peuvent être autorisés sous certaines formes : il est par exemple acceptable, selon ces règles, d’écrire que « les migrants sont sales », mais pas que ce sont « des saletés ».

Comme je vous le disais plus haut, je ne sais pas si la suspension des comptes ayant écrit ou repris la formule "Comment fait-on pour que les hommes cessent de violer ?" est liée à des signalements ou à la modération automatique ou – c'est le plus probable – à une combinaison des deux. 

Jugement de Salomon algorithmique.

Ce qui pose question c'est l'explicabilité des systèmes de décisions automatisées. C'est également celle de "la frontière épistémologique entre le calculable et l'incalculable" qui est aussi "une frontière politique et éthique" comme l'explique Morozov. Entre ce qui peut ou doit être calculé et ce qui peut ou doit être jugé et la proportion de calcul nécessaire à l'expression du jugement ou, en miroir, la capacité de s'abstraire du calculable pour pleinement exercer la capacité de juger. Ce n'est peut-être pas d'un test de Turing dont nous avons besoin aujourd'hui mais d'un jugement de Salomon algorithmique. Si les signalements sont coordonnés et si la décision n'est que mathématique ou algorithmique, alors la phrase "Comment fait-on pour que les hommes cessent de violer ?" sera nécessairement coupée, suspendue. Mais si cette phrase devait être jugée plutôt que calculée, alors celles et ceux qui l'ont postée pourraient en conserver et le droit et la jouissance, comme la mère acceptant d'abandonner son enfant plutôt que de le voir coupé en deux. 

Bien sûr, étant entendu qu'"il n'y a pas d'algorithmes, seulement la décision de quelqu'un d'autre" comme l'écrivait Antonio Casilli dans la préface à ce chef d'oeuvre, reste que nous demeurons juges et que les algorithmes ne sont qu'autant de paravents commodes qui abritent peut-être une autre question fondamentale :

comment fait-on pour que les hommes cessent de programmer les algorithmes et modèles qui autoriseront ou interdiront de poser la question Comment fait-on pour que les hommes cessent de violer ? 

On pourra ici utilement relire, inlassablement tant c'est juste, ce qu'expliquait Lawrence Lessig dans le visionnaire et programmatique Code Is Law (traduction française sur le Framablog).

Tous les hommes ne sont pas des violeurs mais l'immense majorité des violeurs sont des hommes. L'association des catégories co-occurentes "les hommes" et "les violeurs" est donc légitime mais ne doit pas devenir légitimante en tant que modèle décisionnel pour laisser dire ou pour suspendre. "Les hommes" comme catégorie également suspendue dès sa mention sur Instagram : comment peut-on empêcher les algorithmes de s'emballer ? 

Faut-il protéger comme catégorie "les hommes" qui ne cessent de violer ? La question de la catégorisation qui vaut assignation n'est pas (qu')un problème de modération algorithmique. Elle est également fondée en droit. Ainsi à l'occasion de l'affaire Mila et du blasphème, le journal Le Monde rappelait : 

"En France, il est possible de critiquer, voire d’insulter, une religion, mais il est en revanche interdit d’insulter les adeptes d’une religion. Il existe des dispositions pour lutter contre la discrimination, la diffamation ou l’injure contre les personnes religieuses. C’est toujours la loi du 29 juillet 1881 (article 29) qui codifie le délit de diffamation comme « toute allégation ou imputation d’un fait qui porte atteinte à l’honneur ou à la considération de la personne ou du corps auquel le fait est imputé est une diffamation », et donc possiblement à une personne en raison de sa religion.

De la même manière, les provocations à la discrimination, à la haine ou à la violence sont punies par l’article 24 : cinq ans d’emprisonnement et 45 000 euros d’amende pour ceux qui « auront provoqué à la discrimination, à la haine ou à la violence à l’égard d’une personne ou d’un groupe de personnes à raison de leur origine ou de leur appartenance ou de leur non-appartenance à une ethnie, une nation, une race ou une religion déterminée ».

En revanche, rien n’est prévu et l’esprit de la loi est clair sur ce point, pour des « diffamations » ou des « injures » vis-à-vis d’une divinité quelconque. Seules les infractions à l’égard de personnes peuvent être poursuivies."

Alors voilà. Nous ne sommes, vous le voyez, pas très loin finalement des "catégories protégées" que Facebook et d'autres plateformes mettent en oeuvre dans leurs politiques de contrôle automatisées. La différence fondamentale entre les deux tient en 6 lettres : un juge. Les affaires Mila mais aussi Charlie se traitent devant un juge. Les catégorisations définies en droit sont discutables, auditables, expliquables. Elles sont surtout publiques. Et leur seule existence ne suffit pas à fonder ni à légitimer une décision en droit. Elles ne tiennent pas de l'arbitraire mais d'arbitrages clairs, publics et explicites. 

"Comment fait-on pour que les hommes cessent de violer ?"

En s'assurant qu'ils soient placés devant un juge est un commencement de réponse pourtant bien loin d'être acquis. Là encore les travaux de la sociologue Véronique Le Goaziou  – et tant d'autres – sont éclairants). Comment peut-on garantir que la question puisse non seulement être posée mais simplement formulée, c'est à dire que sa formulation épouse la courbure de la formule algorithmique qui garantit la possibilité de dire ?

La poésie et l'algorithme.

Si le langage doit devenir un tribunal et l'algorithme sa police, alors puisse à la fin la poésie être son juge. En vérité je ne sais pas "Comment fait-on pour que les hommes cessent de violer ?" mais la poésie, le jeu sur la langue, est ce qui résiste et donc ce qui nous sauve en nous permettant de dire, toujours, sans faille, sans appel, et sans autre négociation nécessaire que la délicatesse. 

"Comment fait-on pour que les hommes cessent de violer ?" 

En variant le ton, par exemple tenez : 

"si on savait – un jour elles s'étaient demandé – janvier c'est toute l'année quand on a été violé – comment faire et si on savait – est-ce que vous savez comment faire et quand ils arrêteront de nous violer ? – le champ tout entier remuait." Marc Jahjah. 

"ma mère et sa fille et la mère de sa mère – un jour elles ont demandé – c'était demain – un peuple de femmes – si on entendrait ce qu'on ne veut pas voir – la mère de ma mère et la fille de ma mère ont demandé si les hommes s'arrêteront de violer." Marc Jahjah. 

"un jour c'était une chambre – si on savait comment faire – un jour dans sa chambre il s'était demandé – dis, tu sais comment faire toi ? – si on savait et si on saurait – un jour dans sa chambre on les avait laissés – comment faire pour que les hommes arrêtent de violer." Marc Jahjah. 

"il était une fois – c'était ici c'était ailleurs je ne dis pas – mes frères mon père écoutez-moi – elles ont demandé – votre soeur votre mère la mère de votre mère – comment les hommes et si on savait – comment arrêter de violer." Marc Jahjah. 

"ma soeur aussi demande si on sait – comment on fait – et la mère de ma mère – dans son village elle sait qu'ici on se demande comment on fait – comment faire – la mère de ma mère et ma mère et ma soeur ailleurs qu'ici se demandent comment faire pour arrêter les hommes de violer." Marc Jahjah. 

"ô ma mère tu demandes – elles ont dit : un jour nous avons dit nous avons demandé – comment faire – la question qu'elles se posent tu la connais – entends ta question – un jour tu as demandé – ma mère comme toi elles demandent comment faire pour arrêter les hommes de violer." Marc Jahjah. 

"un jour elles ont demandé – c’était ailleurs n’écoutez pas – si on savait comment faire – il était une fois – un jour à midi – si on entendrait – comment faire – tu as entendu toi ce qu’elles ont dit un jour à midi et comment faire pour que les hommes ne violent pas." Marc Jahjah. 

"comment faire – elles ont demandé – si on savait et si on entendait – d’arrêter de violer – un jour elles ont demandé si les hommes – dis, tu sais comment on fait toi pour qu’ils arrêtent de nous violer ?" Marc Jahjah. 

"J’ai demandé ailleurs – mais ailleurs c’était ici – si comment on ferait pour que les hommes – tu sais comment faire ? – j’ai demandé comment on fait – les hommes, tu sais – pour arrêter de violer et si on savait comment faire." Marc Jahjah. 

"Ailleurs – c’est ici – on demanderait – je demande – qui sait peut-être qu’on saurait peut-être ailleurs qu’ici on demanderait – qui demanderait – si ailleurs comment faire – dis, tu sais comment on fait ? – pour que les hommes arrêtent de violer." Marc Jahjah. 

Merci à Marc Jahjah de l'avoir dit ainsi, de l'avoir dit insu, d'avoir su le placer entre les mailles de l'algorithme.