Les pervers du métavers

A peine quelques mois après l'annonce du Métavers par Zuckerberg, à peine quelques jours après le lancement de "Horizon Worlds" qui en est la première pierre, voici donc la première affaire d'agression sexuelle dans le métavers. Cela s'est passé pendant une opération de test d'Horizon Worlds et la jeune femme a indiqué : 

"Je n’ai pas seulement été tripotée hier soir, il y avait également d’autres personnes qui soutenaient ce comportement, et m’ont fait me sentir isolée dans cet espace."

Réaction de Facebook par la voix de Vivek Sharma, vice-président Horizon Worlds :

"L’incident est absolument malheureux"

Mais d'ajouter : 

"C’est quand même un bon retour pour nous (sic). Il nous faut désormais rendre la fonctionnalité de blocage plus facile d’utilisation (sic)."

La vie c'est simple comme l'ajout d'une fonctionnalité de blocage. Vieille antienne à laquelle on nous habituait déjà, sur un autre mode, dans cette publicité du ministère des PTT en 1983 😉

Prémisses du solutionnisme technologique 🙂

Rapidement d'autres témoignages, de journalistes cette fois, sont venus documenter le fait que le Métavers de Facebook pour une femme était une expérience …  

" 'amusante', 'excitante', mais aussi 'intense, fatigante et souvent gênante'. Dès son arrivée dans le hall d’accueil d’Horizon Venues, module du métavers plutôt dédié à l’événementiel, elle se fait la remarque : elle est la seule femme parmi une douzaine d’hommes. En quelques instants, Parmy Olson relate avoir été 'surprise' par un avatar ayant zoomé à quelques centimètres d’elle. Peu de temps après, un groupe d’avatars masculins s’est formé autour d’elle en restant silencieux. D’autres encore l’ont prise en photo … Autant d’expériences qui, dans la vie réelle comme dans la réalité virtuelle, peuvent être oppressantes." (Libération s'appuyant sur le récit de la journaliste Parmy Olson pour Bloomberg)

(copie d'écran de la scène vécue par Parmy Olson)

De fait, la FAQ d'Horizon Worlds nous indique que l'on peut effectivement – et heureusement – bloquer quelqu'un de la manière suivante : 

To block someone:
1. Look at your wristband and select the Shield icon.
2. From your Safe Zone, select View Nearby People.
3. Find the person’s card that you want to block and select Block.
4. Confirm you want to block them.
This person will no longer appear in worlds you’re visiting, and they won’t be able to contact you in Horizon Worlds. 

Ce qui implique qu'il faut donc être en capacité d'anticiper le fait que telle ou telle personne est un pervers du métavers, ou qu'il faut bloquer tout le monde par défaut. Ou qu'il faut attendre l'agression sexuelle – et donc le traumatisme – pour bloquer.

Onanisme narcissique (aka : "jusqu'ici tout va bien").

Tout comme il existe une version "cyber" du harcèlement, il existe hélas aussi une version "cyber" de l'agression sexuelle. Il ne viendrait à personne l'idée d'expliquer que le "cyber-harcèlement" est moins grave, toxique ou nocif que le harcèlement hors-ligne, il est par contre hélas encore nécessaire de rappeler qu'il en est de même pour une agression sexuelle. Fut-elle virtuelle, une agression sexuelle reste une agression sexuelle. Idem pour toutes les formes de "tripotages". Comme le rappelle la Technology Review : 

"Katherine Cross, who researches online harassment at the University of Washington, says that when virtual reality is immersive and real, toxic behavior that occurs in that environment is real as well. “At the end of the day, the nature of virtual-reality spaces is such that it is designed to trick the user into thinking they are physically in a certain space, that their every bodily action is occurring in a 3D environment,” she says. “It’s part of the reason why emotional reactions can be stronger in that space, and why VR triggers the same internal nervous system and psychological responses.”"

Le cyberespace ou plus précisément le "métavers" – non pas celui uniquement de Facebook mais l'ensemble des mondes virtuels où nous avons évolués, où nous évoluons et où nous évoluerons sous forme d'avatars – dès lors qu'il devient "massif" en termes d'échelle et de nombre d'utilisateurs, dès lors qu'il devient "ambiant" – c'est à dire investi comme une "autre" réalité et non comme un jeu déterminé disposant d'un scénario et où l'ensemble des participants acceptent les règles …  du jeu – le métavers peut-il trouver un équilibre entre le risque d'une zone de danger permanente dominée par un ensemble de pulsions dont l'assouvissement paraîtrait presque insignifiant à ceux qui s'y laissent aller, et par une multiplication de "Safe Zones" pour chacune des individualités et avatars qui s'y déploient et qui rendrait, de fait, toute forme de cyber-sociabilité soit impossible soit nécessairement transgressive et perçue comme un facteur de risque ? 

Si, comme on peut le supposer au regard des stratégies des GAFAM et de quelques autres, les univers virtuels (en réalité virtuelle ou augmentée) sont amenés à devenir des paradigmes grand public de l'expérience du numérique, la question de la gestion des comportements agressifs et délictueux va devenir un enjeu majeur à moyen terme. Or au regard de la manière dont les mêmes comportements sont aujourd'hui traités par les grandes plateformes à l'échelle des agressions et insultes verbales (cf mes nombreux articles sur la lutte contre la haine en ligne), nous sommes en droit d'être … très inquiets. 

Revenons à l'agression sexuelle qui s'est produite dans Horizon Worlds.

Les précédents d'agressions sexuelles "virtuelles" s'étaient essentiellement produits dans des environnements explicitement ludiques, au sein de "jeux vidéo". En 2016 par exemple une jeune femme avait été agressée (tripotée) au sein du jeu QuiVR. Dans Horizon Worlds, la solution de la firme est donc de permettre à la victime de se protéger en activant une icône de "bouclier" la faisant entrer dans sa Safe Zone. Ok. La victime est protégée (si elle trouve le bouton, si elle active la fonctionnalité, si elle le fait à temps). Il ne vous manque pas un truc ?

Réfléchissez. 

Réfléchissez encore un peu. 

Voilà.  

L'agresseur. L'agresseur et les complices de l'agression qui le regardaient tripoter la jeune femme sans intervenir. Rien n'est "prévu" pour l'agresseur ni, a fortiori, pour ses complices. De la même manière que dans l'immensité des cas de harcèlement (individuel ou en meute) sur les réseaux sociaux, les entreprises hôtes se contentent de proposer des fonctionnalités de blocage mais laissent les harceleurs totalement libres … de harceler quelqu'un d'autre.

Surveiller et punir > Protéger et bannir ?

La responsabilité de protéger (mise en avant par les entreprises de médias sociaux) ne peut pas, ne peut plus s'exonérer d'une responsabilité de punir et d'exclure. Je précise et la précision est d'importance : une responsabilité de punir et d'exclure qui doit être explicite et stable dans le cadre des CGU et impérativement conforme aux règles de droit s'appliquant à l'échelle du pays concerné pour les faits délictuels établis.

Si l'on continue d'envisager ces problèmes du seul point de vue d'une mise à l'abri (nécessaire) des victimes, on ne réglera jamais aucun problème. Le signalement et le blocage (temporaire, aléatoire, souvent arbitraire) ne doivent, ne peuvent pas être les deux seules modalités permettant de traiter les comportements délictueux à l'échelle d'environnements numériques qui envisagent de brasser quotidiennement plusieurs millions ou milliards de personnes ; des personnes qui doivent cesser d'être simplement vues comme des utilisateurs et des utilisatrices, c'est dire réduit.e.s à des fonctions "utilitaires" pour ce que ces firmes captent, organisent, tolèrent, interdisent et donnent à voir de leurs interactions sociales.

Or à l'exception (bienvenue) des condamnations pénales de quelques procès médiatiques touchant à des personnalités, les agresseurs restent totalement libres et à l'abri de toute forme de justice. Et la charge de la protection (et de la culpabilité) repose entièrement sur les épaules de la victime. C'est une aberration totale que j'ai – avec d'autres – là aussi à de multiples reprises signalée et dénoncée. Avec par ailleurs une responsabilité partagée. D'un côté les entreprises qui possèdent ces services se refusent à perdre des clients et laissent donc "actifs" les individus coupables de faits de harcèlement ou de menaces et d'insultes répétées. Plus que jamais, "ce que vous tolérez indique ce que vous êtes vraiment." Et de l'autre les états qui ne mettent pas les moyens nécessaires à la judiciarisation pénale de ces faits et comportements délictueux : je rappelle ici que la plateforme Pharos, supposée lutter contre la cyber-criminalité et gérer l'ensemble des signalements en ligne pour la France, dispose d'un effectif de … 54 personnes, effectif qui fut doublé suite à l'assassinat de Samuel Paty. C'est ridicule, c'est indigent, c'est simplement inacceptable (et c'est surtout, hélas, à l'échelle du manque de moyens de la justice en général). 

La question paraît simple mais elle est déterminante. Soit on considère qu'une agression ou un viol commis par des avatars dans des environnements virtuels ne sont pas d'authentiques violences faites aux personnes victimes représentées par leur avatar, et on peut alors laisser les communautés en ligne s'auto-réguler avec toute la dimension arbitraire et discrétionnaire des règles édictées par les plateformes privées gérant ces environnements virtuels. Soit (c'est ma position) on considère qu'une agression ou un viol commis par des avatars dans des environnements virtuels sont d'authentiques atteintes aux personnes victimes représentées par leurs avatars : la sanction ne doit alors surtout pas uniquement reposer sur les règles communautaires d'une plateforme privée et ce n'est pas "l'utilisateur" qu'il faut sanctionner mais la personne morale et physique derrière cet utilisateur et qui est seule responsable.

Résumons un peu.

Les victimes. Le numérique nous a habitué depuis maintenant plus de deux décennies à systématiquement renverser la charge de la preuve dans tout un tas de domaines et de champs mettant en oeuvre nos sociabilités et nos échanges. Mais le fait que la charge de la preuve (et de la protection) repose entièrement sur les victimes ne peut conduire qu'à la sanctuarisation d'une forme d'anomie mortifère.

Les coupables et les agresseurs. Comme indiqué précédemment, le fait qu'ils ne soient pas poursuivis ni condamnés et que la norme ne soit que celle du blocage, qui est l'équivalent d'une neutralisation aussi faible que subjective et temporaire, revient à légitimer le désordre. De manière plus inquiétante, on doit s'interroger pour savoir si une sorte de prime pourrait à l'avenir être donnée aux comportements agressifs, radicaux ou violents dans les univers virtuels, comme c'est le cas dans les interactions sociales verbales et discursives sur les grandes plateformes où la dimension spéculative des discours de haine empêche de les modérer correctement (par défaut de volonté et non de capacité).

Et les témoins. En psychologie sociale, on a depuis longtemps documenté l'effet du témoin (ou effet spectateur) :

"le comportement d’aide d'un sujet est inhibé par la simple présence d'autres personnes sur les lieux. La probabilité de secourir une personne en détresse est alors plus élevée lorsque l’intervenant se trouve seul que lorsqu’il se trouve en présence d’une ou de plusieurs personnes. En d’autres mots, plus le nombre de personnes qui assistent à une situation exigeant un secours est important, plus les chances que l’un d’entre eux décide d’apporter son aide sont faibles. La probabilité d’aide est ainsi inversement proportionnelle au nombre de témoins présents."

Décliné à l'échelle des univers virtuels, cet "effet du témoin" pose des problèmes nouveaux du fait de la situation de co-présence effective mais virtuelle et donc souvent – à tort – interprétée différemment sur le plan des affects, ainsi que d'une forme de naturalisation figée des notions d'assistance ou d'aide aux personnes en danger. Si vous ne l'avez pas encore vu, il faut voir et se souvenir de cette scène racontée par l'un des modérateurs du remarquable et terrifiant documentaire "The Cleaners" où il explique comment, sur le "live" Facebook d'une personne filmant son suicide et en train de se pendre, on assistait en commentaire à des gens tentant de l'en dissuader ou d'appeler les secours, mais aussi à une foule d'individus l'incitant à aller au bout ou lui lançant le "défi" de le faire. Et où les modérateurs eux-mêmes n'avaient pas le droit d'intervenir tant qu'il ne passait pas effectivement à l'acte.

Et imaginer ce que ces scènes pourraient donner dans le métavers d'avatars se livrant à toutes les avanies.  

Les avanies des avatars.

Il faut ici une nouvelle fois rappeler qu'une agression sexuelle dans un univers virtuel où chacun est représenté par son avatar se distingue d'un univers virtuel "ludique" dans lequel tout comportement social, y compris un viol, peut être "codé" comme n'importe quelle autre fonctionnalité (ce qui ne veut pas dire que c'est souhaitable hein …).

Si le premier "viol virtuel d'un avatar" dans Second Life était passé relativement inaperçu en 2007, il faut se souvenir de l'émoi qu'avait – en 2014 – suscité la fonction "viol" dans le jeu GTA (Grand Theft Auto). S'il n'y a pas de causalité entre le fait de jouer à des jeux vidéos violents et d'être violent dans la vie ordinaire, il peut exister une forme de continuité trouble entre les attitudes et comportements de l'avatar que nous nous choisissons dans un cadre – le métavers – où la dimension (parfois) ludique n'est cette fois qu'un prétexte à la scénarisation de comportements sociaux ordinaires. Il faut en tout cas se poser cette question … maintenant. 

La littérature scientifique sur le sujet n'est pas outrancièrement foisonnante mais on dispose d'éléments, principalement autour de Second Life qui fut lancé en 2003 et commença à décliner à partir de 2007, notamment d'ailleurs en raison de questions réputationnelles liées à la prostitution et à la pédophilie. C'est ainsi qu'en 2010 le journaliste Tim Guest publie une enquête dans laquelle il indique qu'environ 6,5% des utilisateurs avaient déposé un ou plusieurs rapport d'abus dont ils étaient victimes.

Aux sources des questions de viol dans le monde virtuel.

Pour comprendre à la fois l'histoire et les enjeux des viols dans des univers virtuels il est impératif de se plonger dans la lecture de l'article de Richard MacKinnon, "Virtual Rape", publié en 1997* dans le Journal of Computer-Mediated Communication et s'appuyant notamment sur l'histoire racontée dans "A Rape in Cyberspace" en 1993 par le journaliste Julien Dibbell (texte disponible en pdf).

Pour MacKinnon, le viol implique une atteinte à la personne qui peut être physique, émotionnelle, psychologique ou matérielle. Dans ce cadre et s'appuyant sur des travaux féministes permettant de sortir de l'imagerie phallocentrée du viol résumé à la pénétration, il rappelle :

"rape becomes an assault not against a persona, but against the person behind the persona. It is a virtual violation that passes back through the interface and attacks the person where it is real." (Le viol devient une agression non pas contre un personnage, mais contre la personne qui se cache derrière le personnage. C'est une violation virtuelle qui repasse par l'interface et attaque la personne là où elle est réelle.)

MacKinnon explique ensuite que :

"les réalités virtuelles actuelles sont principalement conçues et peuplées par des hommes (Kramarae, 1995). La rareté relative des femmes virtuelles dans une cybersociété à prédominance masculine a conduit à la documentation d'un grand nombre de cas de harcèlement sexuel."

Mais au-delà de ce seul paramètre sociologique (this is a man's world), il pointe également le fait que les "sociétés virtuelles" sont en permanence en train de se réagencer (il parle d'étapes successives d'organisation, de désorganisation et de réorganisation) et que :

"les utilisateurs sont incapables d'"amener" avec eux [dans la réalité virtuelle] leurs structures sociales respectives parce que les limitations [du médium] déconstruisent la structure sociale de leur monde extérieur."

Cette incapacité à mobiliser leurs structures sociales respectives autorise des comportements qu'ils s'interdiraient ailleurs que dans ces environnements virtuels.

S'appuyant sur une très large revue de littérature autour des questions de violences et de délits, MacKinnon amène un autre argument déterminant qui est celui du statut de "migrant temporaire" qui caractérise les utilisateurs de ces mondes virtuels et qui les autorise à se placer en "vacances morales" : 

"Faris considère les touristes comme des "migrants temporaires" et Cohen et Taylor (1978) "suggèrent que les gens prennent des vacances pour échapper aux rôles scriptés et aux routines de la vie quotidienne" (Baron et Straus, 1989 : 132). Baron et Straus concèdent que les recherches sur le caractère criminogène sont rares, mais citent d'autres études qui notent que les vacanciers se considèrent parfois comme étant en "vacances morales", ce qui leur permet de voler la propriété de l'hôtel et de participer à des activités telles que le jeu, la prostitution, la fraude et le vol.

Enfin, l'élément des "hommes non familiaux qui font le ménage" est étudié afin de mesurer l'isolement social des hommes célibataires. Baron et Straus supposent, à partir des recherches commencées par Durkheim en 1897, que "les conséquences sociales et psychologiques des différents arrangements ménagers soutiennent la conclusion que les hommes vivant seuls augmentent la probabilité de problèmes personnels et sociaux."

Autre point clé de l'article de MacKinnon, le fait que les utilisateurs commettant ces viols ou agressions dans des mondes virtuels, n'aient aucun compte à rendre ("Virtually Unaccountable"). En plus de l'effet de déréalisation et de "vacances morales" évoqué plus haut, ils ne sont pas sanctionnés, restent libre d'interagir, ne sont jamais "confrontés" à leur(s) victime(s), et n'ont à subir ou à ressentir aucune culpabilité sociale dans le regard de leurs pairs, de leurs proches ou de la société en général (ça c'est moi qui l'écrit, pas MacKinnon). 

Enfin, MacKinnon aborde la question centrale des sanctions et des mesures à prendre. Et là aussi il le fait avec une précision remarquable et une dimension visionnaire qui l'est tout autant (rappelons que son article paraît en 1997 et s'appuie essentiellement sur des "mondes virtuels" … textuels, LambdaMOO notamment)

"Mais punir un viol virtuel par des sanctions virtuelles ne règle pas le problème de la récidive de l'utilisateur. En effet, l'utilisateur de l'université de New-York est réapparu dans LambdaMOO avec un nouveau personnage. Si le viol virtuel a des conséquences réelles, on ne peut pas permettre que cela continue. Si punir la persona par des contrôles sociaux développés en interne est inefficace lorsque le crime a des effets réels, est-il raisonnable de penser que des contrôles sociaux ayant des effets réels sont nécessaires ? Si c'est le cas, peut-être que les utilisateurs de LambaMOO auraient dû contacter l'administration de l'université de New-York après tout.

Ceinture de chasteté virtuelle.

Les questions d'image et de réputation demeurant très sensibles pour toutes ces grandes plateformes, et le public familial étant celui visé, on peut supposer que les réglages "par défaut" permettront de limiter les comportements les plus problématiques, et que comme je l'ai expliqué précédemment, cela ne pourra passer que par une amplification des logiques de "Safe Zones". Mais ici aussi la terminologie choisie est signifiante. On parle de "Safe Zones" individualisées, et non plus de "Safe Spaces" collectifs. Tout se passe comme si à chaque fois que le numérique nous vendait au sujet de nos vies, de nos moeurs, de nos opinions ou de nos sociabilités une promesse d'extension, de diversification, d'ouverture ou d'émancipation, cette promesse s'avérait n'être finalement rien d'autre qu'un rétrécissement, une diminution, un enfermement, une aliénation. 

Quant à l'idée qu'il serait uniquement de la responsabilité des femmes d'activer leur Safe Zone pour éviter d'être des victimes, on n'est pas très loin de la réponse moyenâgeuse de l'imaginaire de la ceinture de chasteté comme garantie de vertu …

Du Métavers aux microvers.

Comme tout nouvelle forme "d'espace numérique" émergent, le métavers se morcellera rapidement en une série de "microvers", des micro-univers virtuels rejouant la dichotomie classique entre espace public, privé et intime et au sein desquels, cette fois, il sera extrêmement délicat de porter des questions de régulation et de normes comportementales qui n'auront été imaginées que dans le sens d'une sur-responsabilisation des victimes. Ainsi l'essentiel des discours de haine ou de violence qui circulent aujourd'hui au sein des grandes plateformes se sont déplacés au sein du "Dark Social", c'est à dire dans les espaces de messageries imperscrutables mais aux capacités de polarisation, de normalisation, de légitimation et de viralité aussi impressionnantes et inédites que délétères.  

Ce qui est "intéressant" dans cette affaire d'agression sexuelle dans le métavers, c'est qu'elle renouvelle une fois encore l'affirmation visionnaire de Lawrence Lessig au début des années 2000 : "Code Is Law". Le code c'est la loi. Or on sait parfaitement ce que dit la loi dans le cas d'une agression sexuelle. Mais qu'en dit … le code ? Et avant même de poser la question du code, la loi sur les agressions sexuelles "virtuelles" est-elle si claire que cela ? 

Les avatars sont-ils des justiciables comme les autres ?

En plus des points déjà évoqués dans l'article de MacKinnan, on trouvera quelques éléments de réponse éclairants sur le blog de l'avocat Thierry Vallat, éléments se rapportant à l'agression sexuelle de 2016 ayant pour cadre le jeu QuiVR dont je vous parlais plus haut. 

La question est celle de la pénalisation des délits dans un "monde virtuel", des Sims à Pokémon Go en passant par Second Life et l'ensemble des métavers disponibles. Et la réponse n'est pas aussi simple que cela. On y apprend par exemple que concernant le vol d'objets virtuels sous une menace non-virtuelle : 

"Deux adolescents avaient obligé un camarade de classe à transférer des objets virtuels de son compte Runescape sur le leur, en le menaçant, dans la vraie vie, avec une arme blanche. En première instance, les deux jeunes gens furent condamnés à des travaux d'intérêt général et à une peine d'emprisonnement avec sursis, le tribunal ayant qualifié le transfert des objets virtuels de "vol" eu égard à la violence physique employée. Ce jugement fut confirmé en appel et donc également par une décision du 31 janvier 2012 de la Cour Suprême néerlandaise qui a confirmé que les objets virtuels sont effectivement des biens susceptibles d’être volés au sens du Code pénal néerlandais (Dutch Suprem Court, J. 10/00101, Criminal Chamber, January 31, 2012)"

Concernant le droit de propriété dans le cadre d'environnement en réalité augmenté, Thierry Vallat rappelle ce qui s'était produit dans le cadre de l'explosion grand public du jeu Pokemon Go : 

"Le jeu de réalité augmentée Pokemon Go a plus récemment conduit à s'interroger sur la notion de propriété dans la 4ème dimension que constitue le jeu. L’existence d’un véritable "droit de propriété virtuel" au profit de l'éditeur Niantic semble en effet se dégager. Rappelons que Niantic a instauré un "espace virtuel" empiétant sur le réel et que le véritable propriétaire doit par exemple faire parvenir un formulaire avec l'option opt-out pour demander l'interdiction d'un pokestop ou l'apparition intempestive de créatures dans son jardin réel."

De passionnants problèmes de propriété privée ou publique, virtuelle ou augmentée, dont je vous avais moi-même fait écho dans une série d'articles sur Pokémon Go (notamment "PokémonGo : l'important c'est pas la (pika)chute", et "Conflit Israëlo-Palestinien et Pokémons",  ou bien encore "Pokémon Pharmakon : le numérique dissociatif").

Enfin, sur le sujet des agressions virtuelles commises par et/ou sur des avatars, Thierry Vallat rappelle (et je souligne) : 

"bien qu'il existe une informelle "Déclaration des droits des Avatars" du 27 août 2000, (Raphaël Koster Déclaration du 27-8-2000), il n'y a pas encore de droit des avatars. En effet, au travers de ces derniers, c’est bien l’utilisateur qui agit et communique, sans que l'avatar n'ait une quelconque responsabilité, étant pour le moment totalement dépourvu d'autonomie. Cette absence de responsabilité propre à l'avatar ne signifie pas, cependant, que les actes illicites commis dans ces mondes virtuels ne peuvent être sanctionnés, car l'avatar constitue le prolongement du joueur : si l'avatar virtuel est agressé, l'utilisateur réel l'est également."

Mais c'est du côté des Etats-Unis et du Canada qu'il faut aller chercher les ressources juridiques pouvant s'appliquer et permettant de qualifier en droit les atteintes portées par des avatars dans des environnements virtuels même si elles n'ont pas été pensées à l'origine dans ce cadre là : 

"Chez nos amis canadiens, les choses sont encore plus claires: "Une agression sexuelle est un geste à caractère sexuel, avec ou sans contact physique, commis par un individu sans le consentement de la personne visée ou, dans certains cas, notamment dans celui des enfants, par une manipulation affective ou par du chantage. Il s’agit d’un acte visant à assujettir une autre personne à ses propres désirs par un abus de pouvoir, par l’utilisation de la force ou de la contrainte, ou sous la menace implicite ou explicite. Une agression sexuelle porte atteinte aux droits fondamentaux, notamment à l’intégrité physique et psychologique, et à la sécurité de la personne". La définition est donc plus adaptée à l'agression dans le monde virtuelle (sic).

Il existe même aux Etats-Unis la notion de IIED ou « intentional infliction of emotional distress » qui permet à des personnes victimes de grave détresse émotionnelle suite à une agression de poursuivre le responsable de cet état, comme par exemple suite à des tripotages virtuels inappropriés. (sic)"

Voilà pour (une partie de) la loi. Car les enjeux juridiques que pose le Métavers à l'échelle philosophique, commerciale et juridique sont absolument considérables.

Et donc revenons-en au code, au code qui est la loi. On pourrait imaginer plusieurs "encodages", permettant par exemple de ne pas se livrer à de quelconques formes de contacts tactiles (virtuels) dans certaines zones corporelles déterminées à l'avance, ou alors seulement si les deux personnes ont réciproquement autorisé les contacts tactiles virtuels sur ces zones, et l'on pourrait de la même manière définir un ensemble de règles comportementales d'interactions, règles toutes logiques ("If … Then"), mathématisables et modélisables, toutes implémentables. Comme nous l'ont appris depuis des décennies les règles logiques, mathématisables, modélisables, implémentables des algorithmes supposés lutter contre les discours de haine en ligne, on ne réglerait pas pour autant la question. Car derrière ces encodages, il y a des choix qui restent problématiques, comme l'explique Lessig depuis plus de 20 ans :

"Mais rien n’est plus dangereux pour l’avenir de la liberté dans le cyberespace que de croire la liberté garantie par le code. (…) Ce que permet une architecture [d'identification ou de certification], et la manière dont elle limite les contrôles, sont des choix. Et en fonction de ces choix, c’est bien plus que la régulabilité qui est en jeu." (…) "S’il n’existe aucune incitation à protéger la vie privée – si la demande n’existe pas sur le marché, et que la loi est muette – alors le code ne le fera pas."

Idem s'il n'existe aucune incitation à protéger contre le viol et les agressions sexuelles autre que la possibilité de les "signaler" quand elles se produisent et de "bloquer" leurs auteurs tout en les laissant libres d'en commettre sur d'autres. La loi n'est pourtant "pas muette" mais comme je l'ai montré à partir des travaux de MacKinnon, encore faut-il décider de l'applicabilité de la loi dans ces environnements virtuels ainsi que de la personnalité (virtuelle ou physique) qui peut-être rendue pénalement responsable de l'agression. 

L'agression n'est pas une fonction.

A chaque fois que je donne un cours autour des questions liées au numérique, je m'efforce de lire ou de faire lire à mes étudiant.e.s ce passage particulier du texte de Lessig : 

"Si c’est le code qui détermine nos valeurs, ne devons-nous pas intervenir dans le choix de ce code ? Devons-nous nous préoccuper de la manière dont les valeurs émergent ici ? En d’autres temps, cette question aurait semblé incongrue. La démocratie consiste à surveiller et altérer les pouvoirs qui affectent nos valeurs fondamentales, ou comme je le disais au début, les contrôles qui affectent la liberté. En d’autres temps, nous aurions dit « Bien sûr que cela nous concerne. Bien sûr que nous avons un rôle à jouer. »

Mais nous vivons à une époque de scepticisme à l’égard de la démocratie. Notre époque est obsédée par la non-intervention. Laissons Internet se développer comme les codeurs l’entendent, voilà l’opinion générale. Laissons l’État en dehors de ça. Ce point de vue est compréhensible, vu la nature des interventions étatiques. Vu leurs défauts, il semble préférable d’écarter purement et simplement l’État. Mais c’est une tentation dangereuse, en particulier aujourd’hui.

Ce n’est pas entre régulation et absence de régulation que nous avons à choisir. Le code régule. Il implémente – ou non – un certain nombre de valeurs. Il garantit certaines libertés, ou les empêche. Il protège la vie privée, ou promeut la surveillance. Des gens décident comment le code va se comporter. Des gens l’écrivent. La question n’est donc pas de savoir qui décidera de la manière dont le cyberespace est régulé : ce seront les codeurs. La seule question est de savoir si nous aurons collectivement un rôle dans leur choix – et donc dans la manière dont ces valeurs sont garanties – ou si nous laisserons aux codeurs le soin de choisir nos valeurs à notre place."

Or qui décide aujourd'hui de la manière dont on doit traiter les agressions sexuelles virtuelles dans ce qui s'annonce comme l'environnement virtuel le plus massif qui ait jamais été créé ? La réponse est au tout début de cet article. C'est celle de Vivek Sharma, vice-président Horizon Worlds, qui indique que "l’incident est absolument malheureux" mais que : 

"C’est quand même un bon retour pour nous. Il nous faut désormais rendre la fonctionnalité de blocage plus facile d’utilisation."

Vivek Sharma raisonne en codeur : il ne voit pas le traumatisme d'une agression sexuelle sur une échelle de valeurs qui fondent la capacité de vivre ensemble, il note "un bon retour" qui doit lui permettre de mieux rendre accessible et "plus facile d'utilisation une fonctionnalité de blocage."

L'agression n'est pas une fonction que l'on peut activer ou désactiver. Elle est une intentionnalité. Et on ne lutte pas contre les agressions sexuelles, physiques ou virtuelles, par l'ajout de fonctionnalités. Parce qu'il n'existe aucune fonctionnalité activant ou inhibant l'intention d'agresser.

Chaque nouvel espace numérique qui s'ouvre, porté par les Gafam, s'ouvre désormais massivement. Et pose donc un ensemble de questions allant du règlementaire (CGU) à la réglementation (lois) qu'il nous incombe de poser sans attendre que les déploiements massifs de ces environnements ne deviennent autant autant de dévoiements. 

La question centrale n'est plus celle du passage à l'échelle, de la scalabilité technique de ces environnements virtuels, mais celle de leur scalabilité sociale, sociétale. En prétendant transposer massivement et quasi-instantanément d'immenses communautés humaines dans des environnements entièrement artefactuels, il devient impératif et absolument vital, que cette transposition soit précédée de ce que Lessig indique à la toute fin de son texte, à savoir : "un engagement autour de valeurs fondamentales, par le biais d’une constitution promulguée en pleine conscience." 

Et nous en sommes encore très loin.

Dans quelques années il y aura toujours le monde, tangible et physique, incluant sa part numérique ; et puis il y aura des "alter-mondes", virtuels cette fois, métavers privés ou ouverts ; et puis il y aura probablement aussi des "inter-mondes", des réalités augmentées se superposant ou s'intercalant à la notre. C'est au sujet de ces alter-mondes et de ces inter-mondes qu'il faut aujourd'hui se demander non pas qui les peuplera (nous, nos physicalités augmentées ou nos avatars) mais comment nous les peuplerons pour y faire société.

Safe In Metavers Problem.

Il y a très très très longtemps de cela, en 1987, aux tout débuts des tout premiers environnements hypertextuels, J. Conklin** théorisait ce qu'il appela le "lost in hyperspace problem", c'est à dire le fait que notre sentiment de désorientation dans ces environnements était la conséquence d'une surcharge cognitive définie comme "l’effort additionnel et la concentration nécessaire pour maintenir plusieurs tâches ou plusieurs parcours [trails] en même temps."

Peut-être faut-il aujourd'hui s'interroger sur ce que pourrait devenir le principal problème des tout premiers environnements numériques virtuels grand public et massifs, à savoir le "Safe in Metavers Problem" : comment bâtir des environnements numériques dans lesquels on ne se contenterait pas de proposer aux victimes de se créer des Safe Zones, mais qui seraient exempts de toute forme d'impunité pour les auteurs de comportements violents, agressifs ou délictueux. 

Le 8 Février 1996, John Perry Barlow concluait sa déclaration d'indépendance du Cyberespace par cette phrase : 

"Nous allons créer une civilisation de l’esprit dans le cyberespace. Puisse-t-elle être plus humaine et plus juste que le monde que vos gouvernements ont créé."

Vingt-six ans plus tard, il semble que le rêve d'une civilisation de l'esprit ait laissé la place à celui d'une organisation des corps et des comportements hors de leur seule physicalité. Il existe un risque que cette civilisation des virtualités et des virtualisé.e.s soit moins humaine et moins juste que celle que nos gouvernements ont créé, pour reprendre a formule de Barlow. Mais il existe aussi une chance pour que ce risque nous oblige à mobiliser les ressources de la civilisation de l'esprit pour l'éviter tant qu'il en est encore temps. Cette chance est un devoir. 

 

____________________________

* Richard MacKinnon, Virtual Rape, Journal of Computer-Mediated Communication, Volume 2, Issue 4, 1 March 1997, JCMC247, https://doi.org/10.1111/j.1083-6101.1997.tb00200.x

** Conklin J., « Hypertext : An Introduction And Survey. », pp. 17-40, in IEEE Computer, vol. 20, n°9, Septembre 1987. En ligne : http://www.ics.uci.edu/~andre/informatics223s2007/conklin.pdf