Le code c’est la loi. Et les plateformes sont des états.

Si le code est la loi, et si les algorithmes sont sa police, alors où sont les juges ? Qui peut juger ?

"Code is Law."

Au commencement il y a ce texte fondateur de Lawrence Lessig, publié en Janvier 2000, "Code is Law". Qui dresse le constat suivant :

"Ce régulateur c'est le code – les logiciels et les matériels qui font du cyberespace ce qu'il est. Ce code, ou cette architecture, définit les termes dans lesquels la vie dans le cyberspepace est possible. Il décide s'il est facile de protéger sa vie privée, ou s'il est facile d'exercer une censure. (…) Il décide de qui voit quoi, ou de ce qui peut être surveillé. (…) 

Cette régulation est en train de changer. Le code du cyberespace est en train de changer. (…) Le cyberespace, qui était un endroit qui protégeait l'anonymat, la liberté de parole et le contrôle individuel, se transforme en un endroit qui rend l'anonymat plus difficile à mettre en oeuvre, qui limite la liberté d'expression, et où le contrôle individuel devient l'apanage de seulement quelques rares experts."

Lessig conclut ainsi son article :

"So should we have a role in choosing this code, if this code will choose our values? Should we care about how values emerge here?

(…) Obviously we should have a role. But we live in an era fundamentally skeptical about self-government. Our age is obsessed with leaving things alone. Let the Internet develop as the coders would develop it, the common view has it. Keep government out. (…) It is particularly dangerous now.

Nous n'avons pas à choisir entre "réguler" ou "ne pas réguler". Le code régule. Il met en place certaines valeurs plutôt que d'autres. Il rend possible ou interdit certaines libertés. Il protège la vie privée ou favorise la surveillance. Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n'est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D'autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place."

(…) La loi du cyberespace sera déterminée par la manière dont le cyberespace sera codé, mais nous aurons échoué à jouer notre rôle dans l'établissement de cette loi."

Quand Lessig publia son texte, Facebook et Twitter n'existaient pas encore, Google avait à peine deux ans. 4 ans plus tôt, en 1996, John Perry Barlow publiait la déclaration d'indépendance du cyberespace.

"Your legal concepts (…) do not apply to us."

De Barlow à Lessig, de 1996 à 2000, c'est un véritable basculement qui s'opère. De l'irénisme technologique de Barlow aux inquiétudes législatives de Lessig, c'est la première révolution copernicienne de notre monde numérique qui se joue. En à peine 4 ans tous les dogmes s'inversent. "Il n'y a pas de propriété ici" devient "tout est régi par le code, et le code est essentiellement propriétaire". Le "nous n'avons pas de gouvernement élu" de Barlow traduisait une aspiration qui se savait déjà partiellement condamnée mais sans savoir réellement par qui. Quatre ans plus tard, le texte de Lessig apporte une réponse imprévue : ces gouvernements redoutés par Barlow ont cédé devant d'autres gouvernances, bien plus opaques et potentiellement totalitaires, les gouvernances algorithmiques, la loi du code. C'est ce retournement que je m'efforçais de décrire dans ce court texte : "Et si on enseignait vraiment le numérique ?"

Platforms are States and Bots are their Cops.

19 ans après la déclaration d'indépendance du cyberespace, et surtout 15 ans après le texte de Lessig, à l'occasion de l'affaire des caricatures du prophète et de l'assassinat qui toucha la rédaction de Charlie Hebdo, nous entrons dans un troisième âge de la régulation. La régulation s'effectue, comme prévu par Lessig, directement au coeur du code. "The code regulates".

Mais ce qui a changé c'est que les grands biotopes que sont Facebook, Google mais aussi Twitter et quelques autres sont autant de nouveaux États, de nouveaux gouvernements, avec lesquels nos vieux gouvernements, nos vieux états, sont forcés de traiter et de négocier directement.

Ce qui a changé c'est que ces nouveaux "états" sont à leur tour débordés. Ou disent l'être. Être dans l'incapacité de réguler. Toutes les 60 secondes c'est plus de 300 heures de vidéos qui sont chargées sur Youtube. Et de nous expliquer qu'il est donc parfaitement impossible d'identifier les vidéos djihadistes dans un temporalité raisonnable (c'est à dire avant qu'elles puissent être vues). Ce qui implique un double choix : s'en remettre entièrement aux algorithmes (car aucun humain ne peut traiter une telle quantité d'informations), et leur laisser … du temps, un nouveau "temps judiciaire" qui a ceci de commun avec le temps judiciaire classique qu'il ne peut intervenir qu'après l'infraction, mais qui a ceci de radicalement différent qu'il intervient en permanence sur des infractions non constituées en tant que telles.

<en discutant avec un ami> On m'objectera que les feux rouges et les feux verts jouent exactement le même rôle de régulation permanente du trafic pour éviter d'éventuelles infractions. A ceci près qu'aucun feu rouge n'a jamais supprimé d'automobiliste. </en discutant avec un ami>

Ce qui a changé c'est que les présidents de ces nouveaux états-plateformes, de ces nouveaux gouvernements, se considèrent comme au-dessus des lois. Et qu'ils l'écrivent en toute innocence.

"Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde". Mark Zuckerberg le 9 Janvier 2015.

Étonnant non ? Je vous le remets dans l'ordre : les citoyens font partie d'un état. L'état dispose d'un gouvernement, élu par les citoyens. Le gouvernement décide des lois s'appliquant aux citoyens de son état. Une société commerciale transnationale est présidée par un individu qui n'est élu par personne (sauf parfois par son conseil d'administration, OK). Lequel individu décide d'appliquer à l'ensemble des utilisateurs de sa plateforme, les lois du pays dans lequel ils – les individus – résident. Sauf s'il n'est pas d'accord (le chef de la société commerciale) avec ces lois ou qu'il estime (le chef toujours) qu'elles contreviennent (les lois) à la philosophie et/ou au modèle commercial de sa plateforme, de son service.

Ce qui a changé c'est qu'aux macro-régulations entre "états" et/ou organisations transnationales (Facebook acceptant par exemple la demande du gouvernement Turq de bloquer les pages contenant les caricatures du prophète) s'ajoutent également des micro-régulations nichées au coeur d'applications apparemment "indépendantes" ou en tout cas "détachées" du continent du web : ainsi Waze (application rachetée par Google) fait actuellement l'objet d'une sévère critique de la part de l'association des Sheriffs américains qui l'accuse de rendre plus difficile son travail et de mettre parfois en danger la vie de ses officiers. Toujours les mêmes questions mais avec de plus en plus complexes renvois de responsabilité : qui est coupable ? Les utilisateurs ? Waze pour la mise en place d'une fonctionnalité ? Google pour être le propriétaire de l'application ? Ce qui a changé c'est la dilution de ces "régulations du code" dont parlait Lessig, mais c'est également leur étendue : il ne s'agit plus ici simplement de réguler les questions de "privacy" ou de liberté d'expression, mais les questions de circulation (automobile), de signalement (de radars), et j'en passe.

Ce qui a changé c'est l'émergence d'une nouvelle Fédération du Commerce, façon Star Wars, en l'occurrence la Federal Communication Commission (FCC), dont le rôle est essentiel dans le choix qui sera fait – ou pas – de maintenir une neutralité du net, neutralité elle-même garante du respect d'un certain nombre de libertés fondamentales (dont la liberté d'expression), elles-mêmes jusqu'ici garanties par … la loi.

Ce qui est en train de changer c'est que les algorithmes, ces milices des états-plateformes, prennent de plus en plus de décisions, de manière de plus en plus autonome et totalement opaque.

Iségoria planétaire ou "gouvernement des juges" de la vallée du silicone ?

Les internets sont en tension. Avant on avait des foules sentimentales et des algorithmes supposés "sages", parce que eux, "savent". Aujourd'hui on a la sagesse des foules et les algorithmes sentimentaux.

Premier élément de tension, le paravent malcommode d'une iségoria de pacotille, nourrie de l'imaginaire de la déclaration d'indépendance du cyberespace et du potentiel "libérateur" des technologies ("L'imprimerie a permis au peuple de lire, Internet va lui permettre d'écrire", disait, et il avait raison, Benjamin Bayard). Or cette "iségoria", cette "égalité de la parole" se fracasse chaque jour devant les logiques autoritatives qui sous-tendent chaque algorithmie : chacun peut certes s'exprimer, mais le "poids" de cette expression est totalement régulé, déterminé et choisi par les algorithmes des plateformes, et la nature même de cette expression est également conditionnée par les routines algorithmiques qui perpétuent et entretiennent nos bulles de filtre. Il y a une aristocratie calculable de la parole, de l'expression publique, celle qui se règle à coups de "notoriété" et "d'autorité", celle qu'articule le Pagerank ou l'Edgerank, celle que déterminent d'interminables métriques d'audience (nombre de followers, nombre de pages vues, Klout score, etc …).

Deuxième élément de tension, à l'échelle d'une moitié de l'humanité, sa moitié connectée, la question de la régulation (problème connu depuis le texte de Lessig avec les changements signalés plus haut) et la question de la délibération. La question du "rendu public". C'est à dire, fondamentalement, la question du modèle démocratique possible derrière une politique des algorithmes.

Où sont les femmes les juges ?

Si. Si le code est la loi. Si les règlements ("policies" et autres CGU) ont force de loi y compris quand ils jouent d'une concurrence législative territoriale (tel contenu est interdit dans tel pays mais autorisé dans tel autre = c'est moi qui décide s'il est autorisé sur ma plateforme). Si les algorithmes et autres "bots" sont de nouvelles polices ou milices chargées de faire appliquer les règlements et les lois. "Si …", "si …", "si …", "si …", alors qui et où sont les juges ?

Là encore, nouveau et essentiel point de tension autour d'un gouvernement des juges, c'est à dire de la possibilité, pour un juge, de privilégier son interprétation personnelle au détriment de la loi. Nouveau point de tension autour de 3 hypothèses.

Première hypothèse : ce sont les PDG des plateformes qui sont les juges. Ce sont eux qui, en dernière instance, "jugent", à l'instar de Mark Zuckerberg, de "ce que les gens peuvent partager à travers le monde." Je rappelle qu'ils (les PDG) n'ont été mis là par aucun type de processus démocratique quelconque, et que le fait qu'ils puissent donc choisir de respecter telle ou telle loi, ou tout au contraire de s'élever au-dessus des lois pose a minima un petit problème de gouvernance, voire de démocratie à l'échelle des audiences qui sont les leurs …

Seconde hypothèse : ce sont les algorithmes qui deviennent juges alors qu'ils ont également un pouvoir de police. Certes les algorithmes et autres "bots" sont naturellement "programmés par des individus dotés, en tout cas on peut le supposer, d'un minimum de morale, d'éthique et de bon sens. Mais. Mais comme je le soulignais, ces algorithmes sont de plus en plus des algorithmes décisionnels. Et leur fonctionnement est itératif. Et il leur arrive, je le soulignais également plus haut, d'être "débordés". Sans parler du fait qu'ils peuvent, sur la base d'une critériologie nourrie de morale vaguement protestante, toujours se tromper, commettre des erreurs, en décidant par exemple que "l'origine du monde" de Courbet ne relève pas de l'art mais de la pornographie. Quoi qu'il en soit, le fait qu'une même entité (l'algorithme) soit à la fois investi de pouvoirs de justice (ce contenu contrevient à la loi et/ou à nos CGU) et de pouvoirs de police ("je" décide donc de supprimer ce contenu et/ou de bloquer les comptes associés ou l'ayant diffusé), pose là aussi un léger problème de démocratie.

Troisième hypothèse : nous, internautes, sommes les juges. Pourquoi pas. C'est d'ailleurs déjà partiellement le cas lorsque nous "signalons" aux plateformes tel ou tel contenu que nous trouvons choquant : nous "jugeons" sans pour autant – et c'est tant mieux – "rendre justice". Une démocratie de 2,5 milliards de juges me semble aussi improbable, dangereuse et incertaine que la composition d'une équipe nationale de foot dans un pays comptant 65 millions de sélectionneurs, mais admettons. Admettons avec cet autre bémol déjà signalé plus haut que certains "juges" sont plus puissants que d'autres (cf l'aristocratie calculable de l'expression publique). Chacun jugera. Cette hypothèse se scinde alors en deux sous-hypothèses distinctes : soit chacun juge ce qui est bon / tolérable/ acceptable pour lui, soit chacun juge ce qui est bon / tolérable/ acceptable pour les autres. 

Si chacun juge de ce qui est bon et acceptable pour lui, et c'est déjà le cas avec les possibilités offertes de "choisir" de suivre tel ou tel profil, tel ou tel compte, si chacun "est juge" de ce qui est bon / acceptable / tolérable pour lui, cela nous conduit directement à un bien étrange oxymore soulevé par Guillaume Champeau de la manière suivante (en gras) :

"Parce qu'il choisit de respecter la loi de chaque état et les décisions de justice prises au niveau national, Facebook censurera les caricatures de Mahomet en Turquie, conformément à une instruction judiciaire. Mais les Musulmans choqués d'autres pays ne "bénéficieront" pas de la même "protection", qu'ils peuvent juger utile. Faut-il que Facebook fasse évoluer son modèle de censure, pour plus de personnalisation ?

Si chacun juge de ce qui est bon ou acceptable pour les autres, sur quelles bases, sur quelles représentations et interprétations du monde fondera-t-il sa décision ? Celles qui lui seront fournies par les mêmes algorithmes, dans le souci de conforter ses propres opinions et représentations pour faciliter les interactions qui fondent leur modèle économique.

Dans les deux cas, on voit bien que la "capacité de jugement" de chaque individu reste clairement subordonnée au modèle de censure ou au modèle de personnalisation proposé par la plateforme hôte.

Chacun jugera.

A la fin de son article, en Janvier 2000, Lessig écrivait : "(…) La loi du cyberespace sera déterminée par la manière dont le cyberespace sera codé, mais nous aurons échoué à jouer notre rôle dans l'établissement de cette loi." 

En Janvier 2015, nous n'avons jamais été aussi près d'échouer.

 

P.S. : sur le même sujet on lira avec attention le billet d'Hubert Guillaud, "Le code est-il vraiment la loi", qui montre que dans certains cas, il n'est même plus question de hiérarchie entre lois et réglements (CGU) puisque le code supprime la nécessité du recours à la loi.