(J'avais préparé, pour une éventuelle parution presse, une version courte de mon article d'hier, la voici)
1996. John Perry Barlow rédige la déclaration d’indépendance du cyberespace. On y lit : « Vos lois ne s’appliquent pas à nous. » Janvier 2000. Lawrence Lessig publie un article fondateur « Code is Law ». Il y démontre que ce sont les algorithmes (le code), qui font du cyberespace ce qu’il est. Que ce sont eux qui décident de ce qui relève de la vie privée et de ce qui peut être surveillé, du périmètre de la liberté d’expression. Et pose cette question :
« Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n'est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D'autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. »
9 Janvier 2015, deux jours après l’attentat contre Charlie Hebdo, Mark Zuckerberg écrit sur son mur Facebook :
« Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde. »
Quelque chose a changé. Les « gouvernements » que redoutaient Barlow ont été remplacés par d’autres gouvernements du code. Des « états-plateformes » au-dessus des lois, qui décident d'appliquer à l'ensemble de leurs utilisateurs les lois du pays dans lequel ils résident, sauf si leur PDG n’est pas d’accord ou qu’il estime que ces lois contreviennent à la philosophie, aux conditions générales d’utilisation et/ou au modèle commercial de son service.
15 ans exactement après le texte de Lessig ces « états-plateformes » s’avouent eux-même débordés et être incapables de « filtrer » ou d’identifier les vidéos Djihadistes sur Youtube puisque plus de 300 heures de vidéos y sont déposées chaque minute ! Alors ils s'en remettent entièrement aux algorithmes (aucun humain ne peut traiter une telle quantité d'informations), et inaugurent un nouveau temps judiciaire qui a ceci de commun avec le temps judiciaire classique qu'il ne peut intervenir qu'après l'infraction, mais qui a ceci de radicalement différent qu'il intervient aussi en permanence sur des infractions non constituées en tant que telles.
15 ans après le texte de Lessig les algorithmes sont partout, leurs codes ne gèrent pas simplement notre vie privée ou le périmètre de « la » liberté d’expression mais se nichent au cœur de nos smartphones, de nos applications, de nos voitures, de nos agendas, de nos recherches sur le web pour autoriser ou interdire chacune de nos interactions avec le monde, chacune de nos représentations du monde : une inédite dilution de ces régulations du code, à une échelle également inédite.
15 ans après le texte de Lessig, les algorithmes, ces milices des états-plateformes prennent de plus en plus de décisions, de manière de plus en plus autonome, et dans la plus totale opacité.
Si le code est la loi, si les règlements ("policies" et autres CGU) ont force de loi y compris quand ils jouent d'une concurrence législative territoriale (si tel contenu est interdit dans tel pays mais autorisé dans tel autre alors c'est la plateforme qui décide s'il est autorisé pour son milliard et demi d’utilisateurs), et si les algorithmes sont de nouvelles polices ou milices chargées de faire appliquer les règlements et les lois, alors où sont les juges ?
Si Zuckerberg pour Facebook ou Brin et Page pour Google sont les juges, quel état et quelle démocratie représentent-ils ? Par qui d’autre qu’eux-mêmes ont-ils été désignés ?
Si les algorithmes sont les juges, s’ils disposent à la fois de pouvoirs de justice (ce contenu contrevient à la loi et/ou à nos CGU) et de pouvoirs de police ("je" décide de supprimer ce contenu), à qui sont-ils tenus d’en rendre compte ?
Si nous, utilisateurs, sommes les juges, quelle justice rendrons-nous ? Celle qui ne concerne que nous, qui ne s’applique qu’à ce que nous jugeons tolérable ou acceptable ? Comment alors prétendre encore « faire société » ? Ou celle qui concerne le collectif, le groupe national, communautaire, idéologique, social, politique auquel nous appartenons et qui est est nourrie de représentations et d’opinions qui nous sont essentiellement fournies par les mêmes algorithmes, dans le souci de conforter nos propres opinions et représentations pour faciliter les interactions qui fondent leur modèle économique ? Dans les deux cas, on voit bien que la "capacité de jugement" de chaque individu reste clairement subordonnée au modèle de censure ou au modèle de personnalisation proposé par la plateforme hôte.
Chacun jugera. Janvier 2000. A la fin de son article, Lessig écrivait : « La loi du cyberespace sera déterminée par la manière dont le cyberespace sera codé, mais nous aurons échoué à jouer notre rôle dans l'établissement de cette loi. » Janvier 2015 : nous n’avons jamais été aussi près d’échouer.
