Dans un article récent sur les interfaces cerveau-machine, j'écrivais ceci :
"Le passage à l'échelle, la "scalabilité" de toutes ces technologies numériques de la mesure, fait que le moindre startupper ne devrait plus pouvoir faire l'économie d'une réflexion éthique et politique sur le service qu'il souhaite lancer. Mais c'est – presque – un autre sujet."
C'est de cet "autre sujet" que je voudrais vous parler aujourd'hui rapidement. Je suis tombé sur cet entretien de Ferdinand Rousseau, co-fondateur de Weenect, une start-up qui vend des balises de géolocalisation pour "donner plus de liberté et d'autonomie aux enfants et aux personnes âgées" (sic). Weenect marche bien sûr aussi pour les chiens et les chats (et probablement les poneys, les langoustes et tout autre système biologique vivant sur ou dans lequel on peut insérer une balise de géolocalisation). Qu'il soit dit ici que je ne connais ni Ferdinand Rousseau ni la start-up Weenect mais que ce qu'il raconte dans cette interview me semble désespérément emblématique du discours de toutes les entreprises qui, à son instar, font l'économie (ou l'impasse totale) d'une réflexion éthique et politique sur le service qu'ils créent, qu'ils vendent et qu'ils administrent.
L'émancipation par la surveillance.
Au regard de ce qu'est notre quotidien numérique avec ses bonheurs et ses jouissances mais également ses affres et ses scandales à répétition, depuis le texte "Code is Law" de Lawrence Lessig (qui date de 2000) il est impossible d'ignorer ou de nier que le "code" (informatique) transmette des valeurs. On sait également que ces valeurs sont définies par ceux qui créent ce code, lesquels n'ont le plus souvent ni la formation, ni l'ambition, ni le temps, ni parfois l'envie d'envisager qu'ils sont à l'origine de bien plus que d'un "service". Le politique ayant dans le même temps déserté cette question des valeurs et de l'éducation au numérique et les plateformes venant opportunément (et commercialement) combler ce manque, nous sommes aujourd'hui dans une forme d'impasse et d'impensé qui permet d'affirmer benoîtement et hélas bien au-delà de la Startuposphère que :
"Chaque parent éduque ses enfants différemment. On n’a jamais pris le parti pris de dire aux parents que c’était un instrument de surveillance. On a toujours expliqué que c’était un outil pour émanciper l’enfant, pour lui donner plus de liberté."
A part dans l'oeuvre d'Orwell et pour quelques autres dystopies majeures, "l'émancipation par la surveillance omniprésente" n'est rien d'autre qu'un contresens logique et moral qui a à peu près autant de sens que l'idée d'apprendre à quelqu'un à nager en lui faisant boire de l'eau. C'est également le signe d'une faillite collective autour du grand techno-récit de la surveillance que le marché et son néoparler nous revendent sous le faux-nom de "protection".
Diminution du champ d'autonomie, "parents hélicoptères" ou "parents drones", rien de tout cela n'est nouveau et dès 2014 Nadia Daam en avait déjà fait le récit parfaitement documenté dans cet article de Slate : "Comment nous sommes devenus les Big Brother de nos enfants."
La société de l'alerte permanente.
Qui dit surveillance dit qu'il doit y avoir une menace et qu'il faut donc être en alerte. Nous sommes la société de l'alerte permanente. Y compris pour les plus banals des phénomènes météo (orages, pluie, grêle) qui font que l'on se prend à "rationnellement" s'inquiéter d'une "alerte orange de Météo-France" qui dit qu'il va peut-être faire un gros orage avec peut-être de la grêle. Moi-même pas plus tard qu'il y a quelques jours je me suis surpris à être "inquiet" d'une grêle qui ne tomba jamais après un orage qui passa au loin, et qui si elle était nonobstant tombée ou s'il était passé plus près, aurait eu pour principale conséquence de … me mouiller***. Mais depuis la veille et l'annonce de ce "département en alerte orange 'orages et grêle'", c'est tout un pan de mon comportement social qui a été affecté, y compris dans mes relations avec – par exemple – mes enfants, et l'injonction toujours plus pressante à "se couvrir" et à "faire attention" ou la présence constante et constamment rappelée (radio, télé) de ce "risque" et la forme de "préoccupation cognitive qui l'accompagne, une préoccupation heureusement encore légère mais bien inutile.
Dans cette société de l'alerte, les notifications sont l'allié objectif et fidèle d'une routine de l'alarme qui banalise et légitime le perpétuel recours à des tiers (commerciaux ou privés) qui soient garants d'une fonction de réassurance qui n'obéit plus à aucune autre justification que celle de sa propre existence.
*** Oui je sais des gens ont été victimes de ces intempéries, il y a eu dans certains endroits de certaines régions et pour certaines professions des dégâts considérables. Comme c'était déjà le cas … avant qu'il y ait les cartes de vigilance de Météo-France et que ces alertes ne soient reprises en boucle par les JT et les radios.
Vendre de la culpabilité pour s'exonérer de sa responsabilité.
Mais revenons à notre start-up et ses balises GPS pour émanciper nos enfants par la surveillance. Deuxième étape, deuxième citation, deuxième argument aussi classique et répandu que les grumeaux dans une purée Mousseline à l'eau froide :
"On n’est pas responsables de ce que font les parents. Mais, on est convaincus que nos clients et nos utilisateurs utilisent la balise GPS de manière très juste et non pas dans un but de réprimander leurs enfants."
Quand on commercialise, qu'on diffuse ou qu'on conçoit un produit ou un service, on ne peut pas s'exonérer de toute responsabilité sur l'utilisation qui en est faite. "Coupable" non mais "responsable", oui. Et en général d'ailleurs les gens le font. Ils sont même, et c'est bien normal, tout fiers d'assumer la responsabilité de l'utilisation de leur produit ou de leur service. Mais forcément dès que ces produits ou ces services relèvent du champ de la surveillance ou de la légitimation de la violence, les choses se compliquent un peu.
Alors le marketing et les lobbyistes appliquent cette règle aussi simple qu'efficace : plus vous arriverez à convaincre les gens qu'ils sont coupables de ne pas utiliser votre service et qu'en ne l'utilisant pas ils augmentent le niveau de risque individuel ou collectif, et moins les gens viendront vous chercher sur votre propre responsabilité.
Le coup du stylo.
De Weenect à Amesys en passant par la NRA, ce n'est hélas ni la première ni la dernière fois que l'on nous fait "le coup du stylo". Le coup du stylo c'est lorsque le patron d'une société qui, par exemple, vend des technologies d'écoute et de surveillance de la population à des régimes dictatoriaux et qui t'explique que quand on vend un stylo on n'est pas responsable de ce qui va être écrit avec. Exemple à partir de 58' dans l'incontournable documentaire "Une contre-histoire de l'internet".
Directeur commercial d'Amesys tenant un stylo avec lequel il n'a jamais écrit et n'écrira jamais le mot déontologie.
Encore une question d'Affordance.
(Rappel : une "affordance" est une forme de "potentialité" et désigne, en gros, la capacité d'un objet à suggérer son utilisation. Et c'est aussi le nom de ce blog magnifique.)
Une voiture est une caisse de tôle sur 4 roues et dotée d'un moteur dont l'affordance première est de permettre de se déplacer rapidement d'un point à un autre. L'automobile est encadrée juridiquement en amont pour tout ce qui relève de sa conception et encadrée juridiquement en aval pour tout ce qui relève de son utilisation et des infractions potentielles. Le cadre juridique est – normalement – là pour atténuer et limiter des détournements d'affordance : limiter la pollution (dans les chaînes de production par la réglementation et dans l'usage par le code de la route), augmenter la sécurité, etc.
L'affordance première d'une arme à feu est de permettre de tirer sur des gens. Et étant entendu qu'une balle traversant ton corps a de fortes chances de causer ta mort, on peut donc considérer que l'affordance première d'une arme à feu est de tuer des gens. L'utilisation d'une arme à feu est encadrée juridiquement mais de manière totalement différente selon les pays. Les pays où l'encadrement juridique est déficient ou permissif ont un taux d'homicide par arme à feu évidemment et logiquement plus élevé que les autres.
Et maintenant une question : quelle est l'affordance première d'une balise de géolocalisation accrochée sur des enfants et couplée à un traceur installé sur le smartphone des parents ? Émanciper ou surveiller les déplacements des porteurs de la balise ? Surveiller. Et quel est l'encadrement juridique de cette surveillance "parentale" ? Aucun. Aucune loi n'interdit ni n'oblige à surveiller par GPS les déplacement de ses enfants. Idem d'ailleurs pour les personnes âgées et les animaux domestiques qui sont les autres catégories du "parc d'utilisateur" cité par le cofondateur de Weenect.
Nous avons donc – au moins – un constat à faire et un problème à régler.
Le constat est sociétal et le problème est – en partie – légal.
Le constat. Mettre de balises de surveillance sur des enfants ne réglera jamais aucun des problèmes causés par un défaut de surveillance parentale mais produira l'effet inverse qui est de déléguer à un dispositif technique un rôle d'éducateur pour autant que le marketing parvienne à nous faire déculpabiliser de nous affranchir de ce rôle, ou qu'il parvienne, à l'inverse, à nous faire culpabiliser de prendre un risque qui n'a pas d'autre existence réelle que celle construite par l'opportunité de vendre une technologie permettant d'y remédier. Bref, plus nous déléguerons à la technique le "soin" de surveiller à notre place et moins nous feront acte d'éducation.
La force de l'essentiel des technologies actuelles que l'on nous présente ou que l'on nous vend comme autant de technologies du "Care" est d'abord d'être des technologies de remédiation à notre propre culpabilité. Nous ne prenons pas "soin" de nos enfants ou de nos aînés en leur collant des balises GPS. La seule chose dont la balise GPS prenne soin c'est de notre propre sentiment de culpabilité pour qu'il ne nous empêche pas de vivre. A l'image du slacktivisme, ces technologies ne produisent que des formes volatiles de désengagement.
Le problème. Construire une technologie ou un service numérique c'est construire un comportement social. Ceci n'est pas nouveau et vaut aussi souvent pour les technologies et les services qui n'ont rien de numérique. Là où les choses changent en revanche, et considérablement, c'est lorsque l'on construit un service ou une technologie pour répondre à une peur ou pour offrir de quoi répondre à une angoisse que l'on aura soi-même contribué à créer ou à artificiellement présentée comme vraie.
Je l'évoquais plus haut à propos des "affordances", les technologies et le droit se sont toujours construits en parallèle, en réponse et en écho l'un de l'autre. La rupture des technologies du numérique est de faire de l'usage un droit, et du non-usage un risque, là où les technologies "non-numériques" se construisaient autour d'un droit d'usage capable d'accompagner et d'en prévenir les risques.
Avec le RGPD on avance et on progresse actuellement beaucoup – et c'est très bien – sur la législation encadrant la collecte des données personnelles. Mais cette progression juridique doit s'accompagner d'une réflexion sur les usages collectifs induits. Une réflexion qui ne doit pas être uniquement juridique mais qui ne peut pas non plus faire l'économie du droit au motif d'un Business Model qui dirait, comme le dit le co-fondateur de Weenect, que le marché de la surveillance des enfants est plus rentable que celui de la surveillance des animaux domestiques qui est lui-même plus rentable que celui de la surveillance des personnes âgées dépendantes. N'en déplaise au Happyness Manager de la Start-Up Nation de mes burnes.
Si nous ne le faisons pas, le risque est que nous finissions par accepter une hiérarchie de l'attention portée à l'autre qui ne sera guidée que par des choix égoïstes et grégaires, davantage biaisés que médiés par la technique, et subjectivés à un point tel qu'ils nous empêcheront à terme de réellement "faire société". Parce que l'unique projet politique qui peut émerger d'une société malade d'un régime d'alarme permanente et à laquelle on prescrit toujours davantage de surveillance comme on lui prescrirait une saignée, est un projet politique qui fera de la suspicion collective sa matrice, de la dénonciation sa norme et de la stigmatisation son ambition.
Et nos enfants, à l'émancipation sous surveillance constante, pourront alors se plaindre "de l'inconvénient d'être né" connecté alors que tout notre travail aurait du consister à leur permettre de s'en réjouir et de s'émanciper, sans surveillance mais en confiance.
"Le Progrès est l'injustice que chaque génération commet à l'égard de celle qui l'a précédée."
Emil Cioran in "De l'inconvénient d'être né".
