Chronique d’un crash sociétal : de Jean-Luc Lahaye à Andreas Lubitz. De la suspicion au suicide.

Alors oui le titre de ce billet est étonnant. Car a priori aucun rapport bien sûr entre les deux. Donc pourquoi ce billet ? Pour la raison suivante.

Jean-Luc Lahaye.

Dans le cadre du procès intenté à Jean-Luc Lahaye, un communiqué de presse de ses avocats publié notamment sur la page "Fan" Facebook du chanteur, indiquait hier les choses suivantes :

Je recopie la partie qui m'intéresse :

"Les poursuites ont été engagées sur le seul fondement d'un signalement opéré par la société américaine Facebook qui a pris l'initiative de contrôler le contenu de correspondances strictement privées échangées sur son réseau. (…) Doit-on permettre aux sociétés commerciales qui exploitent les réseaux sociaux (…) de s'attribuer le droit de s'immiscer dans la vie privée de tout un chacun sous couvert d'intentions annoncées louables, de contrôler le contenu de message privés échangés, de les dénoncer aux autorités publiques et de s'ériger en censeur des comportements selon des critères arbitraires qui appartiennent à elles seules ?"

Pour être tout à fait clair, je précise qu'au vu des rapides recherches effectuées sur le sujet, et dans le cadre de l'affaire en question, la "dénonciation" de Facebook s'est appuyée uniquement sur des échanges "textuels" entre le chanteur et la mineure (15 ans) et qu'aucune image ne fut effectivement échangée ou retrouvée.

Andreas Lubitz.

(Rappel : les curieux pourrons aussi se reporter au billet dans lequel j'observe plus que je n'analyse les manifestations "documentaires" de l'événement autour des pages Facebook consacrées au pilote). Venons-en maintenant à Andreas Lubitz, copilote de l'avion du vol GermanWings. Au vu là encore des derniers éléments, il semblerait qu'il ait volontairement fait s'écraser l'avion, qu'il se soit suicidé (et 150 personnes avec lui mais là n'est pas le sujet), et qu'il ait été victime de troubles dépressifs graves pour lesquels il était encore sous traitement au moment du crash. La question est donc de savoir :

• s'il était possible d'être informé desdits troubles et dudit suivi ?
• qui (à minima son employeur) aurait dû en être informé ?
• et comment aurait-il pu (son employeur) en être informé ?

Et voilà le point commun entre Jean-Luc Lahaye et Andreas Lubitz. Car oui, il est probable que si quelqu'un pouvait être au courant de l'état mental d'Andreas Lubitz, il s'agit en priorité des services en ligne (réseau social, moteur de recherche, messagerie) qu'il utilisait.

Se posent donc 3 nouvelles questions.

La question de savoir si, à partir du moment où ces services, disons pour faire simple Google ou Facebook, si à partir du moment où Google ou Facebook sont au courant de l'état dépressif d'un individu, ils sont supposés établir une corrélation entre cet état dépressif et – par exemple – le métier de l'individu en question.

La question de savoir s'ils établissent déjà ou non de telles corrélations et sur quelles bases.

Et la question de savoir s'ils doivent communiquer aux "autorités" (police ? justice ?) les résultats de leurs corrélations.

A chaud et dans l'émotion on répondra bien sûr "oui" à ces 3 questions. Si Facebook (ou Google ou un autre service en ligne) était au courant de l'état dépressif d'Andreas Lubitz, et si Facebook savait qu'Andreas Lubitz était pilote, Facebook aurait dû avertir son employeur ou "les autorités" de cette situation et cela aurait peut-être permis d'éviter la mort de 150 personnes innocentes. Je prends ici le pari que dans le cadre de ce désastreux fait divers, la question sera bientôt posée dans les médias (tiens ça commence déjà avec le Huff Post). <Mise à jour du 2 Avril> Ca y est, c'est la faute d'internet </Mise à jour>

La bonne réponse à ces 3 questions est pourtant, et évidemment, "non". Oui Facebook et les autres sont les mieux à même de savoir si nous sommes "dépressifs", "maniaco-dépressifs", "en plein burn-out", ou dans tout autre situation à risque ou dangereuse (pour nous-mêmes ou pour d'autres) car Facebook et les autres peuvent s'appuyer sur nos statuts, sur l'analyse de nos correspondances privées, nos mails, nos requêtes sur les moteurs de recherche, etc. et à partir de là inférer plein de … choses. Oui Facebook, Google et les autres se livrent déjà à tout un tas de corrélations et de croisements sur ces différentes "données" pour optimiser leurs services et nous afficher – notamment – des publicités toujours plus ciblées. Et non, non et trois fois non, Facebook, Google et les autres ne doivent jamais transmettre "spontanément" et de manière "brute" le résultat de leurs corrélations et de leurs traitements statistiques aux autorités. Jamais ? Jamais.

– "Même s'il s'agit d'un odieux pédophile qui accumule des photos ignobles ?" Oui.

– "Même si quelqu'un annonce son intention de se suicider et d'entraîner dans sa mort des personnes innocentes ?" Oui.

– "Non mais t'es pas un peu dingue ???" Non.

Car si nous acceptons que Facebook ou un autre fasse cela, et quel que soit le sujet (de la dépression passagère à la pédophilie) plus aucune limite à l'arbitraire ne sera alors possible. Une présomption de culpabilité remplacera définitivement la présomption d'innocence. Transmettre ces résultats sans la requête préalable d'un juge c'est s'installer définitivement dans un climat déléthère de dénonciation généralisée comme aux plus sombres heures de notre histoire (point Goodwin parfaitement assumé). Transmettre ces résultats sans la requête d'un juge c'est ériger en règle de droit la confusion systématique entre causalité et corrélation (le fameux effet cigogne) : ce n'est pas parce que je dis que je vais me suicider que je vais le faire ; ce n'est pas parce que je tape une requête sur "child porn" que je suis pédophile ; et la liste des "ce n'est pas parce que je fais ceci que je suis cela" pourrait continuer de manière presque infinie.

– "mais putain, t'as pas d'enfants ou quoi ??! Comment tu peux oser dire qu'ils ne doivent pas dénoncer des pédophiles s'ils ont la preuve que les gars détiennent des images pédopornographiques ???!!!" Si j'ai des enfants. Et oui parce que j'ai trois enfants, mais uniquement pour cette raison là – qui d'ailleurs la discrédite immédiatement en tant qu'argument de droit, neutre et objectif – je suis prêt à admettre une exception pour ce cas très particulier. Exception qui est d'ailleurs déjà mise en place puisque tous les grands acteurs numériques de Microsoft à Google ont déjà des programmes de collaboration avec la police (j"insiste sur ce point tant il serait préférable qu'ils collaborent avec la justice …), et qu'ils utilisent des algorithmes de reconnaissance d'image et le croisement avec l'analyse textuelle d'informations privées (mails) pour établir de gigantesques bases de données d'images pédopornographiques permettant de mieux détecter et dénoncer directement ceux qui font circuler ces images.

Suicide is Painless and Surveillance is Globale.

Sur les questions "comportementales" et les "conduites à risque", en particulier le risque de suicide, Facebook a récemment annoncé son intention de muscler son dispositif existant en déployant une nouvelle fonctionnalité décrite comme suit :

"Ce nouveau mécanisme permettra de signaler un message de détresse émis par un «ami» Facebook, qui laisserait penser que l’auteur pourrait se donner la mort.

Le dispositif se décompose en plusieurs phases. Dès l’apparition d’un nouveau message sur Facebook, un onglet permet de signaler ceux considérés comme alarmant aux employés du réseau social, comme c’est déjà le cas pour les posts liés à la nudité ou à la violence. Un message est alors envoyé à l’utilisateur qui a signalé le post. Une note informative sur le suicide lui est transmise, et il est invité à contacter son «ami» en détresse.

Mais cette personne peut aussi demander au réseau social d’intervenir directement. Pour cela, Facebook a annoncé former ses employés aux questions relatives au suicide. Après vérification des messages signalés, ils peuvent décider de déconnecter l’auteur de ces posts, qui, dès sa prochaine connexion, recevra un message lui indiquant que ses amis s’inquiètent pour lui. De plus, Facebook l’invitera à prendre contact avec ses amis, et à appeler une centrale d’appel de prévention du suicide."

Et le résultat ce sera ça :

It's complicated.

Oui c'est compliqué. C'est compliqué le traitement de l'intention suicidaire par l'ingénierie linguistique. C'est compliqué d'imaginer une armée d'ouvriers psychologues oeuvrant en permanence à l'écoute de l'immense fatrasie de Facebook et guettant ce qui ici relève de l'intention suicidaire avérée et là de l'humour noir ou du simple moment de baisse de moral passagère. C'est compliqué et c'est dangereux.

Quand tout est compliqué, quand il est difficile d'apporter des réponses manichéennes à des questions relevant de la psychologie, quand les questions de surveillance se mêlent aux questions de prévention, quand le flou est tel que personne ne peut prétendre apporter de solution simple et fiable aux nouvelles zones de flou qui entourent les différents aspects de nos vies et de nos sociabilités connectées ou non, il est un seul réflexe et une seule urgence démocratique permettant d'éviter l'installation d'un régime d'arbitraire généralisé : cela consiste à s'appuyer sur la justice et sur la loi. Plutôt que sur des sociétés privées et sur des algorithmes.

Le plus grand risque serait de s'installer dans la croyance aussi commode que dangereuse de sociétés commerciales pouvant servir de palliatif aux manques, aux carences ou aux erreurs des systèmes judiciaires déjà en place dans nos sociétés, et ce quelles que puissent être les carences desdits systèmes. Le plus grand risque ce serait de croire que c'est le boulot de Facebook de transmettre des rapports "de corrélations médico-psychologiques" aux employeurs d'Andreas Lubitz puisque visiblement le circuit administratif et le suivi des pilotes dispose de carences sur leur suivi psychologique. Le plus grand risque ce serait de croire que c'est à Microsoft ou à Google de rendre justice dans des affaires de pédophilie en s'appuyant sur les seuls pouvoirs de police de leurs milices du code. Le plus grand risque ce serait de croire qu'une corrélation a valeur de preuve. Refrain connu. "Si vous n'avez rien à cacher, vous n'avez rien à craindre d'une surveillance généralisée." Mais nous avons tous quelque chose à cacher. Sur la seule foi de corrélations algorithmiques statistiquement pré-établies nous sommes, ou nous serons tous un jour, de potentiels dépressifs, alcooliques, a-sociaux, bi-polaires, assassins, pédophiles ou que sais-je encore.

La discrétion contre la délation.

Oui nous avons et aurons tous et toujours un certain nombre de choses à cacher. Mais pas au nom d'une possible "dissimulation" hors la loi. Au nom d'un principe fondamental de discrétion. Discrétion dans tous les sens du terme d'ailleurs.

Nous nous devons d'être "discrets" dans nos paroles et dans nos actes, c'est à dire sinon "réservés" à tout le moins "mesurés", précisément pour ne pas laisser à d'autres le soin d'en permanence "nous mesurer".

Nous sommes également des êtres discrets au sens mathématique du terme, c'est à dire "distincts, séparés, discontinus." Et à ce titre nous "résistons" à l'analyse algorithmique et statistique de causalités pour ne prêter le flanc qu'à de possibles corrélations. Corrélations à l'image des vessies et des lanternes, on voudrait nous faire prendre pour autant de causalités possibles.

Au sens topologique, nous peuplons un espace que l'on nous incite en permanence à étendre mais qui demeure fondamentalement un espace discret, "un espace dont tous les points sont isolés", et dont le graphe de Facebook ne nous vend qu'un rapprochement arbitraire et sous-contrôle.

Au sens informatique enfin, une variable discrète qualifie "un type de donnée qui ne peut prendre qu'un petit nombre de valeurs." L'infiniment petit et l'infiniment grand. Chacun d'entre nous est défini, traqué, suivi, indexé en permanence au moyen d'un nombre de données toujours plus étendu, mais chacun d'entre nous ne pourrait être catalogué (ou dénoncé …) qu'un nom d'un tout petit nombre de valeurs et d'invariants statistiques relevant eux-même d'un nouveau régime de corrélations parfaitement arbitraires.

Alors au sens propre comme au sens figuré, pour nous-mêmes comme pour les autres, sur l'affaire de Jean-Luc Lahaye comme sur celle d'Andreas Lubitz, efforçons-nous d'être … discrets.