Algorithmes partout, intelligence nulle part. A propos de Gillian Brockell.

L'histoire est de celles qui font monter les larmes. En tout cas moi j'ai eu les yeux qui piquent en la lisant. C'est celle d'une femme qui à perdu son enfant à la naissance. Un enfant mort-né. Une femme qui écrit aux patrons des GAFA, aux patrons des "Tech Companies", pour leur demander d'arrêter de lui proposer des liens publicitaires sur une maternité dont elle doit faire le deuil. 

Cette femme s'appelle Gillian Brockell. Et voici la lettre qu'elle a publié sur Twitter (ma traduction)

"Chères entreprises technologiques, 

Je sais que vous avez su que j'étais enceinte. C'est ma faute, je n'ai pas pu résister aux Hashtags #30weekspregnant et #Babybump sur Instagram. Et j'ai été tellement stupide que j'ai même cliqué une fois ou deux sur des publicités que me proposait Facebook pour des vêtements de maternité. 

Vous avez certainement vu ma lettre de remerciement à toutes mes amies qui sont venues pour la fête prénatale et à mes soeurs qui ont pris un vol depuis l'Arizona et qui m'ont tagué dans leurs photos. Vous m'avez certainement vu taper sur Google "robe de vacances maternité" et même "barrière de sécurité pour lit bébé". Et je parie qu'Amazon vous a même donné ma date de terme, le 24 Janvier, lorsque j'y ai créé ma liste de voeux de cadeaux de naissance. 

Mais ne m'avez vous pas vu également taper "est-ce que c'est une contraction de Braxton Hicks ?" et "bébé qui ne bouge pas" ? N'avez vous pas remarqué les trois jours de silence, très inhabituels pour une utilisatrice très connectée comme moi ? Et puis n'avez-vous pas vu non plus l'annonce avec les mots-clés "coeur brisé" et "problème" et "mort-né" et les 200 émoticônes larmes de mes amis ? Cela ne fait-il pas partie des choses que vous pouvez surveiller ? 

Vous savez, il y a 26 000 décès à la naissance aux USA chaque année, et des millions de plus parmi vos utilisateurs à l'échelle de la planète ; et laissez-moi vous expliquez ce que sont les réseaux sociaux quand vous rentrez finalement chez vous en sortant de l'hôpital avec les bras les plus vides du monde, après que vous avez passé des jours à sangloter dans votre lit et que vous allumez votre téléphone pour quelques minutes de distraction avant de vous effondrer de nouveau en larmes. C'est exactement, de manière écrasante, la même chose que si votre bébé était encore en vie. (La lettre de Gillian mentionne ici les trois principales marques de vêtements pour les femmes enceintes et les jeunes mamans)

Et lorsque des millions de gens avec le coeur brisé cliquent sur "je ne veux pas voir cette publicité", et que là encore votre réponse est "pourquoi ?" avec le cruel mais vrai "ce n'est pas pertinent pour moi", vous savez, vous, les entreprises technologiques, ce que votre algorithme décide ? Il décide que vous avez accouchée, il suppose que tout s'est bien passé, et il vous inonde de publicités pour les meilleurs soutien-gorge d'allaitement (j'ai des feuilles de chou sur mes seins parce que c'est que la médecine offre de mieux pour stopper la montée de lait), il vous inonde de trucs et astuces pour endormir bébé (je donnerai n'importe quoi pour pouvoir l'entendre crier la nuit), et d'annonces pour les meilleures poussettes pour ses premières années de croissance (le mien pèsera pour toujours 1 kilo et 800 grammes)

Et puis, après tout ça, Expérian (société spécialiste du ciblage marketing) s'enfonce encore avec le ciblage le plus inapproprié qui soit : un courriel non-sollicité (spam) qui m'encourage à "finir la déclaration de naissance de mon enfant" (que je n'ai hélas jamais commencée) pour pouvoir le suivre tout au long de la vie qu'il ne mènera jamais. 

S'il vous plaît, entreprises technologiques, je vous en supplie : si vous êtes assez intelligentes pour comprendre que je suis enceinte, que j'ai accouchée, alors vous êtes également suffisamment intelligentes pour comprendre que mon bébé est mort et pour me diffuser des publicités appropriées, ou peut-être, peut-être, pour ne pas me diffuser de publicités. 

Sincèrement

Gillian."

Cette femme c'est le crapaud fou algorithmique, celle qui ne rentre pas dans les clous, dans les motifs, dans les "patterns" de prévisibilité et de prédictibilité de l'empreinte comportementale et navigationnelle qui fait de nous ce que nous sommes aux yeux des grandes plateformes : des documents comme les autres.

Gillian Brockell est l'exemple de ce que j'appelais, dans un contexte moins dramatique,  la dysalgorithmie, ce "trouble de résistance algorithmique où le sujet fait preuve d'un comportement ou d'opinions non-calculables".

Gillian a raison. Les "Tech Companies" savaient. Elles ont vu ses requêtes, elles ont constaté son inactivité inhabituelle, elles ont enregistré les émoticônes "larmes". Elles savaient. Mais elles s'en foutaient. 

A l'échelle qui est la leur, à l'échelle macro du ciblage comportemental, Gillian et son bébé ne comptent pas. Gillian et son bébé sont un simple bruit parasite dans la grande marche algorithmique de la prévisibilité qui ne tolère les écarts qu'à condition qu'elle puisse y creuser un nouveau segment marketing, une nouvelle critériologie de ciblage. Il y a des catégories à disposition des publicitaires pour à peu près tout et n'importe quoi : on peut cibler ceux qui détestent les juifs, ceux qui détestent les noirs, on peut cibler les suprémacistes blancs, non vraiment, on peut cibler à peu près tout. Mais on ne peut pas cibler Gillian et son bébé. On ne peut pas cibler les "décès à la naissance". 

Oh la catégorie existe. Il est en tout cas plus que probable qu'elle existe. Mais simplement elle n'est pas utilisée. Car elle n'est pas utile. Elle ne sert à rien puisqu'on n'a pas encore trouvé de truc à vendre à une maman dont le bébé est mort-né. Parce qu'une maman dont le bébé est mort-né n'a pas envie d'aller acheter des trucs. 

C'est juste ça la putain de raison qui fait que Gillian continue de se taper toutes ces putains de publicités. C'est juste ça. Juste parce qu'il n'y a pas de putain de marché pour les bébés morts-nés et leurs familles. 

Ces derniers jours j'ai répondu à plein d'interviews à propos de Facebook et des algorithmes, suite à mes articles sur les Gilets Jaunes. A un journaliste du Guardian pour un article qui devrait paraître aujourd'hui ou demain j'ai dit ceci : 

"Il nous faut avoir en tête quelque chose d'important : jamais depuis que l'humanité existe, jamais aucun "média", jamais aucune "plateforme" n'a été capable d'atteindre quotidiennement autant de citoyens ni d'aussi bien connaître chacune de leurs intentions et de prévoir chacun de leurs comportements. Si un observateur d'une autre planète débarquait aujourd'hui, s'il prenait connaissance de ces éléments et si nous lui indiquions que nous vivons malgré cela "en démocratie" il éclaterait immédiatement de rire car il penserait que nous lui faisons une blague ou que nous sommes fous". 

Notre folie est également celle qui fait que nous laissons exister des critères de ciblage publicitaire qui ne ciblent que la haine, parce que la haine est un marché. Qui ciblent aussi la détresse et la maladie. Car la détresse et la maladie sont des marchés, et des plus florissants, et des plus prometteurs.

Rien n'échappe au marché depuis que les mots, même les mots, sont vendus aux enchères. Tout le monde le sait. Beaucoup de monde le dénonce. Beaucoup de gens s'en inquiètent. Les fondateurs même de ces plateformes le savent. Ils le savent parfaitement. Ils l'ont écrit.

Et puis au milieu, il y a Gillian, son bébé, et toutes les autres Gillian et tous leurs autres bébés. Qui ne sont pas un marché. Même pas une part de marché. Que pèsent "1 kilo et 800 grammes" sur le marché publicitaire ? Ce n'est même pas le poids d'une larme. 

Peut-être que l'histoire et la lettre de Gillian déclencheront chez les géants de la tech, une étincelle. Mais oui. Bien sûr. C'est un marché. Un marché "de niche". Ce qui va dans une niche est un chien. Et il n'y a rien à attendre d'autres d'entreprises technologiques bâties sur un modèle de rente publicitaire et attentionelle qu'une forme extrême … de cynisme.   

En exergue de mon livre "L'appétit des géants" figure la phrase de Paul Saffo :

"La valeur d'un réseau social n'est pas seulement définie par ceux qui sont dedans mais par ceux qui en sont exclus."

Chacun est libre de critiquer ces géants de la Tech. Ces GAFAM. Des les mépriser même. Tout en les utilisant d'ailleurs. Pourquoi pas après tout. Sommes-nous finalement autre chose que la somme de nos contradictions ? Mais il ne faudra pas les lâcher. Pas une seconde. Parce que chaque jour ces entreprises et leurs dirigeants nous expliquent qu'ils ont un projet de société. Qu'ils veulent bâtir de "nouvelles infrastructures", qu'ils veulent rapprocher les gens. Hier le slogan de Google était "Don't Be Evil", aujourd'hui c'est juste "Do The Right Thing". 

Dans ce monde où la publicité est tellement personnalisée qu'elle est incapable de discerner l'émotion d'une naissance de celle d'un deuil, dans ce monde là, le patron du principal média temps réel de la planète, le patron de Twitter, part faire du tourisme et de la méditation à Myanmar, sur les lieux même du génocide des Rohingyas. Et il trouve ça cool. Allez savoir, peut-être qu'il n'a pas de compte Twitter. Peut-être qu'il s'en fout. Ou peut-être qu'il est juste très con, ou très occupé. Je n'en sais rien. Le patron de Facebook, lui, va encore hésiter un peu avant d'aller faire du tourisme à Myanmar puisque sa plateforme est directement mise en cause dans le rôle qu'elle a joué dans ce génocide en attisant la haine contre cette minorité.

Dans ce monde là, qui est leur monde, qui est le nôtre, il y a aussi Gillian Brockell et son bébé. Il y a le "travail de deuil" qui n'a rien d'un "Digital Labor."

Une pensée pour Gillian, que je ne connais pas, mais dont l'histoire nous dit très exactement ce que nous sommes en droit d'attendre de ces plateformes pour autant qu'elles aient un projet de société. Juste une forme exacerbée de cynisme. 

<Mise à jour de 5 Minutes après publication>

• La lettre de Gillian a été republiée dans le Washington Post (pour lequel elle travaille). 
• Sur l'Obs, Emilie Brouze revient sur l'histoire de Gillian et rappelle d'autres cas de "cruauté algorithmique".
• Pixels (Le Monde) revient aussi sur l'affaire et présente les réponses de Facebook  : "on est désolé, il existe un paramètre pour bloquer ces publicités, on va essayer de le rendre plus accessible". Voilà. C'est vrai que dans ces cas là on pense forcément à régler un paramètre de confidentialité sur Facebook. Cynisme, disais-je.   
• Bon OK l'histoire à l'air bien partie pour faire beaucoup de bruit … et donc sur la BBC, Facebook a plutôt l'air de plaider le bug …

<Mise à jour de 5 Minutes après publication>

<Mise à jour du lendemain> L'histoire de Gillian Brockell continue de faire le tour de la planète et du web. Et puisque je parlais de cynisme, elle raconte elle-même comment après avoir finalement réussi à trouver où désactiver les "parental Ads" dans Facebook, celles-ci avaient presqu'instantanément été remplacées par des publicités … pour l'adoption.  </Mise à jour du lendemain>