<Edit du 20 Septembre 2017 suite à une menace de procès en diffamation>
Dans l'article du journaliste Stéphane Dreyfus paru dans l'édition du 29 Novembre 2006 du Journal La Croix (accessible ici) on pouvait lire ceci :
(extrait de l'article de La Croix disponible intégralement en .pdf sur simple demande)
Or suite à la publication hier de mon article reprenant ces éléments factuels de La Croix, j'ai reçu un mail d'Arnaud Dassier me menaçant d'un procès en diffamation. Il n'a pas souhaité exercer le droit de réponse que je lui ai proposé, et je le regrette. Notamment parce que son mail utilisait un argumentaire à ma connaissance inédit sur cette affaire et qui est le suivant :
"Pour ma part, j'ai lancé une campagne d'achat de mots clés à la demande de l'UMP. Cette campagne a été lancé dans la soirée avec des mots clés liés aux émeutes de banlieues. Le lendemain matin un blog a signalé des dérapages sur des publicités google qui s'affichaient sur des mots clés douteux, pouvant être considérés comme racistes, dans le contexte. Nous n'avions évidemment jamais acheté ces mots clés, ce qui aurait été odieux, mais aussi stupide. J'ai immédiatement appelé Google pour comprendre ce qu'il se passait. Les services de google ont vite compris qu'il s'agissait d'une extension spontanée de l'univers sémantique de ma campagne (recherches étendues, à opposer aux recherches strictes), ce qui est le système par défaut quand l'éditeur de la campagne ne fait pas de choix particulier. En gros, Google affichait mes publicités à toutes les recherches comprenant des mots associés par les gens, dans leurs requêtes google, aux mots clés que j'avais achetés. Bref, une fois de plus c'est le racisme exprimé par les gens dans leurs recherches qui conduisait l'algorithme google a étendre ma campagne à des mots clés que je n'avais pas achetés. J'ai immédiatement suivi le conseil de Google et restreint ma campagne strictement aux mots clés que j'avais acheté. Le problème n'aura donc duré qu'une nuit et une matinée." Extrait du mail d'Arnaud Dassier reçu le 20 septembre.
Les spécialistes des campagnes Adwords jugeront de la pertinence de cet argumentaire mais en tout état de cause cela me semble être la meilleure illustration de ce que je tente de démontrer dans mon article, et va bien au-delà du précédent historique que constituèrent les campagnes Adwords de l'UMP sur la crise des banlieues et l'affaire des caricatures du prophète.
Etant assez peu disponible pendant les prochains jours et n'ayant ni le temps ni l'envie ni les moyens d'un quelconque procès en diffamation (même si je pense, et mes amis éditeurs, avocats et juristes également, que la diffamation n'est en l'état pas du tout caractérisée), je prends donc la décision de supprimer le nom de ce monsieur de mon article. Et me donne ensuite quelques jours pour d'éventuelles suites à donner.
Bon et ne soyez pas étonnés si je me mets à faire la quête à la suite de mes interventions de demain et d'après demain 😉
</EDIT>
Sur ce blog – et dans ce magnifique ouvrage – je vous ai souvent parlé des questions politiques soulevées par des algorithmes "racistes", ou qui reproduisaient certains biais racistes / sexistes / trucs-en-istes.
Sur ce blog – et dans ce magnifique ouvrage – je vous ai également souvent parlé des questions économiques soulevées par les logiques publicitaires permettant d'acheter tous les mots, y compris ceux de la haine, et récemment les logiques de Crowdfunding et / ou de Fundraising pour soutenir des actions également racistes / sexistes / trucs-en-istes. Pour cette campagne Paypal repérée et dénoncée, combien d'autres se sont réalisées en toute impunité ?
Un antisémite est une cible publicitaire comme les autres.
Depuis quelques jours une info tourne en boucle sur les internets et représente – hélas – le combo parfait entre les deux questions précédentes. Facebook (qui fut le premier à se faire gauler) mais également Twitter et Google …. disposaient de critères de ciblage publicitaire permettant de s'adresser directement à ceux qui … détestaient les juifs. Et oui. Vous aviez aimé "Un terroriste est un client Apple comme les autres" ? Vous adorerez "un antisémite est une cible publicitaire comme les autres".
C'est une enquête du site ProPublica, parue le 14 septembre, qui a permis de révéler ces pratiques (je vous recommande au passage tout leur dossier "Machine Bias" qui "enquête sur les injustices algorithmiques").
Mais avant d'y revenir en détail, détour rapide par une (toute) petite histoire du business la haine sur les internets.
Banlieues, avortement, holocauste : petite histoire du business de la haine sur les internets.
L'histoire des liens entre les discours haineux, l'argent et le référencement ou désormais l'omni-publicitarisation de nos profils, cette histoire là commence en 2005 lorsque l'UMP achète une batterie de mots-clés plus que douteux auprès de la régie publicitaire Adwords afin de "transformer" les recherches sur les émeutes en banlieue vers une page de soutien à Nicolas Sarkozy.
C'est encore l'UMP qui achètera les mots-clés "Mahomet" et "caricatures" lors de l'affaire du même nom. Le storytelling politique devient totalement soluble dans un marketing qui ne fait qu'attiser la haine de l'autre.
Tout le monde comprend alors qu'une formidable brèche est ouverte et aucun sujet de société n'échappera au cynisme de la course à l'audience et de la prime au plus offrant. En 2008 c'est autour du mot-clé "avortement" que de nouvelles affaires éclatent et contraignent Google à réguler différemment le texte et les images associées à ses annonces publicitaires pour refuser différentes formes de prosélytisme. Mais les régulations, lorsqu'elles auront lieu, ne se feront qu'a posteriori et à la seule discrétion des propriétaires de la régie publicitaire. Quant à appliquer la loi, pour autant qu'une loi existe et soit applicable (vieux problème de la territorialité desdites loi) … "it's complicated" comme on dit chez Facebook : en témoigne encore récemment le débat sur l'extension du délit d'entrave à l'IVG pour les sites web. Mais ça c'était la préhistoire : les gens achetaient des mots-clés pour orienter l'opinion et capter une nouvelle audience tout en envisageant la décence comme un simple artefact torcheculatif.
Puis vint le temps où la machine et les algorithmes n'eurent plus du tout besoin d'intervention humaine et/ou marchande pour partir en sucette et ce fut la grande époque des stéréotypies ("les juifs sont radins" et "les noirs puent" entre autres joyeusetés).
Enfin, nous assistâmes médusés au retour du putain de facteur humain, notamment sous la forme des Fake News, lesquelles cumulées aux logiques d'audience et aux régimes de vérité propres à chaque plateforme, achevèrent de mettre un beau bordel dans nos représentations historiques et culturelles, ou plus exactement dans l'image reflétée de nos représentations historiques et culturelles au prisme des plateformes (comme dans l'affaire : "l'holocauste a-t-il vraiment existé ?").
Jews Haters.
Mais revenons donc à l'affaire Facebook et au ciblage publicitaire des "Jews Haters". Un annonceur pouvait ainsi cibler des profils explicitement anti-sémites, grâce à des catégories "publicitaires" automatiquement créées par l'algorithme qui sert de base à la régie pub de Facebook. En résumé :
"Facebook’s algorithm automatically transforms people’s declared interests into advertising categories."
"L'algorithme de Facebook transforme automatiquement les centres d'intérêts déclarés des utilisateurs en autant de catégories publicitaires."
Et c'est bien là l'essentiel du problème : une opinion = un segment publicitaire. Défini automatiquement et en temps réel.
En image, voilà ce que proposait l'interface Facebook Ads :
Tout est sémiotiquement et symboliquement collector dans cette capture d'écran, de la catégorisation : "Education > fields of Study > Jew Hater" à la description "Field of Study as Jew Hater" sans oublier bien sûr le curseur d'audience calé entre "specific" et "broad" et qui nous glorifie d'un "Your audience is great". Business Über Alles.
Ne reste plus qu'à attendre l'approbation de Facebook et à s'offrir pour 10 dollars et pour deux jours un targeting de folie comme on dit dans la start-up nation.
De la même manière et depuis longtemps il était bien sûr possible, sur Twitter également, de "cibler" ceux qui "aimaient" le parti Nazi ou détestaient les "nègres". Et toute cette sorte de choses. Décidément si Simon Wiesenthal, Serge et Beate Klarsfeld et quelques autres chasseurs de nazis avaient eu un compte sur la régie publicitaire de Facebook ils se seraient économisés pas mal de kilomètres et de recherches dans les archives …
Je veux maintenant rappeler quelques éléments.
Primo. Les biais racistes, anti-sémites, sexistes et autres trucs en "-iste" sont aux boîtes noires algorithmiques ce que l'espérance est à la boîte de Pandore : le truc qui reste collé au fond et qu'on découvre un peu (trop) tard parce qu'on a refermé la boîte trop vite.
Deuxio. Tout bien non-marchand le devenant (marchand) verra se développer des logiques d'appropriation visant à en prendre le contrôle exclusif ou à en dévoyer la nature. Cf la "toute petite histoire du Business de la haine" pus haut dans ce billet). Douze ans ont passé depuis. La langue et le vocabulaire sont devenus des secteurs de marché comme les autres. Juste le temps de bien progresser dans le marketing de l'ignominie …
Deuxio bis (corrollaire) : tout système technique ou socio-technique pouvant être dévoyé le sera.
Tertio. Les systèmes techniques (ou socio-techniques) dysfonctionnels peuvent être corrigés. Si l'on est capable de repérer leurs erreurs. Si on souhaite les identifier comme telles et non comme de simples itérations non-conformes. Et s'il n'existe pas une logique supérieure du marché primant sur les dégâts possibles dans l'opinion. Ce qui fait quand même beaucoup (trop) de "si" …
Ainsi et pour l'affaire du ciblage des "Jews Haters", j'ai parfaitement confiance dans la capacité de Facebook (et des autres régies) à faire, sous la pression de l'opinion, temporairement le ménage manuellement dans leur algorithme de catégorisation publicitaire automatique.
Ils s'y sont d'ailleurs engagés et ont fait le ménage dès après la publication (et le tollé) suscité par l'article et l'enquête de Propublica.
Mais je ne crois pas un seul instant que ce ménage sera effectué de manière pérenne et que ces biais, sortis par la porte de l'opinion publique effarouchée, ne reviendront pas par la fenêtre de l'intérêt commercial supérieur.
Quarto. Les systèmes socio-techniques fonctionnent et dysfonctionnent en écho d'un optimum de discours et d'interactions qu'ils fabriquent autant qu'ils le reflètent. Il n'y a ni poule ni oeuf, ni "la vraie vie" d'un côté ni "lérézosocio" de l'autre, il n'y a que des régimes de vérité radicalement et fonctionnellement différents et des horizons de discours, des moments discursifs qui s'inscrivent dans ces régimes de vérités, dont une bonne part sont désormais algorithmiquement "médiatisés" (au sens littéral de "médiation").
En l'occurence, si les journalistes de Propublica se sont intéressés à ce ciblage publicitaire raciste et s'ils ont permis de le dénoncer, c'est suite aux manifestations et aux émeutes de l'Alt-Right aux USA. Des mouvements racistes qui ont eux-mêmes "libérés" encore plus que de coutume pour les USA cette parole raciste, laquelle parole s'incarnant aussi et parfois principalement sur Facebook, a presque "naturellement" permis à l'algorithme de catégorisation publicitaire d'identifier (et de proposer) un nouveau ciblage à des acteurs et des organisations cherchant à élargir leur audience comme d'autres leur pénis.
"Tant qu'il y aura des audiences à cibler, il y aura des pénis à élargir" comme dit le proverbe apocryphe.
Moralité ?
Que Google cache des juifs ou que Facebook cible ceux qui les haïssent, le plus inquiétant n'est pas que cette haine existe, ni que nous n'ayons toujours pas trouvé le moyen de l'éradiquer ; le plus inquiétant est qu'elle ait trouvé un marché.
<Mise à jour> Voir aussi l'article très complet de The Atlantic </Mise à jour>
========================MIAM====MIAM====MIAM====MIAM=======================
"Hein ? Quoi ? Non mais vous ne pouvez pas vous arrêter là sans proposer de solutions !!" me direz-vous peut-être. Les solutions au problème sont connues. Elles sont éparpillées au hasard des quelques 2500 billets de ce blog (indice : surtout dans les 500 derniers). Ou, pour gagner un peu de temps, rassemblées dans les 382 pages de ce magnifique livre, toujours disponible sur les internets ou en commande chez votre libraire 😉
Sur FB, Sherryl Sandberg explique – https://www.facebook.com/sheryl/posts/10159255449515177 – que ce ciblage n’est pas lié à la création automatisée de catégories par l’algorithme publicitaire de FB. En fait, ProPublica en cherchant à cibler des gens pour faire une publicité s’est rendu compte que, dans le champ réservé à indiquer ses études (et ça doit être le cas dans d’autres, comme la profession ou le lieu d’habitation…) des énergumènes disaient un peu n’importe quoi (et qu’ils étaient nombreux). Au final, en réponse, FB a décidé de réduire l’accès à des catégories définies et existantes (infirmière, enseignant, dentiste…). La lutte contre le détournement par les utilisateurs est un puits sans fonds 😉
Très intéressant, mais SVP, serait-il possible d’utiliser une police de caractères un peu plus grande, car c’est pour moi, (et j’imagine pour nombre d’autres), très inconfortable, (même avec la loupe).
Il est vraiment dommage que tant de nos concitoyens condamnent les médias (parfois à juste titre, parfois non), sans prendre la peine de chercher un peu sur la toile pour remplacer les sources qui ne leur conviennent pas par des blogs ou des sites comme celui-ci !
L’information pertinente n’est plus « censurée », elle est noyée parmi maintes couches d’immondices en comptant sur notre fainéantise intellectuelle pour que personne ne la cherche…
————————————
Je n’ai jamais compris le racisme, jamais compris comment on pouvait haïr à ce point spécifiquement une seule population. Comme si le taux de mélanine ou le lieu de naissance influait sur les actes des gens…
Personnellement, je déteste tous les humains exactement de la même manière ! Pas de jaloux !
Si un groupe humain quelconque était moins cupide, bête et méchant, ça se saurait et ça ferait un moment que j’aurais tenté d’aller m’y réfugier !
(A moins bien sur qu’ils ne me refusent à cause de ma cupidité, de ma bêtise et de ma méchanceté)…
Plus sérieusement, ça fait froid dans le dos au XXIe siècle et à l’ère d’Internet de voir ressortir tous ces vieux discours haineux et mortifères qu’on croyait anachroniques.
On aurait pu croire que toutes les technologies modernes nous auraient cultivés et ouverts aux autres, que les leçons auraient été tirées de l’Histoire et que l’accès à l’information garantissait la transmission de la mémoire.
Pourtant force est de constater que l’abrutissement est général, (ouvrez un quotidien des années 1960 et d’aujourd’hui, comparez l’analyse et la sémantique, juste pour rire…).
On en arrive au point où des individus vous disent tout de go qu’ils ont « choisi de croire » à telle ou telle théorie, à tel ou tel « complot », même si tous les arguments, toutes les évidences démontrent l’absurdité de ce propos !
Le seul critère pris en compte est « est ce que ça conforte mes aprioris ? » !
Du moment où ils ont « choisi de croire », leur avis même faux ou dément, devrait selon eux être traité avec autant de considération qu’une théorie argumentée et « inattaquable » !
Bientôt ils vont finir par nous sortir « j’ai choisi de croire que 1 + 1 = 3, donc tu me dois 3€ »…
Il y a fort à parier avec la tournure que prennent les choses, que ce retour au premier plan des thématiques haineuses et communautarismes forcenés ne soient que le début de quelque chose de pas sympathique du tout !
Internet ou les politiques des multinationales ne sont que les reflets de ce que deviennent nos sociétés ! Un groupe humain est la plupart du temps prit en compte d’abord comme pouvoir économique, avant d’être considéré comme pouvoir politique. L’apparition des divers « haters » dans les algorithmes est symptomatique de ce qu’est devenue notre société et hélas certainement prophétique de son proche devenir…
J’aimerais me tromper, mais hélas, même en cherchant à imaginer le pire, l’humain m’a toujours surpris par sa capacité à inventer de nouvelles horreurs et de nouvelles injustices ! Pourquoi s’arrêterait-on en si mauvais chemin ?
Au passage, excellent choix de nom ! A la fois « opportunité » et « cadeau » !
Bravo.