Dylan Roof est un tueur de masse, suprémaciste blanc américain, qui a abattu 9 personnes dans une église épiscopale africaine à Charleston (Caroline du Sud) en février 2015. Il est actuellement jugé et encourt la peine de mort.
Peu avant de passer à l'acte il avait rédigé un "manifeste" où l'on trouve écrit ceci (je surligne) :
(le manifeste complet est disponible en pdf sur le site du NYTimes)
Ce qui est ici décrit est un processus classique de recherche d'information. Le même processus, la même démarche que des millions d'entre nous effectuons chaque jour. On commence par une recherche Wikipédia, on file ensuite poser une question à Google, et on consulte la première réponse offerte. On se pose alors un certain nombre d'autres questions, questions que l'on repose à Google, lequel a déjà enregistré notre question initiale et le site que nous avons consulté, lequel Google sait aussi quels sont les sites en général les plus consultés par les gens qui ont le même genre de questions que nous et qui va donc transformer notre recherche d'informations en une recherche de confirmations. #FilterBubble (ou en tout cas subjectivation statistique du processus de requête)
Le problème est qu'ici la première réponse offerte par Google était celle du "Council of Conservative Citizens", un site de l'extrême droite suprémaciste américaine. Du genre à remettre en cause l'existence de l'holocauste. #FakeNews.
Et qu'au final une simple recherche Google sur une affaire de crime raciste va entraîner un individu de 22 ans à tuer 9 afro-américains en plein milieu d'un service religieux.
L'arme du crime : une fausse info. Le mobile : une requête Google.
Bien sûr me direz-vous, une requête ne fait pas un assassin. Le motivations d'un tueur de masse sont naturellement hélas bien plus complexes que ce simple parcours de recherche d'information. Le procès en cours permettra peut-être de dire si, d'une manière ou d'une autre, la responsabilité de Google est ici engagée. Ce serait alors une étape autrement plus importante que celle qui a déjà permis depuis longtemps d'utiliser des historiques de recherche comme élément à charge dans le cadre de différents procès.
La question que l'on peut se poser est de savoir si Dylan Roof aurait eu le même parcours de radicalisation extrêmiste si, au lieu d'utiliser le moteur de recherche Google, il était entré dans une bibliothèque pour chercher à consulter des statistiques sur les crimes racistes. La réponse est évidemment non. Puisque jamais un bibliothécaire ne l'aurait orienté vers le site suprémaciste "Council of Conservative Citizens" mais plutôt vers les statistiques disponibles (par exemple) sur le site du FBI.
Cela aurait-il suffi à empêcher Dylan Roof de devenir un suprémaciste et de passer ensuite à l'acte ? Probablement pas. Les voies de l'idéologie et de la radicalisation étant aussi nombreuses qu'impénétrables.
Cela suffit-il pour autant à considérer que le rôle joué par Google dans cette affaire est nul ou totalement marginal ? C'est bien tout le problème. Je suis convaincu que non.
Le Southern Poverty Law Center (une sorte d'ONG américaine spécialisée dans la lutte contre la haine et les discriminations) vient de publier une vidéo sur l'affaire Dylan Roof intitulée "Google and the miseducation of Dylan Roof" et sous-titrée : "How fragile minds can be shaped by the algorithm that powers Google Search" dans laquelle il reprend notamment différentes histoires – chroniquées sur ce blog – au sujet des biais algorithmiques racistes, anti-sémites ou à tout le moins excessivement stéréotypiques du moteur de recherche. Vidéo dans laquelle la question du moteur de recherche et de la bibliothèque est également posée. La vidéo se conclut ainsi :
"Trustworthy, Reputable, Authoritative".
Traduction : "Digne de confiance, avec une bonne réputation, faisant autorité." Les mots ont un sens. Ceux-là ont définitivement perdu le leur dans les méandres de l'algorithme de Google. Ils on en revanche encore un sens à l'échelle d'une bibliothèque. Ils sont le sens d'une bibliothèque.
Je plaide de mon côté – hélas un peu trop en solitaire à mon goût – pour la mise en oeuvre de la proposition de Dirk Lewandowski d'un index indépendant du web. Cette solution ne permettra pas de résoudre le problème de l'existence de fausses informations sur la toile ou même de sites appelant et incitant à la haine. Ce n'est ni son objet ni son propos. Mais elle permettrait en revanche à coup sûr et à moyen terme d'éviter deux écueils majeurs de notre "société de l'information" et de sa traduction numérique : c'est à dire primo, que l'essentiel des recherches à l'échelle de la planète ne passent que par Google, et que, ceci expliquant cela, deuxio, des sites qui n'ont rien à voir avec de "l'information" ne se trouvent systématiquement surpondérés du fait du biais de popularité inhérent à la logique dudit Google et à son régime de vérité. Mais tout cela, je vous l'ai déjà longuement expliqué dans cet autre article : "Google, Google, pourquoi m'as tu abandonné" 🙂
Je réagis à votre article, car il me semble que vous exagérez beaucoup la responsabilité de google en générale et particulièrement sur cette affaire.
Il faut prendre en compte que ça se passe aux États-Unis ou plusieurs problèmes sont exacerbés :
– Les tentions raciales sont exacerbées. Les suprémacistes particulièrement blancs et noirs sont très vocaux à travers deux groupes très polarisés la « droite alternative » et les « SJW ».
– La population n’a pas confiance en leur médias (http://www.gallup.com/poll/195542/americans-trust-mass-media-sinks-new-low.aspx) (particulièrement les chaînes de télé MSNBC, Fox New, CNN) car ces derniers derniers sont politiquement orientés, « se trompe » régulièrement, sont faussement impartial sur des sujets où il existe un consensus scientifique (évolution, réchauffement climatique, vaccins, …) et prennent part à ce conflit racial par exemple en redéfinissant le terme raciste en « préjudice + pouvoir (d’une institution ou d’un groupe majoritaire) » appliqué sur une minorité.
Si google a eu un rôle à jouer dans la mise en place de sa pensée les médias traditionnel et la tension entre ces groupes suprémacistes également.
De plus, Dylan Roof était déjà raciste avant d’être tombé sur le site du « Council of Conservative Citizens ». Sa première réaction (aller sur Wikipédia et non google) est bonne. Wikipedia permet de se faire un aperçu global. Ensuite, il a fait une recherche qui l’a envoyé sur le site conservateur et a continué sa recherche sans jamais chercher ou tomber sur une quelconque opposition ?Dans son manifesto on peut très bien voir qu’il a été exposé à d’autres opinions.
Enfin, comme à chaque fois que vous parlez de google vous semblez faire l’impasse sur le facteur humain. Il pose problème principalement car beaucoup de gens ne connaissent pas ses limites et ne savent pas s’en servir. L’exemple le plus flagrant est le cas « ivg.net ». Certaines personnes ont cliquées sur le premier lien fourni après avoir recherché « IVG » pour connaître la durée légale d’avortement plutôt que de se rendre sur un site gouvernemental ou cette information est sans aucun doute vrai.
Vous mettez un lien vers une video du SPLCenter. Le SPLCenter a placé, à tort, Ayaan Hirsi Ali et Maajid Nawaz, musulman, dans leur liste des « Extrémistes anti-musulman ». Sur la plupart des sites web il y a du bon et du moins bon contenu le SPLCenter, Wikipedia, votre blog, le mien et probablement le site du « Council of Conservative Citizens » ne font pas exception. Comme vous le dites un index indépendant du web ne va pas résoudre ce problème. Il ne va pas non plus apprendre aux gens comment s’informer sur web (http://omnos.fr/?p=991).
Bonjour, vous avez raison sur le fond. Mon exagération ne porte que sur le titre de l’article. Mais je précise bien « qu’une recherche ne fait pas un assassin » et que les motivations d’un tueur sont naturellement bien plus complexes qu’une simple recherche Google. Mon interrogation porte davantage sur le rôle que jouent (en général) les algos fournissant les résultats de recherche et la vision « biaisée » du monde qu’ils nous proposent. Et la responsabilité que cela implique pour les moteurs de recherche et les réseaux sociaux en général. Vous trouverez aisément une argumentation que j’espère plus convainquante notamment dans cet article : http://affordance.typepad.com//mon_weblog/2016/12/google-google-pourquoi-mas-tu-abandonne.html
Je lis votre blog régulièrement depuis quelques années 😉 Je sais que google et les réseaux sociaux en particulier sont biaisés et je préfère largement les vieux flux RSS.
Comme vous l’avez dit sur un autre article il n’y a pas d’algorithme neutre. Mes flux RSS me montre des publications par ordre chronologique, Wikipedia met l’accent sur la vérifiabilité, youtube utilise un algorithme de recommandation pour obtenir le plus de temps de cerveau disponible, etc.
Pour augmenter la qualité de l’information que l’on obtient il faut apprendre l’utilisation, les limites, les défauts de ces outils et faire preuve d’esprit critique.
Je comprends que vous vous concentrez sur l’enfermement algorithmique, mais cet article (probablement, car c’est une actualité et pas uniquement abstrait) m’a semblé négliger les autres facteurs.
« Le SPLCenter a placé, à tort, Ayaan Hirsi Ali et Maajid Nawaz, musulman, dans leur liste des « Extrémistes anti-musulman ». »
Pourquoi est-ce erroné ?
Pour info : https://www.splcenter.org/20161025/journalists-manual-field-guide-anti-muslim-extremists#ali et https://www.splcenter.org/20161025/journalists-manual-field-guide-anti-muslim-extremists#nawaz .
Nicolas Krebs, ce sont des reformistes qui souhaite changer l’islam. Les citations utilisés par le SPLCenter sont trompeuses. Par exemple, pour Maajid Nawaz :
« The ideology of non-violent Islamists is broadly the same as that of violent Islamists; they disagree only on tactics »
Par exemple lorsqu’il parle d’islamistes, il parle spécifiquement des musulmans qui souhaitent voir la charia appliqués et non des lois séculières (c’est sa définition d’islamiste).
Si le sujet t’interesse voici quelques resources :
http://www.patheos.com/blogs/friendlyatheist/2016/10/27/southern-poverty-law-center-ayaan-hirsi-ali-and-maajid-nawaz-are-anti-muslim-extremists/
http://www.breitbart.com/london/2016/10/28/reformist-muslim-maajid-nawaz-anti-muslim-extremist-says-leading-civil-rights-group/
https://www.samharris.org/podcast/item/the-best-podcast-ever