En Septembre 2008, je me livrais à un petit exercice de fiction en imaginant ce que pourrait être la "gestion de contenu en 2038". Je concluais ce texte par la formule "Vos vies, notre mémoire", gravée au frontispice de l'entreprise Amazoog.
La réponse avant la question.
2 ans plus tard, en Septembre 2010, je publiais un billet intitulé "La réponse avant la question : le complexe du scribe", dans lequel je revenais longuement sur les fonctionnalités d'auto-complétion mises en place par Google. Extraits (que je souligne) :
"Les technologies de complétion, appliquées à l'échelle d'une entreprise comme Google dont l'empreinte sociologique est au moins aussi importante que son emprise financière sur le secteur qu'elle domine, ces technologies ne sont pas neutres : elles interrogent directement le réagencement perpétuel des discours et des agencements d'énonciation complexes qui les produisent. L'encre du scribe est sans mémoire" écrivait le poète. La mémoire de Google Scribe est sans encre. Le scribe est un individu oeuvrant, sur ordre, dans une dynamique collective de perpétuation du savoir. Il n'est qu'un passeur de traces dont seul le collectif pourra ensuite "faire mémoire". Le scribe de Google est une technologie agissante, un acteur qui en le donnant à lire, choisit ce qui de nous, fera ou non mémoire, pour un temps ou pour tout le temps.
(…) Le danger est que la responsabilité du scribe ne sera jamais compatible, de quelque manière que ce soit, avec la neutralité du moteur. Dans la place hégémonique qu'ils occupent aujourd'hui dans nos usages connectés, les noeuds hyperconnectés que sont les moteurs doivent trouver le moyen de choisir, dans certains cas, entre les deux. Toute réponse est d'abord l'exercice d'une responsabilité. N'en donner à voir que certaines, impose le risque de s'en trouver, un jour, responsable.
Et je concluais ainsi ce billet :
"On observe aujourd'hui la structuration et la pregnance de plus en plus fortes d'ingénieries relationnelles (principes de recommandation) en parallèle et parfois en remplacement des premières ingénieries occurentielles (principe du matching). On a déjà observé et démontré le danger que constitue une ingénierie qui se présente comme une vue objective alors qu'elle est par nature nécessairement subjectivée. Le risque est aujourd'hui celui de l'émergence d'ingénieries intentionnelles, qui nous "porteraient à croire" ou nous "prêteraient à penser" sans que nous ayons, de quelque manière que ce soit, manifesté l'un ou l'autre de ces deux désirs …"
Assistance cognitive en temps réel.
Nous sommes aujourd'hui en 2015. Un ingénieur de chez IBM qui travaille sur le projet Watson, James Kozloski, vient de déposer un brevet pour un assistant personnel, plus exactement pour un assistant personnel proposant une "assistance cognitive en temps réel". L'article de The Atlantic, "A Search Engine for Your Memories", nous explique à quel point il serait formidable de vivre dans un monde où il serait possible de "googler les trucs ordinaires qui nous sortent de l'esprit : "Où ai-je laissé mes lunettes ?", ou "De quoi parlions-nous à l'instant ?" Il liste aussi le champ des applications possible de cette assistance cognitive en temps-réel, depuis le domaine médical (on pense bien sûr à la maladie de Parkinson) jusqu'à une sorte d'assistance conversationnelle qui me laisse assez … perplexe. Voici la manière dont James Kozloski parle de son brevet et de son assistant cognitif en temps-réel :
"La mémoire humaine n'est pas la même chose que la mémoire d'un ordinateur. Nous n'avons pas de pointeurs. Nous n'avons pas d'adresses où nous pouvons juste regarder pour retrouver les données dont nous avons besoin." Le brevet déposé par Kozlovski décrit une technologie qui, pour faire très simple, vous aidera à finir les phrases à votre place. Comme une sorte d'auto-complétion pour votre voix, le système est une modélisation de la mémoire humaine qui pourrait être installée dans un terminal et vous offrir une assistance ("offer prompts") lorsque c'est nécessaire. Il utilisera une combinaison de surveillance, de machine-learning et de réseaux d'inférence Bayesienne – une sorte de modélisation prédictive – pour détecter lorsqu'une personne a oublié quelque chose, et lui apporter l'information manquante.
"L'idée est assez simple" m'a dit Kozloski. "Vous surveillez le contexte d'un individu, qu'il s'agisse de ce qu'il dit ou de ce qu'il fait … et vous prédisez ce qui va venir ensuite."
Effectivement dit comme ça c'est assez simple. Et assez flippant. Naturellement il ne s'agit encore que d'un brevet ce qui ne veut pas dire que la technologie est "prête" et déployable : c'est avant tout un moyen de "protéger" certaines applications du domaine couvert par ce type de technologies. L'assistant cognitif en temps-réel n'est pas encore là mais que le brevet vienne de l'un des développeurs de Watson chez IBM n'est pas insignifiant (Watson avait été la 1ère "intelligence artificielle" capable de jouer et de gagner au jeu du Jeopardy). Et par ailleurs, à regarder et à suivre de près les développements autour des "assistants personnels" en général (Siri, Alexa, Cortana, OK Google et les autres …), notamment la manière dont il suppléent déjà à un très grand nombre de nos tâches cognitives, ce nouveau brevet est un indicateur très clair de l'avènement prochain d'assistances cognitives de plus en plus fines et élaborées, mais également envahissantes et intrusives. Il s'agit aussi de la préfiguration d'une remodelage complet de notre rapport intime et collectif à "la mémoire", déjà en cours depuis longtemps, comme je l'expliquais dans ce billet de Septembre 2011, "Total Recall : Silico Transit Memoria Mundi."
"Le probable préempte le possible."
La principale question que pose cette évolution et que vient cristalliser ce récent brevet sur une "assistance cognitive en temps-réel", au-delà naturellement de ses applications strictement médicales (Parkinson) est déjà traitée et résumée dans l'indispensable livre de Dominique Cardon, "A quoi rêvent les algorithmes ?", lequel écrit (je souligne) :
"En alignant leurs calculs personnalisés sur les comportements des internautes, les plateformes ajustent leurs intérêts économiques à la satisfaction de l’utilisateur. Sans doute est-ce à travers cette manière d’entériner l’ordre social en reconduisant les individus vers leurs comportements passés que le calcul algorithmique exerce sa domination. Il prétend leur donner les moyens de se gouverner eux-mêmes ; mais, réduits à leur seule conduite, les individus sont assignés à la reproduction automatique de la société et d’eux-mêmes. Le probable préempte le possible."
Couplés à leur vitesse de calcul, les algorithmes avaient initialement pour "mission" et principalement pour fonction d'épuiser les champs du possible. Épuiser le champ du possible … "N'aspire pas, Ô mon âme, à la vie éternelle, mais épuise le champ du possible" écrivait déjà le poète grec Pindare. Le champ du possible étant épuisé, la réalité sociale que dessinent les algorithmes s'attache désormais à produire et à guider des représentations, des habitus, dans lesquels "le probable préempte le possible".
Externalisation. Saturation. Épuisement.
Dans la lignée de Dominique Cardon et de quelques autres, il est grand temps de s'attacher à produire un discours critique qui permette de penser l'impact des algorithmes à l'échelle des 3 modalités qui caractérisent – me semble-t-il – aujourd'hui leur empreinte sur le monde : l'externalisation (mémorielle), la saturation (cognitive) et l'épuisement (du champ des "possibles" pour son remplacement par un "probable" commodément instrumentalisable, instrumentalement "lisible").
Dans l'attente, vous reprendrez bien un petit coup d'algorithme ?
