Chacun dans le salon vaquait à ses diverses occupations. Un spot de pub passait à la télé. Une publicité pour la marque Burger King. Le type de la publicité prononça la phrase "OK Google, c'est quoi le burger Whooper ?" A ce moment précis, à l'écoute du "sésame ouvre-toi" du boîtier Google Home, la voix féminine dudit boîtier s'activa et partit lire la description de la page Wikipédia du dénommé Whooper. Page Wikipédia que les publicitaires à l'origine de cette pub étaient allés modifier pour qu'elle corresponde bien à ce qu'ils souhaitaient que l'on entende.
Un jour d'Avril 2017, une pub télé à déclenché un assistant intelligent qui est allé lire une page Wikipédia caviardée pour les besoins de la publicité.
C'est fou non ?
Moi en tout cas depuis que j'ai découvert cette histoire dans The Verge (et en français dans Numerama) je n'en reviens toujours pas. Parce qu'il me semble qu'il se joue là quelque chose d'absolument fondamental sur notre rapport à la technologie.
D'abord autour de l'invisible. De l'invisible au sens littéral. De l'invisible et donc de l'incontrôlable.
Ensuite autour du truquage et de la falsification. Autour des technologies de l'artefact et de ces réalités presqu'alternatives entre performance (technique) et performativité (langagière).
Enfin bien sûr autour du tout publicitaire "ambiant". Littéralement ambiant. Oppressant. Omniprésent. Omni-pressant.
Temps de cerveau disponible mais temporalité d'édition contrainte.
Au premier degré de lecture, cette histoire est simplement un très bon, et un très gros coup marketing. Qui pourra s'enorgueillir de rester dans l'histoire de la publicité comme "la première fois où …"
La première fois où une publicité télévisée a délibérément activé l'interface vocale d'un assistant domotique intelligent pour que celui-ci aille lire la page Wikipédia – modifiée à dessein – de la marque concernée. Une première fois donc. Qui fut courte puisque sitôt la supercherie démasquée, les réactions de Wikipédia et de Google furent sans appel.
Commençons par la réaction de Wikipédia : l'encyclopédie a rapidement bloqué la page et banni les comptes Burger King à l'origine de la modification (entre temps naturellement, la recette dudit burger avait été également vandalisée, non plus par les publicitaires de la marque, mais par de taquins usagers que la stratégie de Burger King avait énervé). Mais ici pas grand chose de nouveau. Une guerre d'édition classique. Et une guerre d'édition sur Wikipédia c'est d'abord une question de temps. Il y a le temps de la modification originelle (ici celle visant à produire un descriptif alléchant du Whooper), puis le temps de la frénésie des modifications en réaction à la modification initiale (ici pour "pourrir" la marque Burger King en remplissant le Whooper d'ingrédients dégoûtants) et enfin le temps du contrôle, de la stabilisation, à l'issue duquel le document ainsi stabilisé et certifié voit sa valeur de preuve sensiblement augmenter sur l'échelle de cet encyclopédisme d'usage (sur la notion "d'encyclopédisme d'usage", voir notamment ici ou là). Donc du côté de Wikipédia, une fois la guerre d'édition passée, tout est rentré dans l'ordre et il n'est plus possible, ni pour Burger King ni pour un utilisateur non-autorisé de modifier la page du Whooper.
Google de son côté, a identifié le son de la pub et la voix de l'acteur pour désactiver la possibilité qu'ils activent la commande vocale (une manipulation technique déjà réalisée par la firme de Mountain View pour que son assistant ne se mette pas en marche à l'écoute des publicités … pour l'assistant Google Home #CQFD). Ce à quoi Burger King à immédiatement répondu en modifiant légèrement l'intonation de la voix de l'acteur. A ce jeu là on imagine aisément qui finira par sortir vainqueur, d'autant que Burger King est aussi et avant tout client de la régie publicitaire … de Google.
Manipulation(s) sans les mains.
La publicité, le discours publicitaire, a toujours été l'art de la tromperie et de la manipulation. C'est sa nature.
Wikipédia est, par nature, une encyclopédie ouverte et collaborative qui garantit et documente sa propre transparence et donc sa propre robustesse à toute forme ou tentative de manipulation. Il est en effet, par exemple, toujours possible de consulter l'historique des modifications et d'en retracer la chronologie et les auteurs.
Un algorithme n'est pas simplement une nouvelle forme de bureaucratie. En tant que suite d'instructions obéissant à un déterminisme ("if this … then that"), un algorithme peut, par nature également, produire une forme de manipulation dans laquelle l'intention de tromper ne préexiste pas nécessairement (comme dans le discours publicitaire) mais devient un effet produit par l'itération de boucles successives. Comme la plupart des algorithmes sont par ailleurs presque totalement inauditables, on peut aussi s'interroger légitimement sur une possible "intentionnalité" lisible dans les instructions choisies pas le programmeur. Démonstration par l'exemple.
Les assistants vocaux de leur côté ont toujours, par nature, présenté le risque de nous manipuler en ne nous présentant plus qu'une seule réponse là où nous avions auparavant la possibilité – déjà congrue – de consulter a minima une liste de résultats qui préservait la possibilité d'un choix.
C'est donc dans cette histoire de la pub du Whooper, à une succession de manipulations que nous avons à faire. Chacune d'entre elles prise isolément ne pose guère de problème : une publicité à le droit de mentir sur les qualités d'un produit, c'est même à cela qu'elle sert ; de même rien n'interdit de modifier une page Wikipédia dans l'absolu, c'est même pour cela que l'encyclopédie a été conçue ; une interface vocale – celle de google en tout cas – est configurée pour aller la plupart du temps consulter la page wikipédia correspondant à la question que l'on lui pose.
Pour l'instant donc, tout va bien. D'autant que la '"manipulation" a été détectée et rendue publique et chaque acteur mis devant ses responsabilités : le publicitaire et la marque ont fini par perdre des points, au moins en termes d'image, suite à leur caviardage de Wikipédia ; la modification de Wikipédia à des fins publicitaires – et donc parfaitement contraire aux règles de l'encyclopédie – a été établie et une version stable rétablie ; et comme Google a désactivé la prise en compte de cette publicité dans son assistant vocal on peut imaginer que cette histoire créera un précédent suffisamment marquant pour dissuader d'autres marques de tenter le coup.
Alors pourquoi s'affoler ? Pourquoi une nouvelle fois vouloir jouer les Cassandre ?
Parce que quelque chose est en train de nous échapper. De nous être retiré. Ce quelque chose – que je dénonce depuis longtemps sur bien d'autres sujets et dans bien d'autres cadres mais qui est une constante de l'écosystème des plateformes – ce quelque chose c'est la capacité de créer des liens. La capacité d'apprivoiser ces technologies.
"– Non, dit le petit prince. Je cherche des amis. Qu'est-ce que signifie "apprivoiser" ?
– C'est une chose trop oubliée, dit le renard. Ça signifie "créer des liens…"
– Créer des liens ?"
La suite est à lire dans Le Petit Prince, ou ici si vous préférez (ou même là-dedans si vous en voulez un pastiche numérique ;-)
Oui ces plateformes, oui ces ingénieries algorithmiques et leurs déterminismes, oui ces empilements de "manipulations" toujours plus infra-perceptibles, oui ces ruses de la persuasion technologique ne se contentent pas de nous voler des millions d'heures, elles nous empêchent de créer des liens. Des hyperliens ou liens hypertexte bien sûr (souvenez-vous quand j'annonçais, en 2010, que le Like tuerait le lien), mais aussi littéralement de "faire le lien" entre des chaînes d'interactions causales dont nous ne percevons plus le sens parce que nous sommes placés en situation de n'en mesurer que les effets sans jamais disposer de la possibilité de les observer dans leur ensemble.
Un nouveau pas est franchi. Après celui du discours algorithmique et de sa dialectique propre présidant au choix et à la hiérarchisation de ce qui peut être recherché et de ce qui doit être lu ou vu, après celui du dialogue des bots initialement ubuesque et tournant en boucles sisyphéennes, de nouvelles interactions, dialogiques et discursives, s'établissent entre des dispositifs et des artefacts technologiques d'une part, et des entreprises et des plateformes d'autre part, interactions qui nous demeurent pour l'essentiel invisibles et illisibles. Mais il s'agit cette fois de dialogues qui valent pour entente commerciale et de discours qui sont ceux de l'aliénation au dispositif et aux marques associées.
Pour bien me faire comprendre je vais poser la question autrement. Que serait-il arrivé si la campagne de Burger King n'avait pas consisté à "hijacker" l'assistant Google Home et à caviarder Wikipédia, mais s'était contentée de la description Wikipédia existante et s'était effectuée en partenariat avec Google Home et dans le cadre de la régie publicitaire de Google ? Réponse : rien. Il ne se serait rien passé. C'est à dire que nous ne nous serions aperçus de rien et que nous n'aurions rien trouvé d'anormal sinon peut-être que notre assistant virtuel se mette inopinément à nous diffuser de la pub pour un Burger en lien avec une publicité télévisée, c'est à dire rien qui ne nous soit réellement insupportable puisque chacune de nos navigations ou de nos sessions de consultation (d'une télévision ou d'un ordinateur) est déjà et depuis longtemps criblée de publicités ciblées et contextuelles.
Donc nous n'aurions rien vu, rien ne nous aurait en tout cas choqué. Et peut-être d'ailleurs est-ce là le véritable enjeu : une nouvelle habituation. Que de la même manière que nous avons fini par nous habituer à d'incessantes interruptions publicitaires, d'abord à la radio, puis à la télé, et partout sur le web, nous nous habituions aussi à ces nouvelles formes de publicité "domotiques", "ambiantes".
Quoi qu'il en soit, dans ce dialogue à trois (la marque / le publicitaire <=> Wikipédia <=> l'assistant intelligent et son algorithme) dans lequel chaque relation bipartite repose sur une tricherie technique, nous n'avons plus notre part. Nous n'en sommes mêmes plus simplement spectateurs mais seulement victimes. Et c'est aussi comme cela, que ces géants entendent contrôler la réalité alternative dans laquelle ils veulent nous voir évoluer.
