La loi de l’offre et de l’attentat.

En marge des attentats de Londres, c'est une nouvelle affaire algorithmique qui défraye la chronique : pendant les attentats, Uber a multiplié ses prix par deux. Le Huff Post et Le Parisien s'en sont notamment fait l'écho. Cela s'appelle la "tarification dynamique" ou "surge pricing".

L'algorithme "détecte" une demande inhabituelle et ajuste les prix en fonction. #BusinessAsUsual

En guise de ligne de défense, la société Uber – qui n'en est hélas pas à son coup d'essai – a indiqué au Daily Mail que :

• cette montée des prix avait été suspendue "dès qu'ils ont entendu parler de l'incident" (sic)
• toutes les courses effectuées dans la zone des attentats avaient été gratuites ou remboursées
• leurs équipes travaillaient en lien avec les forces de l'ordre pour récupérer toutes les informations utiles à l'enquête via les chauffeurs qui se trouvaient sur zone au moment de l'attaque.

L'algorithme commet des erreurs, mais la faute est (toujours) humaine. 

Comme d'autres, l'algorithme d'Uber est scruté à la loupe par chercheurs et analystes à grands coups de "reverse engineering". Des études ont déjà permis de mettre en évidence des "phantom cars", voitures fantômes simplement supposées faire croire à l'utilisateur qu'un chauffeur est à portée pour lui éviter de se tourner vers un autre service, mais qui permettent aussi de tromper les autorités. Comme l'analyse ce même article, au-delà du grand enjeu technologique de l'analyse du traffic et de la demande en temps-réel avec les divers services de géolocalisation, il est avéré que cette "tarification dynamique" est aussi instrumentalisée par Uber pour une forme de management par le stress, alertant par exemple les chauffeurs à l'avance sur une soudaine et prochaine montée de la demande qui n'a pour but que de les inciter à davantage de rendement. Comme il est avéré que l'asymétrie produite et organisée par l'algorithme est fondamentale dans la capacité de contrôle qu'Uber exerce sur ses chauffeurs. Les notifications comme nouveaux contremaîtres. Et les algorithmes temps-réel comme nouveau parangon de la psychologie comportementale. Le risque d'un esclavage 2.0. 

"toute main-d’œuvre, dès lors qu’elle est mise en concurrence avec un esclave, que l’esclave soit humain ou mécanique, doit accepter les conditions de travail de l’esclave."

Le dangereux Marxiste auteur de cette phrase est aussi le père de la cybernétique. Norbert Wiener dans la lettre qu'il adressa au syndicaliste Walter Reuther en … 1949. 

Le prix (dynamique) de la morale.

Mais revenons à la tarification dynamique et aux attentats. Comme le rappelle aussi magistralement qu'utilement Christophe Benavent, la tarification dynamique sera perçue différemment selon que l'on pense que l'entreprise qui la pratique génère des profits (notre jugement sera alors très négatif) ou qu'elle génère des pertes (notre jugement sera neutre). Et de conclure : 

"les prix ne sont pas qu'économiques, il ont une dimension morale"

Et c'est bien cette dimension morale qui prédomine lorsque nous apprenons qu'Uber a multiplié ses prix par deux pendant un attentat. 

L'erreur est humaine. Et les algorithmes aussi.

Pendant longtemps on a cru que les algorithmes seraient en capacité de corriger les erreurs humaines. Et nombre d'entre eux l'ont fait. Des algorithmes ont corrigé, ajusté, évité nombre d'erreurs qui auraient pu être commises, du moins l'a-t-on supposé, du moins est-ce là le discours que l'on a construit pour accompagner une mutation inexorable, rapide et complexe à penser. Mais la réalité technologique actuelle nous offre souvent l'illustration contraire : non seulement les algorithmes reproduisent les biais moraux et idéologique de leurs programmeurs, mais c'est aux humains de corriger les erreurs algorithmiques, aux humains d'ajuster, de corriger, et de s'excuser. Car c'est cela le plus troublant, et le plus cynique : que des humains, les dirigeants d'Uber en l'occurence, soient contraints de s'excuser pour des "erreurs" commises par un algorithme qui n'a fait qu'appliquer les règles selon lesquelles ces mêmes humains l'ont programmé. Car bien sûr l'algorithme d'Uber n'a ce soir là commis aucune erreur ; il s'est adapté à une demande inhabituelle et a augmenté ses prix. Comme on l'a programmé pour le faire.

La loi (du marché) et l'ordre (moral des choses).

La loi du marché, celle de l'offre et de la demande, indique que plus un bien ou un service est demandé et plus son prix est revu à la hausse. Aucune considération éthique ou morale ne sont ici prises en compte. Du genre de celles qui voudraient qu'un attentat ne puisse pas être source de variation de prix à la hausse. A moins qu'au lieu d'une "tarification dynamique" (surge pricing) il ne faille viser une "tarification équitable" (fair pricing), le genre de celle qui permettrait que plus un service est demandé et plus son prix soit … modéré. Le genre de théorie qui aurait évité toute polémique sur la "moralité des algorithmes" et évité aux porte-parole d'Uber d'avoir à s'excuser publiquement pour une erreur qui n'en est pas une. Mais une telle tarification équitable leur ferait également perdre des sommes astronomiques qu'ils ne pourraient plus reverser pour investir dans les infrastructures … ah ben non … qu'ils ne pourraient plus reverser à leurs salariés … ah ben non plus … qu'ils ne pourraient plus reverser en impôts dans les états où ils sont implantés … ah ben non toujours pas … qu'ils ne pourraient plus reverser à leurs actionnaires. Ah oui c'est ça.

La morale de cette morale …

Le grand enseignement de toute cette histoire est double.

Le premier c'est que la morale n'est pas programmable. En tout cas pas pour l'instant. Et que quand elle le sera – et elle le sera un jour – il nous faudra être collectivement capable de décider qui en seront les garants.

Et le second enseignement c'est que l'inattendu tragique ou que l'imprévisible habituel sont des révélateurs. Qui pointent la nécessité d'avoir une réflexion sur la prédictibilité et la gouvernance algorithmique, à condition que cette réflexion soit essentiellement politique et accessoirement économique. Si l'on veut éviter le syndrome d'un nouveau Brave And Amoral New World, un monde dans lequel le fait qu'Uber ait présenté ses excuses et remboursé rétroactivement les courses ne doit pas faire oublier qu'il s'agit aussi d'un monde dans lequel un algorithme parmi les plus efficients économiquement, n'est pas capable de faire la différence entre des gens qui cherchent à fuir un attentat et d'autres qui cherchent à rentrer chez eux après un match de foot. Ne l'oublions sur tout pas au moment où les mêmes algorithmes interviennent dans de plus en plus de secteurs régaliens sans aucunement être en capacité d'en analyser le contexte. 

Un monde de la loi de l'offre et de l'attentat.

<Mise à jour> Pour ne pas que vous le loupiez, je recopie directement ici le commentaire de Vincent Mabillot au sujet de ce qu'il appelle le "surréalisme social des économies de courtage" : 

En ajustant, soit-disant, les prix en fonction de l'offre et de la demande, on n'adapte pas au mieux le prix, on produit une séries d'insécurités dont profite le prestataire qui génère le risque. Entre spéculation, algorithmes et tricheries, le courtage oblige :

• à budgéter le pire pour ne pas être pris au dépourvu
• à acheter compulsivement pour ne pas prendre le risque de rater le bon instant
• à trahir sa classe de consommateur ou de travailleurs à façon car si nous avons un comportement collectif nous perdons nos privilèges individuels secret, et donc on s'isole face à des structures ultra-organisées et motivées pour nous plumer.

Le modèle est une hérésie économique car il est insécurisant pour les individus comme les entreprises. Par exemple, comment budgéter les transports en train de nos jours? Les offres ne sont pas comparables (à 11h01 on a un billet de première classe pour 25 euros, à 11h02 c'est de la seconde classe à 45 euros et l'employeur rembourse sur une base "billet de seconde classe" …). Voyageurs et personnels des trains qu'avons nous gagné en confort, services et tarification depuis la pub suivante ? La tarification par courtage instantanée ou à court terme devrait être interdite et considéré comme un abus de situation dominante et une manipulation.

</Mise à jour>