Conduite en état d’algorithmie

On connaissait déjà les algorithmes de police prédictive, et pas seulement dans Minority Report, mais dans la vie réelle ou un algorithme gendarme est capable de prédire où seront les voleurs et quels types de forfaits ils s'apprêtent à commettre.

Dans notre quotidien, on connaissait déjà ce qui fut une automatisation totalement inédite de la procédure judiciaire, les "radars automatiques" dans lesquels c'est un capteur qui constate l'infraction et verbalise "automatiquement" en fonction de la gravité du dépassement. 1ère désintermédiation totale et manifeste d'une procédure judiciaire (Léandri avait fait dans un vieux numéro de Fluide Glacial un remarquable article sur le sujet, que je ne retrouve forcément plus, tant pis).

Dans le monde merveilleux de demain et le développement des Google Car (voitures sans chauffeur), on apprend que si l'algorithme de la voiture commet une infraction ce sera à la société Google (ou à son algorithme) de régler l'amende.

Et c'est rigolo. Et c'est anecdotique.

Et c'est vertigineux.

Vertigineux parce que le scénario qui se dessine est donc celui dans lequel on commence par admettre qu'un "algorithme-conducteur" pourrait donc nécessairement être amené à générer des infractions engageant, ce faisant, la responsabilité non du conducteur mais de la société détentrice de l'algorithme. Alors même que la raison d'être dudit algorithme conducteur est pourtant de viser à sécuriser davantage la conduite et donc à ne pas commettre d'infractions.

Vertigineux parce que quelles pourraient être ces infractions ? On a du mal à imaginer un algorithme ivre, du mal à concevoir un algorithme irrespectueux du genre qui se garerait sur des places handicapées, ou alors un algorithme fan de vitesse, du genre qui aurait du mal à respecter certaines limites de vitesse. Plus grave, un algorithme chauffard qui serait à l'origine d'un accident, ou un algorithme victime lui-même d'un autre algorithme chauffard. Sauf que comme je le disais plus haut, ben précisément ces algorithmes doivent permettre d'atténuer et d'éradiquer tous ces dangers. Donc quand on nous annonce que Google indique qu'il est prêt à payer les amendes pour les infractions commises par ses voitures sans chauffeurs, y'a vertige.

A y regarder de plus près (merci et encore merci) on nous signale que les infractions concernées seraient liées aux capacités de l'algorithme et donc de la voiture à, je cite :

"éviter les cyclistes, être “agressive” afin de ne pas être trop céder le passage aux autres véhicules, dépasser les limitations de vitesses imposées pour s’ajuster au flux du trafic."

Oui vous avez bien lu, "être agressive afin de ne pas trop céder le passage aux autres véhicules." Un algorithme "agressif". Relisez maintenant le début du paragraphe (algorithme ivre et algorithme irrespectueux) et revenez en causer d'ici quelques années … #OrwellMonAmour

(Prototype de Google Car : entre Fiat 500 et voiture playmobil / source de l'image : The Verge)

IF infraction THEN sanction

Vertige encore parce que si l'algorithme-chauffeur commet une infraction, c'est donc – déjà aujourd'hui et probablement de plus en plus systématiquement demain – un autre algorithme qui sera amené à constater et à verbaliser l'infraction : l'algorithme gendarme coursant l'algorithme voleur, l'algorithme police verbalisant l'algorithme contrevenant. L'algorithme et/ou le capteur connecté du radar automatique qui flashe et verbalise l'algorithme conducteur de la Google Car en dépassement de vitesse. Ou l'algorithme capteur de place de stationnement qui verbalise le non paiement par l'algorithme conducteur de sa place de parking. Je vous laisse libre d'imaginer la suite sur la base de votre propre historique d'infractions au code de la route 🙂

Mais précisément, je l'ai déjà dit 2 fois, une Google Car, l'algorithme d'une Google Car ne devrait pas pouvoir commettre d'infractions. Et s'il en commet, il fera comme nous le faisons tous, c'est à dire qu'il sera tenté de contester l'existence, la nature ou le niveau de gravité de ladite infraction. Et là on aura quoi ? Un dialogue algorithmique entre l'algo-conducteur et l'algo ou le capteur agent ? ("non mais m'sieur l'algo-agent soyez sympa, j'ai légèrement coulé le stop mais la visibilité était bonne et la route dégagée.")

Verra-t-on apparaître de nouveaux passe-droits remplaçant l'entregent ("mon mari bosse au service permis de la préfecture, mon oncle est chef de brigade autoroutière, mon trisaïeul par alliance était commissaire de police") par l'habilité algorithmique (la trace de l'infraction commise par un algorithme, repérée par un capteur automatique et verbalisée par un autre algorithme pourrait être "effacée" par un programme qui réécrirait dans la mémoire de silicone du capteur ou qui masquerait la réalité de l'infraction en projetant d'autres images, à la manière dont Google est déjà capable de superposer l'image d'une réalité à celle d'une autre réalité).

Plaidera-t-on un jour les circonstances algorithmiques atténuantes ? ("non mais m'sieur l'aglo-juge le débit de la connexion était ralenti et je n'ai pas pu produire l'itération algorithmique nécessaire au dépassement de manière suffisamment rapide pour éviter de mordre sur la ligne blanche").

Y aura-t-il des circonstances algorithmiques aggravantes ? ("Oui j'avoue m'sieur l'algo-juge, j'avais réglé mon curseur d'agressivité algorithmique sur 7 au lieu de la limite autorisée de 5").

A mixer ainsi les promesses de l'insouciance algorithmique comme prothèse surréelle à chacune de nos contraintes ou alinéations quotidiennes avec les réflexions sur ce qui devrait finir par ressembler à un positionnement éthique de ce qui finira bien par ressembler à des programmes proches d'un fonctionnement autonome et artificiellement intelligent, et à saupoudrer le tout de la réalité déjà écrasante des technologies "grand public" on dispose d'une palette d'éléments sur la base desquels un programme informatique serait capable d'écrire un nombre incalculable de scénarios de science-fiction, du plus drôle et léger jusqu'au plus grave et dystopique. Entre probabilisme inquiétant ("un nouveau dogme émerge : le probabilisme, le règne sans partage de la probabilité comme seule source de décision pertinente.") et conséquentionnalisme angoissant.

Genre, un algorithme (qui conduit) pourrait-il être distrait par un algorithme publicitaire ? Un algorithme qui conduit pourrait-il être "influencé" par l'affichage dans l'habitacle de publicités ciblées en fonction de ce qu'il sait de l'état de faim de ses occupants ? (traduction : je suis dans ma voiture avec mon fils, l'algorithme conduit, je fais un long trajet et je n'ai pas mangé depuis longtemps, on va bientôt passer à proximité d'un grand M jaune, l'algorithme de prescription lié à mon compte Google choisit d'afficher sur le pare-brise de ma voiture une publicité pour le menu dudit M jaune, stimulus auquel l'algorithme conducteur répond en" décidant" de sortir de l'autoroute pour nous conduire au M jaune, et le tout sans avoir même à solliciter mon avis qu'il connaît déjà du fait de mon historique de consommation, de recherche, etc.)

Le passager inconnu et les DRM (DRiving Mahines).

A chaque question une nouvelle inconnue. Par exemple celle des DRM. Les DRM sont aujourd'hui partout, dans les produits des industries culturelles, livres, films, musique, ils sont également au coeur du web, dans les navigateurs, et demain, y aura-t-il des DRM dans nos voitures sans chauffeur ? Quelle sera leur nature ? Leur fonction ? Bien sûr ils pourront permettre d'éviter qu'un autre que nous ou des passagers habituels ne s'installe à bord ; à l'instar de ceux d'Amazon, limiteront-ils également à 5 le nombre de fois où l'on pourra prêter notre voiture ? Ces mêmes DRM pourront-ils permettre un jour de réguler le traffic routier en interdisant "physiquement" à certains véhicules de démarrer à l'instar de ces jours de pics de pollution ou l'on interdit aux véhicules dont les plaques d'immatriculation sont paires ou impaires de circuler ?

Et toujours les mêmes questions que celles posées ici. Qui contrôlera ces algorithmes ? Quelle sera notre marge de choix dans leur activation ? De quelles modalités disposerons-nous pour reprendre le contrôle ? Connaitrons-nous tous les tenants et aboutissants de ces programmations routinières ? Les voitures sans chauffeur seront-elles les premiers objets connectés à nécessiter l'urgente réécriture des 3 lois de la connectique ?

Moi je trouve ça 5F. Fantastique. Fascinant. Flippant. Forcément Flippant.

Pour les curieux, les impressions (commerciales) des premiers béta-testeurs sont disponibles en vidéo. La mienne (de curiosité) est sans borne. Comme l'est ma frustration. Celle de savoir ce qu'un Isaac Asimov aurait pensé de tout cela. Savoir ce qu'en pensent aujourd'hui ceux qui ne lisent plus Isaac Asimov, car ce sont eux qui décideront de demain.