(article qui fait suite à une interview – enfin le peu qu'il en reste – parue dans Le Monde Magazine de ce week-end)
———————–
Le temps des "autoroutes de l'information" semblé déjà loin. La période estivale est celle des grands chassés-croisés de vacanciers et des records battus de kilomètres de bouchons. Aujourd'hui presque tous les véhicules sont équipés de GPS et beaucoup ont remplacé le levier de vitesse par des boîtes automatiques ; dans moins de 20 ans nos voitures n'auront plus ni volant ni pédales. Demain, dans moins de 20 ans, l'essentiel des véhicules empruntant l'autoroute des vacances n'auront probablement plus de chauffeurs, remplacés par des algorithmes. Y aura-t-il moins de bouchons ? Moins d'accidents ? Moins de pollution ? Rien n'est moins sûr. Le scénario est en tout cas déjà écrit.
Sans chauffeur, sans pédale, sans volant …
… et pourtant, elle roule.
Du côté des politiques, suivant une récente directive européenne, la France vient d'autoriser les prototypes de "voitures autonomes" à circuler sur des routes "ouvertes" dès 2015. En Suède, les véhicules autonomes sont déjà théoriquement autorisés à circuler. Le Royaume-Uni s'y est engagé pour Janvier 2015 pour une période de 18 à 36 mois dans trois villes tests qui n'auraient pas encore été choisies.
Du côté des constructeurs, Carlos Ghosn estime que le marché décollera en 2020 et que les technologies seront prêtes vers 2018. Aujourd'hui, Nissan, Toyota mais aussi BMW et Tesla Motors travaillent sur des prototypes doté d'un pilotage automatique et capables de manière autonome de changer de file, de se garer, de s'insérer dans la circulation, de doubler d'autres véhicules, d'aborder ronds-points, intersections et carrefours "de leur propre initiative".
Aux Etats-Unis voilà déjà plus de 8 ans que Google, dans l'entité "Google X" dédiée aux projets secrets, travaille sur ces voitures sans chauffeur à la conduite algorithmique. Il vient de déployer sa première flotte de véhicules. La commercialisation est prévue pour 2018 et la flotte a déjà parcouru plus 500 000 km sans aucun accident, en tout cas selon Google. L'université du Michigan ouvrira à l'automne prochain sur près de 12 hectares une ville "factive" entièrement dédiée aux essais de ces véhicules, ville dans laquelle piétons mais aussi motos et vélos entièrement automatisés circuleront également pour tester les meilleurs mais également les pires des scénarios.
Les voitures automatiques font aujourd'hui face à 4 défis majeurs.
Le premier est celui de la cartographie du monde. Une voiture sans chauffeur ne peut évoluer que dans un environnement entièrement naviguable, c'est à dire entièrement numérisé. Il faut donc numériser et en 3D la totalité du réseau routier mondial.
Le second est celui de la législation. Si ce n'est pas un individu mais un algorithme qui est au volant, en cas d'accident, même léger, en cas d'amende suite à une infraction, quelle responsabilité se trouvera engagée ? Et devant quelle juridiction ? Celle du conducteur inactif ? Celle de la société propriétaire de l'algorithme de conduite ? Celle de la société qui aura fourni des données GPS erronées ?
Le troisième est celui des standards et protocoles de communication qui régiront non simplement les véhicules mais l'ensemble des "objets" connectés. L'internet a permis de faire dialoguer entre eux l'ensemble des ordinateurs du parc informatique mondial indépendamment de leurs fabriquants ou de leurs systèmes d'exploitation grâce à des standards ou des protocoles comme "http" ou "tcp-ip". Nous sommes très loin de disposer de tels protocoles pour les objets connectés et nous orientons pour l'instant plutôt vers des standards concurrents même si quelques consortiums travaillant dans le sens d'une interopérabilité des objets commencent à émerger.
Mais ces 3 problèmes seront rapidement solutionnés.
La numérisation du monde est un chantier titanesque mais parfaitement réalisable. Et déjà plus que partiellement réalisé : regardons Google Earth, Google Maps mais aussi Open Street Maps. Une entreprise capable de rendre en temps réel l'immensité du web lisible par des robots peut également, en temps réel, rendre la carte du monde lisible par d'autres robots. La législation s'adaptera. Elle est déjà en train de le faire pour permettre les essais grandeur réelle. Quand à la concurrence des standards, elle n'a jamais empêché un marché de se développer : surtout lorsqu'il est aussi disruptif, immense et prometteur que celui-ci.
Le Caas du siècle.
Car après l'ère du Saas, du "Logiciel comme un service", c'est le "Caas" du prochain siècle : "Car as a service", la voiture comme service. Là encore, les scénarios de manquent pas, tel celui de Volvo avec sa voiture qui ira prendre livraison de vos courses toute seule. Mais là aussi, les interrogations restent immenses : si la voiture, comme le logiciel, devient un "service", qui sera réellement propriétaire des données qui permettront d'utiliser ce service ? Quelles seront les conditions d'accès à ces données ? Aura-t-on des voitures "libres" et d'autres "propriétaires" comme le logiciel aujourd'hui ?
Reste un problème et quelques Cassandres.
Comme chaque changement radical, celui-ci génère son lot de fantasmes, d'angoisses technologiques et de Cassandre. Autant d'ailleurs chez les chercheurs que chez les ingénieurs et constructeurs. Si la voiture est connectée, si c'est un algorithme qui conduit, alors le système peut-être piraté. Et pas simplement pour la "voler" ou y entrer par effraction mais pour en prendre le volant comme on peut aujourd'hui prendre en main à distance un ordinateur "infecté". Et puis il y a l'impensable : et si la voiture autonome de demain était programmée pour tuer ? Si elle devenait une nouvelle sorte de drone ? De manière moins dramatique mais tout aussi essentielle, si la voiture doit être amenée à prendre de simples décisions de conduite, dans l'urgence, pour éviter un accident ? Choisira-t-elle, pour éviter la collision avec ce bus scolaire, d'aller percuter ce piéton ? Choisira-t-elle la possibilité d'un blessé grave plutôt que le risque de 15 tués ? Et en tant que passager "hôte" de ce nouveau système, serais-je au courant de ce choix ? Aurais-je la possibilité de reprendre l'initiative ? De désactiver le pilote automatique ?
Dans le domaine scientifique, ce débat a un nom bien connu des philosophes, logiciens et psychologues : c'est le "dilemme du Tramway ou de l'homme obèse". D'un simple point de vue "logique", on choisira toujours de sauver 5 vies même s'il faut pour cela en sacrifier intentionnellement 1 ou 2. C'est le point de vue "conséquentionnaliste".
Ralentir : algorithme.
Nous avons, depuis déjà plus de 10 ans, pris l'habitude "d'externaliser" nos mémoires documentaires (documents, photos, vidéos, numéros de téléphone, etc.), c'est à dire de les confier leur traitement, leur accès et leur conservation à des serveurs et à des algorithmes, lesquels nous proposent et nous fournissent en échange, la promesse de "recommandations", de conseils ou de choix "pertinents", adaptés à notre profil. Avec l'internet des objets et les voitures autonomes, une 2ème vague d'externalisation est en train de se mettre en place, mais elle concerne cette fois nos stratégies décisionnelles, émotionnelles.
Les algorithmes qui pilotent aujourd'hui nos vies, de nos requêtes sur les moteurs de recherche à nos fréquentations sur les réseaux sociaux en passant par nos choix de consommation à grands coups de traitements statistiques et de "big data" pour affiner et rendre toujours plus performants les systèmes de prescription et de recommandation, prendront donc demain littéralement le contrôle de nos véhicules, parachevant ainsi la conduite de nos vies. Pourtant aujourd'hui seuls deux laboratoires de recherche travaillent explicitement sur ces questions, sur leurs résonnances éthiques, philosophiques et non uniquement technologiques ou algorithmiques.
A coté de la loi, à côté du marché, à côté des protocoles et standards, il nous faut en urgence être dès aujourd'hui capables de réfléchir et de bâtir une éthique de l'automatisation pour éviter, dès demain, de n'avoir comme autre choix que celui de se reposer sur la croyance en une "éthique algorithmique". Une éthique que Tom Chatfield résume en une question :
"Si nous pouvons construire une voiture qui évitera automatiquement la collision avec un bus rempli d'enfants, y compris au risque de mettre en danger la vie du conducteur, faut-il donner au conducteur la possibilité de désactiver ce réglage ?"
La question éthique de Tom Chaffard trouve sa réponse dans les 2 premières des 3 lois de la robotique d’Asimov :
1) Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
2)Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
Donc non, il ne faut pas donner au conducteur la possibilité de désactiver ce réglage.
Et c’est exactement pour cela que je ne veux pas de véhicules 100% automatiques.
Merci pour ce bel article, je n’avais perçus les enjeux/risques des objets connectés que sous l’angle de la confidentialité des données.
Très bon article !
J’ajouterai que comme d’habitude les Cassandres et autre ne voient que le verre à moitié …
Mais quand ils prendront conscience et accepterons, nous verrons des dévoiements et ceci rapidement.
Un petit exemple, ces voitures autonomes écologiques seront aussi respectueuses du code de la route. Mais les politiques ne voyant plus de recettes liés aux infractions, trouverons tout naturel de créer des taxes divers et variés pour compenser, il y aura donc des classes d’utilisateurs. C’est ce qui me fait le plus peur.
Ces nouvelles voitures:
– polluerons très peu donc pas d’amendes
– seront écologique donc peu de taxes pétolières
– pas cher donc peu de taxes
– respectueuses du code de la route donc pas d’amendes
– importées car nos concitoyens toujours long à la détente n’accepterons pas rapidement ces nouvelles technos donc une fabrication étrangère ou des licences à verser à l’étranger
Cela va encore plus créer une distorsion, car d’un coté il y a aura des clients geek qui achèterons ces voitures et des entreprise et politique qui se déciderons a les fabriquer que 20 ans après les autres.
Les 4 défis que vous indiquez sont réels, mais secondaires.
Les « décideurs » (politiques, dirigeants, etc ) vont se déchirer sur ces sujet et perdre beaucoup de temps précieux.
Pendant ce temps là les autres (USA, Japon, Korée …) vont avancer très vite et avant même que les Européens commencent a fabriquer, nous serons inondé de ces produits d’ailleurs.
Doit faire la liste très longue des exemples très nombreux de produits et services innovant que nous importons !
La France et l’Europe et je parle de tous (Politiques, Décideurs, Habitants …) n’ont pas conscience des enjeux futur, et actuellement passe un temps précieux a mettre sous perfusion des activités non rentables.
Je pense que la partie est déjà perdue d’avance …
Vous écrivez : « Nous avons, depuis déjà plus de 10 ans, pris l’habitude « d’externaliser » nos mémoires documentaires (documents, photos, vidéos, numéros de téléphone, etc.) »
Je répond : Les banques, les assurances, les bourses, les pilotes … « externalisent » l’intelligence d’arbitrage au point même de ne pas se rendre compte des incohérences dans certains cas ! Et ceci depuis plus de 30 ans
Exemples :
– Des automobilistes suivent aveuglements leur gps et tombent dans une rivière. (histoire vraie)
– Des pilotes ne rendent pas compte des paramètres erronés et plante leur avion (gallon à la place de litres, vitesse ascensionnelle à la place de variomètre)
– Des banques appliquent aveuglément certaines recommandations de leur logiciel et font perdre beaucoup d’argent (tellement d’exemples récents …)
– Des assurances qui appliquent aveuglément les recommandation des réseaux de neurone. (exemple zones inondable sous évaluées)
– Des employés de Mairie qui saisissent 32 jours de cantine scolaire (c’est du vécu)
Je suis surpris pour ne pas dire plus quand je vois que les gens suivent sans réserve ces fabuleux outils … qui ne sont que des outils
La robotique, c’est quoi ? C’est la solution en dernier ressort quand l’homme se sait lui-même incapable de résoudre les problèmes, les conflits et la gestion des risques et que pis encore, il sait que son attitude le met en danger.
Une voiture tout à fait autonome serait en effet le meilleur moyen de réduire cette notre représentation phallique, dominatrice de la relation aux autres qui se joue sur les routes à coup de klaxons, de dépassements inconsidérés et d’insultes.
Le prolongement de soi en un meilleur que soi qu’il passe par l’esthétique, la robotique ou les techniques chimiques à un bel avenir devant soi, tellement nous sommes incapables de trouver des modus vivendi qui garantissent notre pérennité et celle de la Terre.