Un rein vaut mieux que deux IA : #Google #Deepmind et la médecine prédictive.

L'histoire des relations (et des ambitions) de Google avec la médecine et la génomique est déjà ancienne. Je vous l'ai racontée au cours de différents billets.

Prologue.

Dès 2005 Google a compris ce que sa formidable puissance de calcul pouvait apporter au séquençage du génome ("Googling Your Genes : puissance de calcul et génomique") et s'est rapproché de différentes sociétés et personnalités pionniers de la génomique personnelle.

En 2007 ("Moteur de séquençage : la médecine et la santé selon Google"), Adam Bosworth, alors vice-président de Google, donne une conférence au titre évocateur : "Mettre la santé entre les mains du patient". A l'époque Google ouvre même un blog dédié aux questions des publicités dans le domaine de la santé. Dans le sillage de Google, les autres géants se livrent à leur tour à différents rachats dans le secteur (Microsoft par exemple). Et l'on commence à évoquer sérieusement la question de la collecte, par le moteur de recherche, de données médicales personnelles, captures d'écran à l'appui :

"Quand les moteurs seront médecins" : dans le sillage de ce prototype de "Google Health", Microsoft dégaine alors, toujours en 2007, son service Healthvault. Là encore l'idée est de positionner le service comme l'élément clé d'une architecture qui permettra à la firme de Redmond de collecter les donnée de santé des patients utilisateurs pour ensuite pouvoir les monétiser par le biais d'une régie publicitaire mais également pour définir les services pionniers d'une "médecine 2.0". Sur le site d'HealthVault on peut lire en 2007 :

"C'est votre boulot de veiller à la santé de votre famille. Imaginez que vous puissiez disposer d'un moyen de collecter, de stocker et de partager l'information médicale qui est nécessaire au bien-être de votre famille. HealthVault est la nouvelle manière gratuite d'y parvenir. Imaginez-vous contrôler le flux de vos informations médicales. Que vous ayez besoin de chercher les derniers traitement efficaces sur le web, de consulter le catalogue de vos informations médicales, de recevoir le résultat de vos bilans médicaux, HealthVault vous offre le niveau de contrôle dont vous avez besoin."

Naturellement, ces déploiement d'une offre de collecte, de traitement et de gestion des données de santé par ces firmes soulève d'immenses problèmes et nombreux sont ceux qui, à l'époque, s'en inquiètent. Ainsi Christian Fauré écrit sur son blog :

"Faire du patient un consommateur au centre d’un système de santé est également une forme de déresponsabilisation du système de santé, car il peut être illusoire d’amener le malade à avoir un comportement de consommateur pour participer à des décisions qu’il ne comprend finalement pas."

2007 est également l'année de l'explosion de la génomique personnelle : pour moins de 1000 $ vous pouvez obtenir un séquençage complet de votre génome. La société au coeur de cette proposition commerciale disruptive s'appelle 23andMe et elle est dirigée par la femme … de Serguei Brin (l'un des 2 patrons et fondateur de Google). Et si je parle à l'époque du grand danger de l'indexation génétique, on imagine aisément la nuit de noce entre le patron du premier moteur de recherche de la planète et la patronne de l'une des plus grandes bases de données génomiques.

En 2008 les services et le secteur de la médecine 2.0 explosent ("Docteur Google : quelle médecine pour demain"). Et pour la 1ère fois, un moteur de recherche passe un partenariat avec une clinique pour tester le partage de données au sein d'un service dédié du moteur. Cette clinique c'est celle de Cleveland, et ce moteur … c'est Google. Entre 1500 et 10 000 patients sont concernés et pourront importer leurs données médicales dans leur compte Google. La clinique de son côté annonçe que "le but ultime de cette expérimentation" est "de permettre aux patients d'interagir avec de multiples praticiens, services de santé et pharmacies." Un objectif que l'on retrouve mot pour mot dans le billet du blog officiel de Google qui indique travailler avec "beaucoup de compagnies d'assurance, de groupes médicaux, de pharmacies et d'hôpitaux." Ce "modèle de partage de données" dont parle Google est donc bien, pour moitié au moins, à destination de compagnies dont l'intéressement aux problématiques de santé n'a rien à voir avec le cadre du soin (compagnies d'assurance et pharmacies dans une moindre mesure). Dit autrement, si l'intérêt pour le patient reste à démontrer et si l'intérêt pour l'avancée de la médecine restera nul, l'intérêt financier pour les groupes d'assurance et les grands groupes pharmaceutiques n'est lui, plus à démontrer … Et Google Health, toujours en version Béta, semble voué à un bel avenir :

2008 est également l'année où des scientifiques d'Harvard lancent le plus grand projet de séquençage du génome (100 000 personnes "visées" avec un objectif de 1000 personnes la première année pour un coût de 50 millions de $). L'objectif est d'avancer dans la connaissance et le traitement des maladies. On aprrend alors que dans ce projet, Esther Dyson (de la société 23andMe) est embauchée, et que … Google et Orbimed (une firme d'investissement dans le domaine de la santé) en seront les seuls financeurs.

En septembre 2008, Serguei Brin découvre, grâce à la société de sa femme (23 and Me), qu'il dispose d'un terrain génétique très favorable à la maladie de Parkinson et se met donc à financer tout un tas de programmes de recherche autour du traitement de cette maladie. Hypocondrie classique des grands et des puissants ? Coup marketing pour la société de sa femme ? Grand flip inhérent à la "prédictibilité" de certains pathologies avant même qu'elles ne se déclarent ? Toujours est-il qu'à l'époque cette histoire me fout dans une rogne noire.

Pendant ce temps, HealthVault et Google Health sont les meilleurs amis des hypocondriaques compulsifs.

2008-2015 : les années de la santé mobile (et l'arrivée d'Apple).

Les années qui vont suivre, de 2008 à 2015 vont voir Google Health et Microsoft HealthVault passer sous le radar médiatique. Google Health sera d'ailleurs fermé en 2013 pendant que HealthVault vivote mais uniquement à destination des utilisateurs aux Etats-Unis et au Royaume-Uni. Ces années là verront en revanche le boom continu des recherches autour de la génomique personnelle et des services d'e-santé déclinées autour d'applications principalement dédiées au quantified-self. Dernière "annonce" en date, le lancement de l'Apple Watch et la nouvelle déclinaison du petit nouveau sur le secteur : le Health Kit de la firme à la pomme.

Pour autant, Google continue d'innover, d'embaucher à tour de bras et de brasser des millions autour des questions de santé et de génomique, et oscille entre projets concrets (lentilles connectées pour diabétiques, bracelet connecté pour des essais cliniques), projets pharaoniques (vaincre la mort avec sa société "Calico") et dépôt de brevets qui sont davantage là pour entretenir le buzz que pour être réellement développés à moyen terme (dernier en date : l'ordinateur injectable dans l'oeil). Et la prochaine grande étape du web sera probablement celle de l'internet du génome et du web généticiel. Celle que nous sommes en train de vivre est déjà celle du passage du smartphone au génome.

Ces années là, notamment les 2 dernières, voient également le développement et une forme de "revival" de l'intelligence artificielle grâce au Machine Learning et autres technologies d'apprentissage profond (Deep Learning). Des technologies "apprenantes", capables de rêver, de battre le champion du monde du jeu de Go, et partout le champ de la "prédiction" médiée par la machine et les algorithmes.

Il était clair que la santé, la médecine, la génomique verraient bientôt débarquer ces technologies pour redonner un second souffle aux ambitions des grandes firmes de la Silicon Valley. C'est désormais chose faite. 

Deepmind et puissance de calculs (rénaux)

L'info a été sortie le 29 avril 2016 par le New Scientist. Google, plus exactement sa filiale Deepmind, a conclu un accord avec l'équivalent du ministère de la santé aux Royaume-Uni (UK's National Health Service ou NHS) pour accéder aux données médicales de plus d'un million et demi de patients. Officiellement, cet accord avait été présenté comme permettant de construire une application baptisée "Streams" pour aider les médecins des hôpitaux à mieux surveiller et diagnostiquer les patients atteints de maladies rénales. Mais comme le révèle le document récupéré par le New Scientist ( Téléchargement ISA-RFH-GoogleUK-2015-09-29 redacted-1.pdf) il s'agit en fait de tout autre chose : 

"The agreement gives DeepMind access to a wide range of healthcare data on the 1.6 million patients who pass through three London hospitals run by the Royal Free NHS Trust – Barnet, Chase Farm and the Royal Free – each year. This will include information about people who are HIV-positive, for instance, as well as details of drug overdoses and abortions. The agreement also includes access to patient data from the last five years."

Fort heureusement, un certain nombre de précautions contractuelles font partie de cet accord :

"The agreement clearly states that Google cannot use the data in any other part of its business. The data itself will be stored in the UK by a third party contracted by Google, not in DeepMind’s offices. DeepMind is also obliged to delete its copy of the data when the agreement expires at the end of September 2017."

Mais il est clair qu'au vu de la nature intrinsèque du numérique aussi bien qu'à celui de tout ce que l'on sait d'accords équivalents dans d'autres secteurs, le fait que Deepmind soit "obligé de détruire sa copie des données à l'expiration de l'accord" sera, par exemple, difficilement vérifiable. Comme le sera le fait de vérifier que les données ainsi collectées n'ont pas servi – par exemple toujours – à affiner davantage les résultats de recherche ou les liens sponsorisés pour les patients concernés ou pour les requêtes liées à l'ensemble des données de santé ainsi mises à disposition. Par ailleurs la seule idée qu'une société privée, si bienveillante soit-elle, puisse ainsi disposer – même à des fins de recherche – d'un fichier des avortements ou des gens séro-positifs me rend fou de rage.

D'autant que parmi la foule des données ainsi collectées et offertes à la sagacité de Deepmind (et donc de Google) on trouve encore plein de choses comme :

"logs of day-to-day hospital activity, such as records of the location and status of patients – as well as who visits them and when. The hospitals will also share the results of certain pathology and radiology tests."

En gros et pour faire simple (mais simple n'est pas forcément caricatural), on se trouve dans une situation ou Deepmind / Google aura à sa disposition à peu près l'essentiel des données dont disposent habituellement les services d'un état de droit (le ministère de la santé en l'occurrence) :

"As well as receiving this continuous stream of new data, DeepMind has access to the historical data that the Royal Free trust submits to the Secondary User Service (SUS) database – the NHS’s centralised record of all hospital treatments in the UK. This includes data from critical care and accident and emergency departments."

Le New Scientist a naturellement posé la question de "l'opt-out", c'est à dire la possibilité pour les patients concernés de demander à sortir de cette gigantesque base de donnée. Aucune réponse n''a été fournie par les contractants, sauf que les patients disposent déjà d'un droit leur permettant de refuser d'être enregistrés dans les bases de données concernées, gérées par le NHS. Droit dont on ignore combien d'individus concernés font réellement usage mais dont on peut supposer qu'ils sont largement minoritaires.

De Google Health à "Patient Rescue"

"Patient Rescue" c'est le nom de la plateforme qui sera proposée par DeepMind pour :

"provide data analytics services to NHS hospital trusts. It states that Patient Rescue will use data streams from hospitals to build other tools, in addition to Streams, that could carry out real-time analysis of clinical data and support diagnostic decisions."

Soit une sorte de niveau "méta" permettant d'organiser la pratique des soins et de faire de l'aide à la décision pour un certain nombre de diagnostics. Aide à la décision et naturellement … "prédiction" :

"DeepMind is not planning to automate clinical decisions – such as what treatments to give patients – but says it wants to support doctors by making predictions based on data that is too broad in scope for an individual to take in."

Bon celle-là je vous la traduis tant la litote est belle :

"Deepmind ne prévoit pas d'automatiser les décisions médicales – comme de savoir quel traitement donner au patient – mais indique qu'il veut aider les médecins en fournissant des prédictions basées sur des ensembles de données trop larges et trop étendues pour être prises en compte par un seul individu."

Quelques lignes plus loin on peut lire :

"Les données collectées par Deepmind lui permettront de réaliser des prédictions sur n'importe quelle maladie. Ce que Deepmind est en train d'essayer de faire c'est de construire un algorithme générique qui soit capable de faire cela pour n'importe quel domaine dans lequel un individu peut-être médicalement testé."

On retrouve ensuite, et c'est extrêmement troublant, exactement le même argumentaire que l'on nous sort pour nous vendre les algorithmes de police ou de surveillance "prédictive", c'est à dire :

"Rhooooooo mais non il ne s'agit pas d'un Big Brother tendant à remplacer les policiers ou à attribuer automatiquement un "score de menace" à l'ensemble des individus d'une démocratie, il s'agit "juste" de mieux affecter les policiers dans les zones ou des crimes et délits ont statistiquement le plus de chances de se produire …

La preuve :

"It is not about replacing doctors or nurses, says Clifton. “It’s about how can we bring the attention of medics to the right place."

Voilààààà.

  Deepmind et Patient Rescue : le ministère de la santé de demain ?

Ross Anderson est chercheur à l'université de Cambridge et il a eu comme étudiant Demis Hassabis, l'un des co-fondateur de DeepMind. Par-delà le fait que, oui bien sûr ces technologies d'intelligence artificielle appliquées à la médecine permettront effectivement de trouver de nouveaux traitements pour un grand nombre de maladies et de mieux organiser (en tout cas de manière plus statistiquement efficiente) la politique des soins, et par-delà le fait qu'il n'y a rien de honteux, pour une société privée, à commercialiser cette offre (= à gagner plein d'argent en la vendant aux cliniques privées ou aux services de l'état), Ross Anderson, interviewé par le New Scientist, rappelle une chose qui me semble essentielle. Absolument essentielle :

"For Anderson, the more important question is whether Google – already one of the world’s most powerful companies – should have so much control over health analytics. “If Google gets a monopoly on providing some kind of service to the NHS it will burn the NHS,” says Anderson."

Je traduis puisque c'est essentiel :

"Pour Anderson (Nota-bene : pour moi aussi mais ça on s'en fiche), la question la plus importante est de savoir si Google – qui est déjà l'une des entreprises les plus puissantes au monde – doit avoir un tel niveau de contrôle sur les données de santé. "Si Google se trouve en situation de monopole dans la fourniture d'un certain nombre de services au NHS (ministère public de la santé du Royaume-Uni) alors il tuera le NHS."

Vous pouvez reprendre cette dernière phrase, "Si Google se trouve en situation de monopole dans la fourniture d'un certain nombre de services au ministère de la santé alors il tuera le ministère de la santé" et remplacer "ministère de la santé" par, au choix, "ministère des transports", "ministère de l'éducation", "ministère de la recherche", "ministère de l'industrie", "ministère de la culture", "ministère des télécommunications", etc, etc. Et vous pouvez aussi, bien sûr, remplacer "Google" par "Apple", "Facebook" ou, dans une moindre mesure, "Amazon".

Et si vous ne comprenez pas pourquoi tout ça me rend globalement assez pessimiste même si je me réjouis naturellement à l'idée qu'une technologie, qu'un algorithme, si artificiel ou si intelligent soit-il puisse sauver des vies ou permettre d'élaborer de nouveaux traitements médicaux, alors vous pouvez relire le billet dans lequel je vous ai raconté le jour où Serguei Brin avait découvert qu'il pourrait un jour déclarer une maladie de Parkinson. A la fin je vous posais cette question :

"voulons-nous d'un monde dans lequel les progrès et les principaux financements de la médecine devront parier sur le niveau d'hypocondrie de leurs grands dirigeants ou financiers ? Voulons-nous d'un monde dans lequel il nous faudra guetter le cancer de Bill Gates, la maladie de Parkinson de Serguei Brin, ou l'Alzheimer de Tim Cook pour espérer voir la recherche sur ces maladies bénéficier d'un effort de recherche suffisamment financé ?"

Même si j'ai bien conscience des processus d'hétéromatisation, c'est à dire du fait que derrière les algorithmes, les intelligences artificielles et autres ChatBots il y aura, sinon pour toujours du moins pour un temps encore relativement long et indéfini, aussi des individus et des intelligences humaines, en plus de ce niveau d'hypocondrie de leurs dirigeants, j'ajoute bien sûr la question de savoir si nous voulons d'un monde dans lequel des secteurs jusqu'ici régaliens ont vocation à se trouver presqu'exclusivement entre les mains d'acteurs privés, ou plus précisément entre les mains de processus de décisions et d'actions liés à des technologies "d'intelligence artificielle" de grandes compagnies privées en situation de quasi-monopole et qui, pour l'instant, échappent à toute considération éthique appliquée à l'intelligence artificielle ("Les algorithmes de plus en plus complexes de prise de décision sont à la fois souhaitables et inévitables, tant qu'ils restent transparents à l'inspection, prévisibles pour ceux qu'ils gouvernent, et robustes contre toute manipulation.")

Tina : The Mother of all Algorithms.

Ils choisissent nos amis, nos cadeaux de noël, nos playlists musicales, nous indiquent quoi lire, quoi acheter. Aujourd'hui déjà nous travaillons pour eux (Digital Labor). Demain ils piloteront nos voitures, réguleront les transports comme ils régulent déjà la spéculation boursière (High-Frequency Trading). Demain les opérations de police seront à l'échelle de leurs capacités prédictives, demain peut-être, des thérapies individuelles aux politiques de santé collectives c'est le champ entier de la médecine qui se trouvera sous le joug d'un ou deux algorithmes qui se partageront le marché de la santé et sous-traiteront la portion congrue de leurs énormes marges bénéficiaires à quelques labos pharmaceutiques ou assureurs privés.

Ils et elles s'appellent Pagerank, Edgerank, Alexa, Siri, OK Google, Echo, Alphago … Tous ces algorithmes, toutes ces intelligences artificielles ont un ancêtre commun, une mère nourricière. Elle s'appelle Tina. Si Lucy, l'ancêtre commun de l'humanité est née il y a plus de 3 millions d'années, Tina est née à la fin du 20ème siècle. Tina pour "There Is No Alternative".

La question algorithmique, celle d'une éthique de l'automatisation, celle des normes sociales de régulation de leur champ d'intervention, celle de la responsabilité mais aussi celle de la redevabilité algorithmique, toutes ces questions qui découlent de l'affirmation posée par Lessig dès 2000 dans son article "Code Is Law", sont bien plus cruciales que celles – importantes également – de la seule collecte des données et des possibilités d'opt-in ou d'opt-out offertes ou refusées aux utilisateurs. Car sans réponse claire à l'ensemble de ces questions, il n'y aura plus d'alternative.

Par-delà l'incapacité du politique à se saisir de ces enjeux à leur véritable échelle, par-delà la dramatique incurie qui neutralise la recherche publique sur ces questions doublement fondamentales alors même que la presque totalité des chercheurs qui développent ces technologies ont été formés dans des universités publiques, une chose reste certaine : nous aurons demain les algorithmes et les intelligences artificielles que nous méritons.