L’édification progressive d’un écosystème d’applications et de dispositifs techniques inter-reliés, fondés sur la collecte et l’utilisation massive des bigs datas couplée à la virtuosité computationnelle de l’intelligence artificielle pose d’élémentaires questions de démocratie, de droits fondamentaux, d’éthique et de gouvernance. Y répondre commence par déployer une épistémologie rigoureuse qui refuse de prendre pour argent comptant les termes tronqués du débat.

Suivi et prise en charge automatisée de cohorte de patients, médecine adossée à la singularité biologique des individus, prévention des maladies via l’actionnabilité des biomarqueurs, autonomisation du patient grâce aux dispositifs de capture et de monitoring des paramètres biologiques, telles sont quelques-unes des perspectives promises à la santé gouvernée par l’intelligence artificielle. Quel esprit chagrin pourrait refuser une telle promesse?

L’intelligence artificielle est une promesse qu’elle ne peut pas tenir seule…

L’intelligence artificielle, c’est surtout l’artifice de l’intelligence. Donnée comme un système auto-apprenant, susceptible de trouver structures et corrélations grâce à l’amalgame de tera-octets de datas, on en oublie avec une troublante légèreté qu’il faut, le rappelle Matthieu Guillermin (UCLy), constituer des bases de données d’apprentissage avec les biais de l’opération, paramétrer les architectures, définir des algorithmes, «nettoyer» les données (jusqu’à 90% du temps requis pour traiter les données selon Julie Jacques (UCLille) etc., pour obtenir des corrélations qui ne sont pas toujours des liens de causalité et une personnalisation qui reste statistique.

Le mythe des données anonymisées

Pour être pleinement opératoire, l’IA requiert des masses toujours plus conséquentes de données. Ne faut-il pas, pour soutenir l’innovation, favoriser la collecte de ces données sensibles que sont les datas de santé, favoriser l’open data? Comme elles sont sensibles, proposition est faite de les anonymiser, c’est-à-dire de procéder à une dés-identification telle qu’il est impossible de ré-identifier leur propriétaire avec des moyens «raisonnables» (sic). Or, selon Christine Froidevaux (Université Paris-Sud, Cerna), il est particulièrement complexe de connaître et donc d’éliminer tous les attributs susceptibles de permettre la ré-identification.

Par-delà cette difficulté, il faut s’interroger plus avant: qui veut réellement de données anonymisées enfermées dans une database unique? La stratégie des registres vise à coupler les différentes databases pour densifier et affiner les corrélations. Il faut oser dire que les données réellement intéressantes pour l’IA, ses industriels et ses promoteurs, sont celles qui autorisent les identifications croisées et les identifications en contextes. Seules celles-ci peuvent générer une «méta-intelligence» utile.

La maîtrise de l’algorithme

Si la collecte ou la cession des données mérite un débat démocratique fondamental, que dire de la maîtrise des algorithmes (= suite non ambiguë d’opérations qui permettent d’obtenir un résultat) qui leur sont appliqués? Qui les définit? Que font-ils et quels sont leurs objectifs finaux? Sur quels échantillons sont-ils appliqués? Qui les évalue? Qui les corrige? 

La dictature de la data?

La gouvernance et le contrôle démocratique des données et des algorithmes sont essentiels dans la mesure où l’IA pourrait gouverner nos organisations, nos choix personnels et collectifs, nos actes: un médecin pourra-t-il s’affranchir d’un traitement défini par l’IA? Quid de la responsabilité en cas d’erreurs ou de dommages liés à l’IA? Les individus pourront-t-ils s’émanciper d’une (épi) génétique imparfaite, d’un parcours de soins ou de santé?

On peut être technophile et ne pas vouloir d’une datacratie.

> Le débat se poursuit sur @numeriKare

++ article qui pose les bonnes questions. Juridiquement aucun arsenal ne sera assez puissant pour éviter des dérives. Ethiquement, AI le pire ou le meilleur pour l'humanité Hawking. Socialement, si @finkd avait raison. La vie privée n'existait déjà plus?merci

— Karolien123 (@Karolien1231) 29 mai 2018

Juridiquement, c'est inutile de tenter quoi que ce soit, une fois la database constituée il est déjà trop tard.
Techniquement, il y a moyen d'éviter certaines dérives déjà évidentes aujourd'hui.

— David SIMON (@Freedoc_be) 29 mai 2018

Dans la mesure où les databases comme les algorithmes d'ailleurs, sont évolutifs -doivent évoluer-,il est techniquement et juridiquement "toujours temps", possible et nécessaire d'avoir une relative maîtrise démocratique, collective, concertée des D-banques et des algorithmes.

— Valérie Kokoszka (@vkokoszka) 30 mai 2018

L'histoire de eHealth montre qu'il vaut de loin mieux baliser le thème et construire les garanties avant le release. Après, difficile et très aléatoire.

— jacques de Toeuf (@j_detoeuf) 30 mai 2018

Tout à fait d’accord avec vous. Le plus simple et le plus efficace est de travailler en co-design quand c’est possible. Après des dispositifs de contrôle tiers réguliers peuvent être mis en place.L’esante, c’est + lourd qu’on ne croit en termes de gouvernance et d’organisation

— Valérie Kokoszka (@vkokoszka) 30 mai 2018

Quels sont ces dispositif de contrôle tiers réguliers ?
Ne devraient-ils pas être mis en place avant et non après ?

— David SIMON (@Freedoc_be) 30 mai 2018

> Lire l'ensemble des tweets échangés sur ce débat

Lire aussi :

> La santé numérique à contre-humanité? (V. Kokoszka)

> Santé numérique : un grand chambardement organisationnel ? (V. Kokoszka)

> La santé numérique va t-elle redéfinir les contours de la médecine? (V. Kokozska)

> Téléconsultation: quelle relation thérapeutique à distance? (V. Kokozska)