Enjeux éthiques des usages de l’intelligence artificielle en santé

L’IA peut se définir simplement selon Marvin Minsky, comme « la science qui consiste à faire faire aux machines ce que l’homme ferait avec une certaine intelligence ». Elle impacte l’ensemble des secteurs d’activité et le monde de la santé ne déroge pas à la règle.

Enjeux éthiques des usages de l’intelligence artificielle en santé

Plan


Introduction

L’e-santé se définit comme un vaste domaine d’applications des technologies de l’information et de la télécommunication au service de la santé. Elle se développe de manière exponentielle et recouvre de nombreuses formes autour de la recherche clinique, de la prévention, du diagnostic, de la prise en charge du patient, du parcours de soin, etc. Pour l’OMS, elle se définit comme « les services du numérique au service du bien-être de la personne ». En interface avec la e-santé, on trouve l’intelligence artificielle, dite IA. L’IA prend une place de plus en plus importante dans notre société. L’IA peut se définir simplement selon Marvin Minsky, comme « la science qui consiste à faire faire aux machines ce que l’homme ferait avec une certaine intelligence ». Elle impacte l’ensemble des secteurs d’activité et le monde de la santé ne déroge pas à la règle. Cette nouvelle technologie se déploie aujourd’hui dans de nombreux formats dans le monde de la santé : supercalculateurs pour prédire une pathologie ou aider au diagnostic, à la prise en charge. Elle pourrait ainsi permettre de mieux détecter les symptômes et de faire un suivi prédictif d’une maladie, d’exploiter les résultats d’analyse (imagerie médicale…), de soumettre de nouvelles hypothèses de diagnostic et de formuler des propositions thérapeutiques plus personnalisées.

Elles peuvent aussi améliorer la détection des effets secondaires d’un médicament lors des phases d’essais cliniques, et donc in fine avoir un impact positif sur l’innovation pharmacologique (meilleur ciblage thérapeutique, accélération et sécurisation de la mise des médicaments sur le marché, etc.). La question de la place de l’éthique dans le développement de la e-santé et de l’IA s’invite de plus en plus dans les débats : protection des droits et libertés, responsabilité, transparence des systèmes, relation homme machine… Deux grands principes sont souvent mis en avant : loyauté et vigilance ; tout système ou algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, en tant que citoyens.

Impact sur la relation soignant-soigné

Les objets connectés, applications mobiles, dispositifs médicaux, bouleversent la relation médecin-patient et la posture de sachant du médecin. L’intelligence artificielle deviendra rapidement omniprésente et va fortement impacter la pratique médicale.

Les outils numériques permettent au patient d’augmenter ses connaissances concernant sa pathologie et son suivi, favorisant l’auto-diagnostic et par déclinaison l’automédication. Au-delà des patients experts, les usagers deviennent davantage acteurs de leur santé grâce au numérique. La relation entre professionnels de santé et patients se retrouve ainsi positivement bouleversée avec une remise en cause de la posture traditionnelle de « sachant » du médecin.

Les outils de téléconsultation, de télésurveillance, qui s’appuieront sur l’IA peuvent aussi aider à maintenir du lien et permettre à tout moment au patient d’exprimer ses difficultés avec le traitement, de manière plus fluide et moins protocolaire que dans le cadre d’une consultation médicale. Le patient n’hésitera par ailleurs pas à profiter des nouvelles solutions technologiques pour valider le diagnostic du médecin ou s’auto-diagnostiquer ou se faire accompagner dans sa maladie.

Cependant, malgré l’émergence des outils numériques favorisant le diagnostic ou l’accompagnement, le médecin ou le pharmacien reste la première source d’information médicale pour le patient. Très proches des citoyens qu’ils voient plusieurs fois par an, les professionnels de santé jouissent d’une très bonne image en France, en particulier pour leur rôle de conseil et d’accompagnement. Il semble donc exister aujourd’hui un consensus en France sur l’importance que la décision finale médicale soit celle de l’humain, préservant l’interaction entre le patient et le médecin ; et que l’outil ne remplace pas, mais vienne en appui, en soutien.

En effet, un risque est perçu : celui selon lequel une décision ou une prise en charge qui repose sur des calculs de probabilités pourrait minorer la prise en compte des spécificités individuelles. Pour cette raison l’intervention et la supervision humaine restent donc nécessaires.

Ce risque est renforcé quand est évoquée la possible délocalisation des outils, plateformes et process dans d’autres pays ; en particulier dans un autre cadre social, politique ou économique que le nôtre. Le fait que des décisions cruciales puissent être ainsi prises fait peur, dès lors qu’elles seraient déléguées à des systèmes automatisés, à fortiori à l’étranger.

En effet, le diagnostic ou la prise en charge via des algorithmes, de l’intelligence artificielle, ne prendrait pas alors en compte toutes les caractéristiques individuelles de chaque patient, notamment au niveau du contexte social, des aspects psychologiques, etc. C’est pourquoi, pour beaucoup, l’humain doit donc rester central dans la décision finale avec une interaction entre le patient et son médecin. Cette décision doit être explicitée et partagée entre le patient et le médecin.

Par ailleurs les solutions e-santé et notamment les objets connectés (dispositifs médicaux et pilules connectés) posent des questions sur le rôle du médecin au regard d’un risque de contrôle. En effet, par exemple, les outils permettent aujourd’hui d’avoir une connaissance de plus en plus précise de la bonne observance ou non des patients à leurs traitements. Le coté positif est de permettre par exemple de développer, d’adapter ou d’optimiser des programmes d’accompagnement du patient vers une bonne observance. Cependant il ne faut pas minimiser le fait que ces solutions puissent être perçues ou détournées comme outils de contrôle en opposition avec la notion de liberté des patients.

Il faut donc prendre en compte, d’une part, l’avènement de la montée en puissance de l’autonomie du patient (dans ce cadre, se situe le développement de l’éducation thérapeutique et de la participation du patient aux décisions médicales avec la notion d’« empowerment » où le patient et le médecin discutent d’égal à égal) ; et d’autre part, le développement d’une médecine de plus en plus technique, qui propose des outils qui peuvent exercer une emprise sur le patient. C’est pourquoi ces solutions doivent être développées pour les patients et pour leur intérêt unique et non dans une logique de contrôle d’un tiers ; c’est aussi pourquoi ce développement doit se faire en collaboration avec des patients experts ou associations de patients, et dans un cadre de démocratie en santé. Et c’est enfin pourquoi il faudra un cadre juridique clair, respectueux des libertés fondamentales individuelles dans l’usage de la e-santé et de l’IA et de tout outil connecté.

Concernant la qualité de la relation soignant soigné, une autre considération est de se demander si ces outils ne submergeront pas les professionnels de santé, en termes de capacité à gérer les données et les flux qui vont converger vers un cabinet médical ou vers un service hospitalier. En effet, si les professionnels de santé disposent à l’avenir de nombreux outils et services numériques dans leur pratique quotidienne, que ce soit pour accompagner la prise en charge des patients ou la gestion administrative, le risque est que ces outils soient très chronophages, avec donc paradoxalement un impact négatif sur le temps  relationnel disponible en présentiel pour des patients.

A cet égard, la question de la gestion des données produites par les applications et objets connectés sera centrale. Le professionnel de santé ne pourra pas se retrouver face à un afflux massif de données, s’il n’est pas bien équipé pour recevoir ces flux ou formé ou aidé par de nouveaux collaborateurs (nouveaux métiers de la coordination) pour les interpréter et y répondre. Aujourd’hui, on ressent déjà que, au lieu d’améliorer la pratique de soin (le suivi et la relation avec le patient), il y a un risque que certains outils informatiques ne la complexifient et ne la dégradent. Le bon outil sera donc celui qui préserve, voire améliore le temps relationnel du soignant avec le malade. Sans respect de ce principe, on risque de constater une évolution d’un écosystème de solutions e-santé non adaptées à la pratique médicale, trop éparses, qui alimenteraient une insatisfaction et un manque d’adhésion des professionnels de santé et des patients. Il y aura donc un travail à faire en ce sens pour que les outils soient aidants et facilitants, amenant un réel progrès.

Questions autour de la responsabilité médicale, entre homme et machine

Il est primordial de clarifier la responsabilité médicale des solutions de diagnostics, de conseil ou d’accompagnement existant sur le marché.

A ce jour, en cas de faute ou de manquement, la responsabilité juridique incombe aux médecins ou aux soignants en charge du patient. Dans le cas d’algorithmes ou de robots intelligents, il n’existe pas encore de cadre juridique clair (pas de personnalité juridique autonome de la machine) permettant d’imputer la responsabilité au concepteur de la solution, en cas d’erreur ou d’aléas.

Il faut pour l’avenir se demander si avec l’usage des solutions connectées,  il n’y aura pas un transfert de responsabilité dont les contours précis ne sont pas encore définis. En résumant : on pourrait dire, ce n’est plus moi humain qui suit responsable de la décision médicale, mais la machine ou la solution informatique sur laquelle je me suis appuyé. La réflexion implique donc de travailler sur deux interrogations majeures : d’une part la responsabilité de l’acte humain peut-elle se diluer dans l’objet connecté ? Et plus largement, un objet connecté est-il « responsable de ses actes » ?

Cette incertitude n’est pour autant pas un vide puisque la responsabilité dite civile, relative au dommage causé par un objet, est établie par l’article 1242 du Code civil : « on est responsable non seulement du dommage que l’on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre ou des choses que l’on a sous sa garde ».  L’article semble favorable à la victime, par exemple à un patient auquel l’algorithme aurait proposé une mauvaise adaptation de dose d’un traitement (avec conséquences graves au décours) ou une erreur chirurgicale lors d’intervention par robot totalement ou partiellement autonome. Il pourrait se retourner contre le fabricant. 

Mais peut-on concevoir alors que l’utilisateur médical d’un objet connecté, qui a été pour partie dépossédé de son pouvoir de contrôle et de direction du fait de l’autonomie plus ou moins grande de l’objet, puisse être responsable de sa défaillance ou du dommage causé ? Les objets connectés sont des choses spéciales qui disposent souvent d’une véritable autonomie et dont la notion de contrôle peut ainsi être remise en cause.  Par ailleurs, l’objet connecté « apprend » et s’adapte aux comportements de son utilisateur. Le « défaut » peut donc être l’effet d’un apprentissage de la machine que l’état des connaissances scientifiques au moment où l’objet a été vendu ne permettait pas d’anticiper. Le caractère intrinsèque d’un tel objet, qui est d’être « connecté » et « autonome » rend donc difficile l’application d’un tel article.

De plus, son fabricant pourra aisément se prévaloir d’un autre article 1245-10 du Code civil pour s’exonérer de toute responsabilité. En effet, cet article dresse la liste des états de fait qui permettent d’exonérer le producteur de sa responsabilité : la loi écarte la responsabilité de plein droit du producteur lorsque l’état des connaissances scientifiques et techniques au moment où le produit a été mis en circulation ne permet pas de déceler le défaut du produit par exemple.

Ces champs de la responsabilité et de la co-responsabilité homme-machine devront à l’avenir être encore clarifiés.

Des besoins de garanties sur la fiabilité et la sécurité

La question est de savoir si certains des objets connectés ou process d’IA, au vu des fonctionnalités et bienfaits sur la santé annoncés, ne devraient pas relever de la réglementation sur les dispositifs médicaux, qui garantit aux consommateurs un niveau élevé de fiabilité, de sécurité et de protection.

Derrière ce sujet de fiabilité scientifique, se pose la question de la validation scientifique (par des études, comme par exemple pour le médicament), puis de la certification / labellisation des solutions e-santé. Cette question est centrale quant à l’adhésion des professionnels de santé et l’appropriation par les patients, aidants etc. Elle n’est aujourd’hui que très embryonnaire.

La question de l’évaluation des objets connectés est donc centrale. Il ne faut pas nécessairement appliquer les mêmes méthodologies d’évaluation scientifique que pour les médicaments. Il faut mettre en place des évaluations scientifiques, mais aussi qualitatives auprès des patients et des professionnels : comment le patient accepte l’objet, quel usage il en fait, qu’est-ce que cela apporte vraiment à la fois à la société, au patient et au médecin… Tout ça n’est pas encore totalement entré dans les mœurs et il convient d’être vigilant sur certaine solutions proposées et qui ne sont pas capables de produire ces standards de qualité.

Une des garanties sera, dans ces procédures, d’intégrer les médecins et patients en collaboration dans le développement des solutions e-santé.

Regard sur le devenir et l’usage des données et le sujet du big data

S’appuyant sur la masse extraordinaire de données issue des objets connectés de santé, des réseaux sociaux, des données des dossiers médicaux… le big data appliqué à la santé apparait comme le nouvel eldorado. Il n’y a pas en effet d’IA sans collecte et analyse de données à grande échelle. Les champs d’application sont nombreux, avec des enjeux tant médicaux qu’économiques : optimisation des essais cliniques, des parcours de soin,  personnalisation des traitements et accompagnement des patients, réduction des coûts… Le big data apporte également de nouvelles perspectives en santé publique avec l’abondance de données permettant notamment de nouvelles études épidémiologiques. Sur un volet plus commercial, la mise en place d’outils big data et l’analyse des données peut aussi répondre à plusieurs objectifs : améliorer la connaissance client pour mieux la gérer, optimiser ses processus et sa performance opérationnelle, renforcer ou diversifier un business model. Via les données, plusieurs informations capitales peuvent être dégagées : les problèmes et préoccupations des patients concernant leur traitement ou leur condition physique et ainsi leur satisfaction générale ; leurs expériences positives ou négatives ; les raisons pour lesquels les traitements sont initiés, arrêtés ou changés.

Dans le domaine de la santé, les sources de ces données sont nombreuses : les données médico-administratives produites par l’Assurance maladie (Sniiram) et les hôpitaux (PMSI) ; les données figurant dans les dossiers médicaux, à l’hôpital et en ville ; les données détenues par des acteurs publics ou privés recueillies auprès de patients (essais cliniques notamment) ou de professionnels de santé ; les données générées par les objets connectés, les applications mobiles, les sites web et moteurs de recherche ; les données de contexte, socio-économiques, géographiques, environnementales, etc.

Tous ces usages et collectes impliquent la nécessité de promouvoir une réelle information de qualité des usagers et le recueil du consentement des individus/citoyens. Dans certains pays, les patients sont même sollicités ou cherchent à monétiser leurs données. En France, le Règlement Général sur la Protection des Données (RGPD) est entré en application le 25 mai 2018. L’objectif affiché de ce nouveau règlement est de permettre aux individus d’avoir un maximum de contrôle et de connaissances sur les traitements dont leurs données personnelles font l’objet. Il s’applique donc aux projets de e-santé et impose un cadre strict aux éditeurs de solution sur le sujet de la gestion des données collectées.  Mais au-delà de cette garantie, le système peut être fragile, car tous les jours il y a un risque d’attaque contre des serveurs et de piratage de données de santé.

Une technologie comme la blockchain constitue une deuxième garantie : chaque individu pourrait protéger lui-même ses propres données, qui ne sont pas confiées à une plateforme centralisée, tout en restant connecté au réseau. Cela permet à chacun de choisir à qui transmettre l’accès à ses données. La sécurité du système est assurée par le fait que la validation est effectuée par un ensemble d’utilisateurs différents, qui ne se connaissent pas. Cela permet de se prémunir du risque de malveillance ou de détournement, puisque les nœuds surveillent le système et se contrôlent mutuellement. Cela diminue les potentielles attaques, intrusions ou usage malveillant, comme par exemple un détournement de piratage ou un usage commercial non consenti.

Conclusion

Nous vivons dans un monde de captation et de partage de données. Nous en avons tous plusieurs dans notre poche, au cœur de nos smartphones. La liste de ce qu’ils permettent de mesurer et d’actionner ne cesse de s’allonger. Chaque nouveau dispositif électronique qui voit le jour ne cesse de nous en proposer de nouveaux.

Mais parfois, tout en acceptant et soutenant la logique du progrès, un état de vigilance s’impose. Cette vigilance rejoint d’ailleurs l’exigence de rigueur scientifique visant à évaluer la balance bénéfice risque de toute chose et de ne valider et retenir que ce qui apporte réellement du positif, du bien-être, de l’amélioration de qualité de vie ou de survie pour les patients.

Ainsi, la qualité de l’outil proposé rentre-t-elle dans cette dynamique. La qualité des nouveaux capteurs et algorithmes permettront-ils réellement d’améliorer l’équilibre d’un diabète sans contraintes ou préjudices nouveaux pour le patient ?  Une caméra connectée permettra-elle de dépister des mélanomes sans risque d’erreur ou de préjudice ; puis de suivre les mélanomes sans tronquer leur couleur, leur texture ? Pourra-t-on et devra-t-on mesurer l’évolution de tremblements liés à la maladie de Parkinson ? Quelle sera l’effet en terme d’impact psychologique pour le patient ? De manière plus large, quelle sera la sécurisation de ces données et l’encadrement juridique pour assurer l’absence de mésusage avec préjudices par exemple en terme d’accès au travail, à l’assurance santé ou de préservation des libertés individuelles ?

La liste des points de vigilance éthique est donc importante. Il convient de les prendre en compte, non pas pour bloquer, mais pour construire un progrès responsable, respectueux des intérêts de tous, et au premier chef des patients et citoyens.


Guillaume Grandazzi, en collaboration avec Grégoire Moutel