Claude KIRCHNER, directeur du CNPEN (Comité national pilote d’éthique du numérique),
Membre du CCNE (Comité consultatif national d’éthique pour les sciences de la vie et de la santé),
Directeur de recherche émérite Inria, ancien président du comité opérationnel d’éthique d’Inria (COERLE).
Pourquoi le CNPEN s’est-il intéressé aux systèmes d’intelligence artificielle dans le diagnostic médical ?
Le CNPEN et CCNE ont été saisis par le Premier ministre, sur les enjeux de santé publique de l’utilisation de l’intelligence artificielle lors du diagnostic médical. En réponse à cette saisine et pour la première fois, le CCNE et le CNPEN viennent d’émettre un avis commun.
Le numérique implique des transformations majeures de notre société en général et de notre système de santé en particulier. Les systèmes d’intelligence artificielle dans le diagnostic médical (SIADM) peuvent apporter une plus-value importante dans la prise en charge, des apports dont il ne serait pas éthique de se priver. Cependant les SIADM transforment la pratique médicale et la relation soignant/patient dans un contexte où le maintien de la relation de confiance, entre le praticien et le patient, est fondamental. Les SIADM doivent être compris et maîtrisés par le corps médical ; le praticien doit pouvoir expliciter et expliquer les résultats obtenus par ces outils numériques. Ces observations et toutes les promesses que vous voyez poindre nous ont amenés à émettre des recommandations.
Quelles sont quelques-unes de vos recommandations ?
Nous devons poursuivre l’enseignement des méthodes de diagnostic au préalable et continuer à faire de la recherche pour progresser indépendamment des SIADM. Le médecin doit maîtriser sa discipline même s’il dispose de systèmes numériques particulièrement performants. Le numérique met en œuvre des algorithmes qui n’ont pas le sens clinique des praticiens.
Ces systèmes créent une intermédiation numérique entre le médecin et le patient et dessine un triangle de compétences. Cette intermédiation entre le personnel médical et le patient doit être étudiée afin de rester attentif aux évolutions. Cela suppose une formation des médecins adaptée afin de ne pas se retrouver dépassé par l’évolution des techniques d’intelligence artificielle. De même, il nous paraît important d’obtenir le consentement préalable du patient à l’utilisation des SIADM et d’en indiquer l’utilisation dans tout rapport médical.
À chaque étape du processus (demande d’examen, production et analyse des résultats), même en faisant appel aux SIADM, une supervision humaine est nécessaire. Le praticien dispose du numérique mais il doit être capable de comprendre l’intégralité de l’analyse et des résultats.
Une autre recommandation porte sur le contrôle de conformité des SIADM. Ces systèmes ne doivent évidemment pas être malfaisants, mais ils doivent aussi respecter le principe de bienfaisance. Nous devons donc introduire, de manière explicite, l’évaluation de leur efficacité clinique : au-delà de son absence de nocivité, un SIADM doit démontrer qu’il contribue à l’amélioration de la qualité du diagnostic médical au bénéfice du patient. La finalité des SIADM doit s’inscrire dans une logique de promotion continue de la qualité et de la sécurité des soins.
Enfin nous alertons sur le fait que ces systèmes ne sont en aucun cas des éléments de substitution de l’intervention humaine des professionnels de santé. Ils ne doivent pas suppléer au manque de médecins dans des établissements ou sur certains territoires.
Existe-t-il des limites à ces SIADM ?
Les secteurs les plus concernés par les SIADM sont l’imagerie en oncologie, ophtalmologie, dermatologie, cardiologie, l’analyse d’images en termes d’histopathologie, mais également les analyses génomiques. Le traitement par les algorithmes des données de ce type pose la question d’un incidentalome. La question de la prise en compte des incertitudes doit être considérée. Cette notion rappelle l’indispensable compétence du médecin pour discerner la pathologie de l’erreur d’interprétation. De même, seul le médecin, par la relation qu’il développe avec le patient, sait prendre en charge une information incidente. Ceci nous ramène à l’importance de la confiance dans les échanges entre médecin et patient au regard du SIADM.