Opportunités et risques de l’IA

Le terme d’intelligence artificielle date des années 50 du siècle dernier. Le terme “intelligence humaine” désigne un ensemble de technologies permettant à un ordinateur d’émuler des caractéristiques typiques de l’intelligence humaine au cours du XXe siècle. Au départ, de grands espoirs ont été placés dans ces technologies et des tentatives ont été faites très tôt pour les introduire dans la médecine. Au début du 21e siècle, la recherche sur l’IA en médecine a été plutôt silencieuse en raison de résultats initialement décevants. Plusieurs développements importants ont toutefois ouvert la voie à la percée de cette technologie.

Le terme d’intelligence artificielle date des années 50 du XXe siècle et désigne un ensemble de technologies permettant à un ordinateur d’émuler des caractéristiques typiques de l’intelligence humaine [1]. Au départ, de grands espoirs ont été placés dans ces technologies et des tentatives ont été faites très tôt pour les introduire dans la médecine. Des exemples datant des années 1970 sont les programmes d’identification des bactéries dans les maladies infectieuses [2] ou de pronostic des maladies coronariennes [3]. Une certaine désillusion est apparue dans les années 1990 : un éditorial [4] du célèbre New England Journal of Medicine a attribué la note “C” aux programmes de diagnostic assisté par ordinateur disponibles à l’époque, ce qui correspond approximativement à un “3” dans le système de notation suisse. Ces programmes produisaient un diagnostic erroné dans 30 à 50 % des cas, ce qui rendait difficile leur utilisation et leur acceptation en clinique. Au début du 21e siècle, la recherche sur l’intelligence artificielle en médecine était plutôt silencieuse en raison des résultats initiaux décevants. Plusieurs développements importants ont toutefois ouvert la voie à la percée de cette technologie.

Apprentissage profond

D’une part, l’utilisation du dossier médical électronique a connu une expansion constante. Les ordinateurs ont ainsi pu accéder à de grands ensembles de données médicales. La multitude de données a permis de créer et de développer une nouvelle génération de programmes d’intelligence artificielle. Ces programmes ont été développés dans les années 2010 et sont aujourd’hui regroupés sous le terme de deep learning . On entend par là des algorithmes basés sur des réseaux neuronaux artificiels, capables de reconnaître avec une grande précision des modèles dans de grandes quantités de données. De manière remarquable – et d’une grande importance pour la médecine – ces programmes ont une capacité exceptionnelle à reconnaître les structures dans les images [5]. Une comparaison directe avec des observateurs humains a montré que les ordinateurs sont bien plus performants dans la reconnaissance de motifs dans les images et qu’ils sont en dessous du taux d’erreur humain de 5% [6]. En 2017, un groupe de recherche de l’université de Stanford en Californie a appliqué la technologie d’apprentissage profond au domaine de la dermatologie. Un travail révolutionnaire a montré que les ordinateurs font jeu égal avec les dermatologues dans la détection des lésions cutanées malignes [6]. Depuis cette publication, de nouveaux travaux rapportant des résultats similaires dans différentes disciplines diagnostiques (par exemple en pathologie ou en radiologie [7–10]) se sont multipliés. Parallèlement à la reconnaissance d’images – et avec une importance également considérable pour la médecine – la technologie d’apprentissage en profondeura également conduit ces dernières années à des percées dans la reconnaissance vocale [11]. Cela permet aux ordinateurs de comprendre et d’analyser de plus en plus les données médicales rédigées en langage naturel (rapports de sortie, rapports de diagnostic, etc.), voire de rédiger eux-mêmes des textes [12]. En résumé, on peut dire ce qui suit : Grâce au dossier médical électronique, l’ordinateur a un accès plus large aux données médicales, qui sont encore principalement sous forme non structurée (images ou texte). Une technologie (deep learning) peut traiter efficacement ces données non structurées et devient ainsi capable d’émuler de plus en plus les activités médicales (diagnostic, décision thérapeutique ou rédaction d’un rapport de sortie).

La question de savoir dans quelle mesure et dans quel délai ces nouvelles technologies influenceront la médecine reste ouverte. Dans la section suivante, nous allons nous pencher sur ces questions et accorder une attention particulière aux opportunités et aux risques de l’intelligence artificielle dans la pratique médicale quotidienne (tableau 1).

Utilisation de l’IA dans le quotidien clinique : concurrence pour le médecin ?

Il existe actuellement un intérêt croissant pour l’utilisation de l’intelligence artificielle (IA) afin de compléter, d’améliorer ou même de remplacer l’intelligence diagnostique du médecin. Les partisans de l’IA s’attendent à ce que de telles technologies puissent améliorer non seulement l’efficacité du diagnostic, mais aussi la précision du diagnostic (avec moins de sous-diagnostics et de sur-diagnostics)[13].

D’autres ont cependant fait valoir que cela créerait une charge d’informations supplémentaire pendant une consultation déjà surchargée. Il pourrait très peu contribuer à améliorer les résultats des patients, le niveau de stress du médecin ou la situation financière du système de santé. Ces arguments se basent parfois sur l’expérience de systèmes existants qui aident les médecins dans des activités telles que la détection d’interactions médicamenteuses et qui ne sont souvent pas convaincants en raison de fausses alertes ou d’interventions non pertinentes[14].

Mais avec une nouvelle génération de systèmes d’IA, on peut s’attendre à ce qu’ils s’établissent à plus long terme dans la pratique clinique quotidienne. La raison principale est la capacité de ces systèmes à étudier un nombre illimité de cas et donc à perfectionner un algorithme de diagnostic. Un radiologue, par exemple, a accès, au cours de sa formation et de son activité professionnelle, à un nombre important mais limité d’images radiologiques dont il peut avoir besoin pour affiner ses compétences en matière de diagnostic. En revanche, les ordinateurs ont accès à potentiellement toutes les images radiologiques jamais acquises dans un ou plusieurs hôpitaux. L’ordinateur peut donc s’appuyer sur les images radiologiques et les résultats de centaines de radiologues et peut ainsi émuler efficacement, bien qu’indirectement, leurs connaissances collectives. Un radiologue isolé est donc désavantagé par rapport à un ordinateur.

Ces nouvelles générations de systèmes d’IA ne doivent pas nécessairement opérer de manière autonome (sans supervision médicale), comme c’est déjà le cas en ophtalmologie pour le diagnostic de la rétinopathie diabétique [9]. L’IA va plutôt soutenir l’activité médicale, par exemple dans le cas de systèmes d’IA radiologiques qui hiérarchisent en arrière-plan les images radiologiques qui doivent encore être examinées en fonction de leur degré de gravité ou dans le cas de systèmes d’assistance basés sur l’IA qui attirent l’attention du radiologue sur une fracture dans l’image radiologique et dont il a été démontré qu’ils augmentent la précision du diagnostic [17]. On ne sait pas encore à ce stade si les spécialistes accepteront et utiliseront cette aide de l’IA. En tout état de cause, l’IA permettra aux non-spécialistes, aux médecins généralistes, aux médecins en formation et aux autres professionnels de la santé de réaliser eux-mêmes des examens diagnostiques complexes.

Il convient toutefois de noter ici qu’un système d’IA ne pourra jamais remplacer complètement le médecin, car le système manque pour l’instant d’empathie et de compassion pour le patient. Un médecin doit comprendre le contexte du patient et prendre en compte les circonstances sociales et psychologiques avec empathie, soin et compassion. Une connaissance explicite de la valeur prédictive des symptômes peut être enseignée à un système d’IA, mais il est peu probable qu’il apprenne à gagner la confiance d’une personne à ce stade.

Amélioration de la qualité de la médecine

Toutefois, bien utilisés, les systèmes d’IA pourraient permettre d’améliorer la qualité des soins médicaux. Les systèmes d’IA ne se fatiguent pas et garantissent une performance de diagnostic constante, quel que soit le moment de la journée ou le volume du patient. L’IA peut surveiller les processus médicaux en arrière-plan et prendre des mesures correctives. De manière optimiste, l’IA pourrait permettre de gagner un temps considérable et d’améliorer ainsi la qualité de la relation patient-médecin. Concrètement, les médecins pourraient confier les examens de routine à l’IA et se consacrer davantage à l’entretien avec le patient. Un exemple tiré de la pratique des médecins généralistes serait de conseiller un patient atteint de diabète sucré de type 2. Les médecins généralistes passent beaucoup de temps à collecter des informations provenant de différentes sources, par exemple en lisant les rapports de sortie des patients ambulatoires ou hospitalisés, en analysant les analyses sanguines des derniers mois et en consultant les directives cliniques. En revanche, les systèmes d’assistance IA peuvent préparer automatiquement les éléments les plus importants et indiquer les risques et les mesures à prendre en fonction du profil de risque individuel du patient. Ainsi, les systèmes d’IA peuvent également jouer un rôle important dans la prévention. Ces systèmes pourraient proposer des consultations de manière proactive lorsqu’ils constatent que le risque d’un patient atteint de diabète sucré de type 2 de développer une complication diabétique spécifique est plus élevé et justifie une intervention.

L’IA dans la pratique quotidienne

Les systèmes basés sur l’IA apportent également une expertise diagnostique de soutien aux soins primaires. Une image d’une lésion cutanée suffit pour diagnostiquer son étiologie au moyen d’un système d’IA. Les images pourraient être capturées dans un cabinet de médecin généraliste et envoyées à un système d’IA spécialisé en dermatologie pour une analyse en temps réel [6]. Les patients à faible risque obtiendraient une certitude immédiate, tandis que les patients présentant un risque élevé de mélanome pourraient être orientés immédiatement vers un dermatologue sans avoir à attendre longtemps, car les spécialistes ne voient que des cas sélectionnés. Ce concept ne se limite pas au domaine de la dermatologie, mais s’applique également à l’interprétation de nombreuses autres données complexes sur les patients, par exemple les scanners rétiniens, les radiographies ou les échographies. Nombre de ces images pourront bientôt être collectées et analysées à l’aide d’appareils relativement peu coûteux et de l’IA. Un bon exemple est une nouvelle génération de petits appareils à ultrasons qui se connectent directement au smartphone et peuvent analyser différents systèmes d’organes via l’IA[18].

D’autres applications sont également pertinentes. Par exemple, de nouvelles approches pour la détection d’interactions médicamenteuses basées sur des algorithmes d’apprentissage profond montrent un potentiel. La polypharmacie est un problème croissant en médecine, avec un risque élevé d’interactions médicamenteuses indésirables. Les systèmes d’IA qui assistent le médecin peuvent jouer un rôle important dans la détection, mais aussi dans la prévention (fig. 1) [15,16].

Cependant, l’un des obstacles à la mise en œuvre sûre et à grande échelle des systèmes d’IA dans les cabinets de médecine générale et dans de nombreux autres domaines de la médecine est la saisie souvent insuffisante des données. Dans le secteur de la santé, le processus est rarement automatisé et dépend souvent des médecins qui n’ont pas le temps de saisir les données. Sans données correctes et à jour, les systèmes d’IA n’ont pas les informations nécessaires pour générer un algorithme fonctionnel pour une prise de décision correcte [19]. De nombreux efforts sont encore nécessaires pour améliorer les données en conséquence.

Boîte noire de la nature et biais systématique de l’IA

Le développement des algorithmes d’apprentissage profonddonne à l’ordinateur la possibilité d’explorer des associations de plus en plus complexes. Les algorithmes d’apprentissage profonds’appuient sur l’idée d’un cerveau “informatisé”. Cependant, les processus neuraux qui se déroulent dans le système ne sont pas toujours compréhensibles pour l’homme (l’IA est une “boîte noire”). Cela rend l’interprétation des résultats plus difficile. Cela peut à son tour conduire à une réduction de la confiance envers le système et donc rendre l’intégration dans la pratique clinique plus difficile [19]. De même, un système d’IA n’est bon que dans la mesure où les données qui lui sont fournies le sont. Si les données sont erronées ou faussées, elles peuvent contenir des biais systématiques. Le risque d’erreur systématique du système d’IA est donc plus important. Par exemple, les patients dont le statut socio-économique est faible peuvent recevoir moins de tests de diagnostic et de médicaments pour les maladies chroniques et avoir un accès limité aux soins de santé. Un système d’IA ne dispose donc que d’un nombre limité d’informations sur cette population de patients et proposera peut-être une intervention nécessaire plus tard que pour les patients qui consultent régulièrement leur médecin[20].

D’un autre côté, les professionnels de la santé ne sont pas à l’abri des biais. La prise de décision clinique dépend souvent en partie d’une série de “règles empiriques” et d’algorithmes. Sheringham et al. [21] ont par exemple montré que les médecins généralistes britanniques n’examinaient pas plus tôt les patients présentant des symptômes à haut risque de cancer que ceux présentant des symptômes à faible risque. De plus, il a été démontré que les patients présentant les mêmes symptômes sont traités ou évalués différemment [21].

Un système d’IA peut potentiellement synthétiser et interpréter objectivement toutes les données disponibles dans le dossier médical électronique, ce qui est impossible pour le médecin en raison de la vaste quantité de données. L’interaction médecin/IA est synergique et offre la possibilité de désamorcer un biais et d’obtenir de meilleurs soins pour les patients.

Open Data – Impact sur l’IA, la confidentialité et la sécurité

L’open data est une tendance à laquelle on accorde de plus en plus d’importance, y compris dans le domaine des soins de santé. L’un des grands avantages de l’open data est que les données issues d’essais cliniques et d’autres sources peuvent être utilisées, réanalysées, partagées et combinées avec d’autres données. L’open data facilite la collaboration scientifique, enrichit la recherche, améliore la capacité d’analyse pour la prise de décision et assure des progrès beaucoup plus rapides en médecine. Par exemple, MIMIC-IV est un ensemble de données qui contient des données de santé non identifiables sur plus de 60 000 patients en soins intensifs au Beth Israel Deaconess Medical Centre de 2008 à 2019 et qui est accessible au public [22].

L’open data donne des ailes à l’IA, qui dépend de très grands ensembles de données sur les patients. Cet aspect conduira inévitablement, au moins au niveau des données, à une convergence des systèmes de santé, afin que le réseau d’hôpitaux rassemble suffisamment de données pour l’IA. Cette “transparence des données” pourrait avoir d’autres effets positifs à long terme, comme un meilleur contrôle des coûts des soins de santé.

La dépendance aux données a aussi son revers de la médaille. Les données médicales contiennent des informations très sensibles qui doivent être protégées pour des raisons de confidentialité et qui, à première vue, constituent une barrière importante à l’open data. Ainsi, l’utilisation de données ouvertes nécessite un équilibre minutieux entre le libre accès et la vie privée des patients. Pour relever ces défis en matière de sécurité et de protection des données, une grande importance doit être accordée aux garanties juridiques (“Data Use Agreements”), aux algorithmes de cryptage avancés et à la pseudo-anonymisation des données personnelles. Les systèmes d’IA en général devraient garantir la protection et la sécurité des données et mettre en place de bonnes normes de gouvernance [23].

Conclusion

L’utilisation de systèmes d’IA dans la pratique médicale pour améliorer l’efficacité des diagnostics et des traitements nécessite l’acceptation et le soutien des médecins. Avant de l’utiliser, il faut s’assurer que l’association IA-médecin apporte un avantage aux soins des patients, notamment en réduisant la charge de travail des médecins et sans créer d’incertitude pour les patients. Ce qu’il faut, c’est donc une recherche sur l’IA qui examine de manière holistique et systématique les conséquences pour la pratique clinique quotidienne.

Messages Take-Home

• L’intelligence artificielle est un domaine en pleine expansion qui aura un impact majeur sur la médecine de demain.
• Une compréhension fondamentale de l’intelligence artificielle est essentielle pour une mise en œuvre correcte dans la pratique clinique.
• Le soutien de l’activité médicale par l’intelligence artificielle conduit à une amélioration potentielle de la qualité et à un allègement du temps.
• L’intelligence artificielle n’est pas infaillible. De nouveaux systèmes prometteurs font l’objet de recherches en cours, mais n’ont pas encore été adoptés par le grand public.
  l’application clinique.

Remerciements
Nous remercions le Dr. med. Lukas Bachmann pour sa relecture constructive de l’article.

Littérature :

1. McCarthy J, Minsky ML, Rochester N, Shannon CE: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955. AI Magazine 1955; 27(4): 12.
2. Shortliffe EH, Buchanan BG: A model of inexact reasoning in medicine. Mathematical Biosciences 1975; 23(3): 351–379.
3. Rosati RA, McNeer JF, Starmer CF, et al.: A new information system for medical practice. Arch Intern Med 1975; 135(8): 1017–1024.
4. Kassirer JP: A report card on computer-assisted diagnosis-the grade: C. N Engl J Med 1994; 330(25): 1824–1825.
5. Langlotz CP, Allen B, Erickson BJ, et al.: A Roadmap for Foundational Research on Artificial Intelligence in Medical Imaging: From the 2018 NIH/RSNA/ACR/The Academy Workshop. Radiology 2019; 291(3): 781–791.
6. Esteva A, Kuprel B, Novoa RA, et al.: Dermatologist-level classification of skin cancer with deep neural networks. Nature 2017; 542(7639): 115–118.
7. Kooi T, Litjens G, van Ginneken B, et al.: Large scale deep learning for computer aided detection of mammographic lesions. Med Image Anal 2017; 35: 303–312.
8. Gulshan V, Peng L, Coram M, et al.: Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs. JAMA 2016; 316(22): 2402–2410.
9. De Fauw J, Ledsam JR, Romera-Paredes B, et al.: Clinically applicable deep learning for diagnosis and referral in retinal disease. Nat Med 2018; 24(9): 1342–1350.
10. van der Laak J, Litjens G, Ciompi F: Deep learning in histopathology: the path to the clinic. Nat Med 2021; 27(5): 775–784.
11. Li Y, Rao S, Solares JRA, et al.: BEHRT: Transformer for Electronic Health Records. Sci Rep 2020; 10(1): 7155.
12. Nooralahzadeh F, Gonzalez NP, Frauenfelder T, et al.: Progressive Transformer-Based Generation of Radiology Reports. arXiv preprint arXiv:210209777; 2021.
13. Summerton N, Cansdale M: Artificial intelligence and diagnosis in general practice. Br J Gen Pract 2019; 69(684): 324–325.
14. Embi PJ, Leonard AC: Evaluating alert fatigue over time to EHR-based clinical trial alerts: findings from a randomized controlled study. J Am Med Inform Assoc 2012; 19(e1): e145–148.
15. Schwarz K, Allam A, Gonzalez NAP, Krauthammer M: AttentionDDI: Siamese Attention-based Deep Learning method for drug-drug interaction predictions. ArXiv. 2020; abs/2012.13248.
16. Moriarty F, Hardy C, Bennett K, et al.: Trends and interaction of polypharmacy and potentially inappropriate prescribing in primary care over 15 years in Ireland: a repeated cross-sectional study. BMJ Open 2015; 5(9): e008656.
17. Rainey C, McConnell J, Hughes C, et al.: Artificial intelligence for diagnosis of fractures on plain radiographs: A scoping review of current literature. Intelligence-Based Medicine 2021; 5: 100033.
18. Buonsenso D, Pata D, Chiaretti A: COVID-19 outbreak: less stethoscope, more ultrasound. Lancet Respir Med 2020; 8(5): e27.
19. Liaw W, Kakadiaris IA: Primary Care Artificial Intelligence: A Branch Hiding in Plain Sight. Ann Fam Med 2020; 18(3): 194-195.
20. Obermeyer Z, Powers B, Vogeli C, Mullainathan S: Dissecting racial bias in an algorithm used to manage the health of populations. Science 2019; 366(6464): 447–453.
21. Sheringham J, Sequeira R, Myles J, et al.: Variations in GPs’ decisions to investigate suspected lung cancer: a factorial experiment using multimedia vignettes. BMJ Qual Saf 2017; 26(6): 449–459.
22. Johnson ABL, Pollard T, Horng S, et al.: MIMIC-IV (version 1.0). PhysioNet0 2021; doi: 10.13026/s6n6-xd98.
23. Kobayashi S, Kane TB, Paton C: The Privacy and Security Implications of Open Data in Healthcare. Yearb Med Inform 2018; 27(1): 41–47.

InFo ONKOLOGIE & HÄMATOLOGIE 2023; 11(6): 12–16