Oportunidades y riesgos de la IA

El término inteligencia artificial se remonta a la década de 1950. Siglo XX y engloba un conjunto de tecnologías que permiten a un ordenador emular las características típicas de la inteligencia humana. Al principio, se depositaron grandes esperanzas en estas tecnologías y se realizaron los primeros intentos de implantarlas en la medicina. Al principio de la En el siglo XXI, la investigación sobre la IA en medicina fue más bien silenciosa debido a los resultados inicialmente aleccionadores. Sin embargo, varios desarrollos importantes allanaron el camino para el avance de la tecnología.

El término inteligencia artificial se remonta a la década de 1950 y engloba un conjunto de tecnologías que permiten a un ordenador emular las características típicas de la inteligencia humana [1]. Al principio, se depositaron grandes esperanzas en estas tecnologías y se realizaron los primeros intentos de implantarlas en la medicina. Algunos ejemplos de los años setenta son los programas para la identificación de bacterias en enfermedades infecciosas [2] o para el pronóstico de enfermedades coronarias [3]. En la década de 1990 se produjo una cierta desilusión: un editorial [4] de la famosa revista New England Journal of Medicine otorgó a los programas de diagnóstico asistido por ordenador disponibles en aquella época una calificación de “C”, que corresponde aproximadamente a un “3” en el sistema de clasificación suizo. Estos programas producían un diagnóstico falso en un 30-50% de los casos, lo que dificultaba su uso y aceptación en la clínica. A principios del siglo XXI, la investigación sobre la inteligencia artificial en medicina era más bien silenciosa debido a los resultados inicialmente aleccionadores. Sin embargo, varios desarrollos importantes allanaron el camino para el avance de la tecnología.

Aprendizaje profundo

Por un lado, se ha producido una expansión constante del uso de historiales médicos electrónicos. Los ordenadores obtuvieron así acceso a grandes conjuntos de datos médicos. La gran cantidad de datos permitió crear y seguir desarrollando una nueva generación de programas de inteligencia artificial. Estos programas se desarrollaron en la década de 2010 y ahora se resumen bajo el término Aprendizaje Profundo . Se trata de algoritmos basados en redes neuronales artificiales que pueden reconocer patrones en grandes cantidades de datos con gran precisión. Sorprendentemente -y con gran importancia para la medicina- estos programas tienen una capacidad extraordinaria para reconocer estructuras en imágenes [5]. En comparación directa con los observadores humanos, se ha demostrado que los ordenadores rinden mucho mejor en el reconocimiento de patrones en imágenes, por debajo de la tasa de error humano del 5% [6]. Un grupo de investigación de la Universidad de Stanford (California) aplicó la tecnología del aprendizaje profundo al campo de la dermatología en 2017. En un trabajo pionero, se demostró que los ordenadores están a la altura de los dermatólogos en la detección de lesiones cutáneas malignas [6]. Desde esta publicación, cada vez más estudios nuevos han informado de resultados similares en diversas disciplinas de diagnóstico (por ejemplo, en patología o radiología [7–10]). Paralelamente al reconocimiento de imágenes -y con una importancia igualmente trascendental para la medicina-, la tecnología de aprendizaje profundotambién ha propiciado avances en el reconocimiento del habla en los últimos años [11]. Esto significa que los ordenadores pueden comprender y analizar cada vez más datos médicos escritos en lenguaje natural (informes de alta, de diagnóstico, etc.) o incluso escribir textos por sí mismos [12]. En resumen, se puede decir lo siguiente: Gracias a las historias clínicas electrónicas, el ordenador tiene un acceso más amplio a los datos médicos que siguen estando predominantemente en forma no estructurada (imágenes o texto). Una tecnología (Deep Learning) puede procesar eficazmente estos datos no estructurados y, de este modo, está capacitada para emular cada vez más las actividades médicas (diagnóstico, decisión terapéutica o redacción de un informe de salida).

Hasta qué punto y en qué plazo influirán estas nuevas tecnologías en la medicina sigue siendo una cuestión abierta. En la próxima sección exploraremos estas cuestiones y prestaremos especial atención a las oportunidades y los riesgos de la inteligencia artificial en la práctica médica diaria (Tab. 1).

Uso de la IA en la práctica clínica diaria: ¿competencia para el médico?

En la actualidad existe un interés creciente por utilizar la inteligencia artificial (IA) para complementar, mejorar o incluso sustituir la inteligencia diagnóstica del médico. Los defensores de la IA esperan que estas tecnologías puedan mejorar la eficacia del diagnóstico, así como su precisión (con menos infradiagnósticos y sobrediagnósticos)[13].

Sin embargo, otros han argumentado que esto creará una carga adicional de información durante una hora de consulta ya sobrecargada. Podría hacer muy poco para mejorar los resultados de los pacientes, los niveles de estrés de los médicos o la posición financiera del sistema sanitario. Estos argumentos se basan a veces en la experiencia con sistemas existentes que apoyan a los médicos en actividades como la detección de interacciones farmacológicas y que a menudo no convencen debido a falsas alarmas o intervenciones no pertinentes[14].

Sin embargo, con una nueva generación de sistemas de IA, cabe esperar que éstos se establezcan en la práctica clínica diaria a más largo plazo. La razón radica principalmente en la capacidad de estos sistemas para estudiar un número ilimitado de casos y perfeccionar así un algoritmo de diagnóstico. Un radiólogo, por ejemplo, tiene acceso durante su formación y también su actividad profesional a un gran número de imágenes radiológicas, aunque luego limitadas, que puede utilizar para perfeccionar sus habilidades de diagnóstico. En cambio, los ordenadores tienen acceso potencialmente a todas las imágenes radiológicas adquiridas en uno o varios hospitales. De este modo, el ordenador puede recurrir a las imágenes radiológicas y los hallazgos de cientos de radiólogos, emulando de forma eficaz, aunque indirecta, sus conocimientos colectivos. Un solo radiólogo tiene así una desventaja frente a un ordenador.

Estas nuevas generaciones de sistemas de IA no tienen por qué funcionar de forma autónoma (sin supervisión médica), pues ya se utilizan en oftalmología para el diagnóstico de la retinopatía diabética [9]. Más bien, la IA servirá de apoyo a las actividades médicas, por ejemplo en los sistemas de IA radiológica que priorizan las imágenes radiológicas pendientes de evaluación en función de la gravedad de fondo o en los sistemas de asistencia basados en IA que alertan al radiólogo de una fractura en la imagen de rayos X y aumentan de forma demostrable la precisión del diagnóstico [17]. Si los especialistas realmente aceptarán y utilizarán esta ayuda de la IA sigue siendo una cuestión abierta en este momento. En cualquier caso, los no especialistas, los médicos de cabecera, los médicos en formación y el resto del personal médico se verán capacitados por la IA para realizar por sí mismos exámenes diagnósticos complejos.

No obstante, cabe señalar aquí que un sistema de IA nunca podrá sustituir por completo al médico, ya que el sistema carece por el momento de empatía y compasión por el paciente. Un médico debe comprender el contexto del paciente y asumir las circunstancias tanto sociales como psicológicas con empatía, cuidado y compasión. Se pueden enseñar conocimientos explícitos sobre el valor predictivo de los síntomas a un sistema de IA, pero que aprenda a ganarse la confianza de una persona es poco probable en este momento.

Mejorar la calidad de la medicina

Sin embargo, aplicados correctamente, los sistemas de IA podrían suponer un aumento de la calidad de la atención médica. Los sistemas de IA no se fatigan y garantizan un rendimiento diagnóstico constante independientemente de la hora del día o del volumen de pacientes. La IA puede supervisar los procesos médicos en segundo plano y tomar medidas correctivas. Siendo optimistas, la IA podría suponer un importante ahorro de tiempo y mejorar así la calidad de la relación médico-paciente. En concreto, los médicos podrían dejar los exámenes rutinarios a la IA y dedicar más tiempo a hablar con los pacientes. Un ejemplo de la práctica del médico de cabecera sería asesorar a un paciente con diabetes mellitus de tipo 2. Los médicos de cabecera dedican mucho tiempo a recopilar información de diversas fuentes, por ejemplo leyendo informes de alta de pacientes ambulatorios u hospitalizados, analizando análisis de sangre de los últimos meses y consultando directrices clínicas. Por el contrario, los sistemas de asistencia de IA pueden preparar automáticamente la información más importante e identificar los riesgos y las medidas en función del perfil de riesgo individual del paciente. Los sistemas de IA también pueden desempeñar un papel importante en la prevención. Estos sistemas podrían sugerir consultas de forma proactiva si determinan que un paciente con diabetes mellitus de tipo 2 presenta un mayor riesgo de desarrollar una complicación diabética concreta y justifica una intervención.

La IA en la práctica diaria

Los sistemas basados en la IA también aportan conocimientos de diagnóstico de apoyo a la atención primaria. Una imagen de una lesión cutánea es suficiente para diagnosticar su etiología mediante un sistema de IA. Las imágenes podrían captarse en una consulta de medicina general y enviarse a un sistema de IA especializado en dermatología para su análisis oportuno [6]. Los pacientes con bajo riesgo recibirían tranquilidad inmediata, mientras que los pacientes con mayor riesgo de melanoma podrían ser remitidos a un dermatólogo inmediatamente y no tendrían que esperar mucho, ya que los especialistas sólo ven casos seleccionados. Este concepto no sólo se limita al campo de la dermatología, sino también a la interpretación de muchos otros datos complejos de los pacientes, por ejemplo las exploraciones de retina, las radiografías o las imágenes de ultrasonidos. Muchas de estas imágenes pronto podrán recogerse y analizarse con equipos relativamente baratos y con IA. Un buen ejemplo es una nueva generación de pequeños aparatos de ultrasonidos que se conectan directamente al teléfono inteligente y pueden analizar una gran variedad de sistemas orgánicos a través de la IA[18].

Otras aplicaciones también son relevantes. Por ejemplo, los nuevos enfoques para la detección de interacciones farmacológicas basados en algoritmos de aprendizaje profundo muestran potencial. La polifarmacia es un problema creciente en medicina que conlleva un alto riesgo de interacciones adversas entre medicamentos. Los sistemas de IA que apoyan al médico pueden desempeñar un papel importante en la detección y también en la prevención (Fig. 1)[15,16].

Sin embargo, un obstáculo para la implantación segura y generalizada de los sistemas de IA en las consultas de los médicos de cabecera y en muchos otros ámbitos de la medicina es la introducción de datos, a menudo inadecuada. En la sanidad, el proceso rara vez está automatizado y a menudo depende de los médicos, que carecen del tiempo necesario para introducir los datos. Sin datos correctos y actualizados, los sistemas de IA no disponen de la información necesaria para generar un algoritmo de trabajo que permita tomar decisiones correctas [19]. Aún es necesario un gran esfuerzo para mejorar la situación de los datos en consecuencia.

La naturaleza de caja negra y el sesgo sistemático de la IA

El desarrollo de algoritmos de aprendizaje profundoproporciona a los ordenadores la capacidad de explorar asociaciones cada vez más complejas. Los algoritmos de aprendizajeprofundo se basan en la idea de un cerebro “informatizado”. Sin embargo, los procesos neuronales que tienen lugar en el sistema no siempre son comprensibles para los humanos (la IA es una “caja negra”). Esto dificulta la interpretación de los resultados. Esto, a su vez, puede conducir a una reducción de la confianza hacia el sistema y dificultar así la integración en la práctica clínica [19]. Además, un sistema de IA sólo es tan bueno como los datos que se le proporcionan; si los datos son defectuosos o están distorsionados, pueden contener sesgos sistemáticos. De este modo, aumenta el riesgo de que se produzca un error sistemático en el sistema de IA. Por ejemplo, los pacientes con un estatus socioeconómico bajo pueden recibir menos pruebas diagnósticas y medicamentos para enfermedades crónicas y tener un acceso limitado a la atención sanitaria. Por tanto, un sistema de IA sólo dispone de una cantidad limitada de información sobre esta población de pacientes y puede sugerir una intervención necesaria más tarde que en el caso de los pacientes que visitan al médico con regularidad[20].

Por otra parte, los profesionales médicos no son inmunes a los prejuicios. La toma de decisiones clínicas suele depender en parte de un conjunto de “reglas empíricas” y algoritmos. Sheringham et al. [21] demostró, por ejemplo, que los médicos de cabecera británicos no tenían más probabilidades de diagnosticar cáncer a los pacientes con síntomas de alto riesgo que a los pacientes con síntomas de bajo riesgo. También se ha demostrado que pacientes con los mismos síntomas son tratados o aclarados de forma diferente [21].

Un sistema de IA puede sintetizar e interpretar potencialmente de forma objetiva todos los datos disponibles en la historia clínica electrónica, lo que resulta imposible para el médico debido a la ingente cantidad de datos. La interacción entre el médico y la IA es sinérgica y encierra la oportunidad de mitigar los prejuicios y lograr una mejor atención al paciente.

Datos abiertos: implicaciones para la IA, la protección de datos y la seguridad

Los datos abiertos son una tendencia cada vez más importante también en la atención sanitaria. Una de las principales ventajas de los datos abiertos es que los datos procedentes de ensayos clínicos y otras fuentes pueden utilizarse, reanalizarse, compartirse y combinarse con otros datos. Los datos abiertos facilitan la colaboración científica, enriquecen la investigación, mejoran la capacidad analítica para tomar decisiones y garantizan un progreso mucho más rápido de la medicina. MIMIC-IV, por ejemplo, es un conjunto de datos que contiene datos sanitarios no identificables de más de 60.000 pacientes de cuidados intensivos del Centro Médico Beth Israel Deaconess entre 2008 y 2019 y está a disposición del público [22].

Los datos abiertos están alimentando la IA, que depende de conjuntos de datos de pacientes muy amplios. Este aspecto conducirá inevitablemente a una convergencia de los sistemas sanitarios, al menos a nivel de datos, de modo que en la red de hospitales se recojan datos suficientes para la IA. Esta “transparencia de los datos” podría tener otros efectos positivos a largo plazo, como un mejor control de los costes en el sistema sanitario.

La dependencia de los datos también tiene sus inconvenientes. Los datos médicos contienen información muy sensible que debe protegerse por motivos de protección de datos y, a primera vista, representan una barrera importante para los Datos Abiertos. Por tanto, el uso de datos abiertos exige un cuidadoso equilibrio entre el libre acceso y la privacidad del paciente. Para hacer frente a estos retos de seguridad y protección de datos, hay que hacer gran hincapié en las salvaguardas legales (“acuerdos de uso de datos”), los algoritmos avanzados de encriptación y la pseudoanonimización de los datos personales. Los sistemas de IA en general deben garantizar la protección y la seguridad de los datos y establecer normas de buena gobernanza [23].

Conclusión

El uso de sistemas de IA en la práctica médica para un diagnóstico y una terapia más eficaces requiere la aceptación y el apoyo de los médicos. Antes de utilizarla, hay que asegurarse de que la combinación IA-médico aporta un beneficio a la atención al paciente, entre otras cosas reduciendo la carga de trabajo de los médicos y sin crear incertidumbre en los pacientes. Por lo tanto, lo que se necesita es una investigación sobre la IA que analice de forma holística y destaque sistemáticamente las consecuencias para la práctica clínica diaria.

Mensajes para llevar a casa

• La inteligencia artificial es un campo en expansión que tendrá un gran impacto en la medicina del mañana.
• Una comprensión básica de la inteligencia artificial es crucial para su correcta aplicación en la práctica clínica.
• El apoyo de la actividad médica por la inteligencia artificial conlleva una mejora potencial de la calidad y una reducción del tiempo.
• La inteligencia artificial no es infalible. Nuevos sistemas prometedores son objeto de investigación en la actualidad, pero aún no han sido ampliamente reconocidos.
  La aplicación clínica sigue presentando dificultades de aplicación.

Agradecimiento
Agradecemos al Dr. Lukas Bachmann su revisión constructiva del artículo.

Literatura:

1. McCarthy J, Minsky ML, Rochester N, Shannon CE: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955. AI Magazine 1955; 27(4): 12.
2. Shortliffe EH, Buchanan BG: A model of inexact reasoning in medicine. Mathematical Biosciences 1975; 23(3): 351–379.
3. Rosati RA, McNeer JF, Starmer CF, et al.: A new information system for medical practice. Arch Intern Med 1975; 135(8): 1017–1024.
4. Kassirer JP: A report card on computer-assisted diagnosis-the grade: C. N Engl J Med 1994; 330(25): 1824–1825.
5. Langlotz CP, Allen B, Erickson BJ, et al.: A Roadmap for Foundational Research on Artificial Intelligence in Medical Imaging: From the 2018 NIH/RSNA/ACR/The Academy Workshop. Radiology 2019; 291(3): 781–791.
6. Esteva A, Kuprel B, Novoa RA, et al.: Dermatologist-level classification of skin cancer with deep neural networks. Nature 2017; 542(7639): 115–118.
7. Kooi T, Litjens G, van Ginneken B, et al.: Large scale deep learning for computer aided detection of mammographic lesions. Med Image Anal 2017; 35: 303–312.
8. Gulshan V, Peng L, Coram M, et al.: Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs. JAMA 2016; 316(22): 2402–2410.
9. De Fauw J, Ledsam JR, Romera-Paredes B, et al.: Clinically applicable deep learning for diagnosis and referral in retinal disease. Nat Med 2018; 24(9): 1342–1350.
10. van der Laak J, Litjens G, Ciompi F: Aprendizaje profundo en histopatología: el camino hacia la clínica. Nat Med 2021; 27(5): 775-784.
11. Li Y, Rao S, Solares JRA, et al: BEHRT: Transformador para historias clínicas electrónicas. Sci Rep 2020; 10(1): 7155.
12. Nooralahzadeh F, Gonzalez NP, Frauenfelder T, et al: Generación progresiva de informes radiológicos basada en transformadores. arXiv preprint arXiv:210209777; 2021.
13. Summerton N, Cansdale M: Artificial intelligence and diagnosis in general practice. Br J Gen Pract 2019; 69(684): 324–325.
14. Embi PJ, Leonard AC: Evaluating alert fatigue over time to EHR-based clinical trial alerts: findings from a randomized controlled study. J Am Med Inform Assoc 2012; 19(e1): e145–148.
15. Schwarz K, Allam A, Gonzalez NAP, Krauthammer M: AttentionDDI: Siamese Attention-based Deep Learning method for drug-drug interaction predictions. ArXiv. 2020; abs/2012.13248.
16. Moriarty F, Hardy C, Bennett K, et al.: Trends and interaction of polypharmacy and potentially inappropriate prescribing in primary care over 15 years in Ireland: a repeated cross-sectional study. BMJ Open 2015; 5(9): e008656.
17. Rainey C, McConnell J, Hughes C, et al.: Artificial intelligence for diagnosis of fractures on plain radiographs: A scoping review of current literature. Intelligence-Based Medicine 2021; 5: 100033.
18. Buonsenso D, Pata D, Chiaretti A: COVID-19 outbreak: less stethoscope, more ultrasound. Lancet Respir Med 2020; 8(5): e27.
19. Liaw W, Kakadiaris IA: Primary Care Artificial Intelligence: A Branch Hiding in Plain Sight. Ann Fam Med 2020; 18(3): 194–195.
20. Obermeyer Z, Powers B, Vogeli C, Mullainathan S: Dissecting racial bias in an algorithm used to manage the health of populations. Science 2019; 366(6464): 447–453.
21. Sheringham J, Sequeira R, Myles J, et al.: Variations in GPs’ decisions to investigate suspected lung cancer: a factorial experiment using multimedia vignettes. BMJ Qual Saf 2017; 26(6): 449–459.
22. Johnson ABL, Pollard T, Horng S, et al.: MIMIC-IV (version 1.0). PhysioNet0 2021; doi: 10.13026/s6n6-xd98.
23. Kobayashi S, Kane TB, Paton C: The Privacy and Security Implications of Open Data in Healthcare. Yearb Med Inform 2018; 27(1): 41–47.

InFo ONKOLOGIE & HÄMATOLOGIE 2023; 11(6): 12–16