Por qué un grupo de expertos de Harvard cree que la inteligencia artificial aplicada a la medicina no es la panacea

La inteligencia artificial (IA) llegó a la vida cotidiana de todos. Y no se trata sólo del famoso sistema Chat GPT, en boca de todos y de acceso abierto, que puede permitir el desarrollo de un objeto artístico o un texto con nula o poca intervención de un ser humano. Uno de los ámbitos más permeados por la IA es la medicina, ya que el potencial para cuidar y mejorar la salud es inmenso. Pero, a la vez, abre desafíos igualmente importantes.

En un editorial publicado el 30 de marzo último, en la prestigiosa revista médica New England Journal of Medicine (NEJM), seis expertos advirtieron que en la actualidad “prácticamente no hay área en la medicina y la prestación de atención que no esté siendo tocada por la IA. Por ejemplo, las aplicaciones impulsadas por IA están disponibles para capturar el dictado de notas médicas; muchas de estas aplicaciones intentan sintetizar entrevistas con pacientes y resultados de pruebas de laboratorio para escribir notas directamente, sin la intervención del médico”.

El artículo —que lleva la firma de Andrew L. Beam, Ph.D.; Dr. Jeffrey M. Drazen; Isaac S. Kohane, MD, Ph.D.; Tze-Yun Leong, doctorado; Arjun K. Manrai, PhD; y Eric J. Rubin, MD, Ph.D.— mencionó también que la “AI está desempeñando un papel cada vez más importante en la cobertura de seguros de salud, ayudando a los cuidadores a presentar reclamos y a los pagadores a adjudicarlos”.

Todos los firmantes, salvo Tze-Yun Leong, pertenecen a distintas dependencias de Harvard; ya sea como parte del Brigham and Women’s Hospital o la Facultad de Medicina de la reconocida universidad norteamericana. La restante es miembro fundador de la Academia Internacional de Informática en Ciencias de la Salud (IAHSI), además de Directora del Laboratorio de Inteligencia Artificial de la Universidad Nacional de Singapur (NUSAIL), entre otros cargos dentro de la disciplina.

Además de los mencionados, otro de los aspectos que está abarcando esta tecnología, según se ha visto en “muchos informes publicados”, es la “IA para interpretar imágenes: radiografías, histología y fondos ópticos. Las herramientas que utilizan IA se han vuelto cada vez más utilizadas para analizar e interpretar grandes bases de datos de investigación que contienen información que va desde hallazgos de laboratorio hasta datos clínicos”, mencionaron.

Uno de los estudios más recientes mostró una alta eficacia en la detección del Alzheimer a partir de resonancias magnéticas. Matthew Leming, investigador del Centro de Biología de Sistemas de MGH e investigador del Centro de Investigación de la Enfermedad de Alzheimer de Massachusetts, junto a sus colegas, utilizó una herramienta que se denomina aprendizaje profundo, un tipo de aprendizaje automático en el que la inteligencia artificial utiliza grandes cantidades de datos y algoritmos complejos para entrenar modelos y obtener conclusiones.

Otra área muy explorada por la inteligencia artificial es la salud mental. La Administración de Salud de Veteranos (VA, por sus siglas en inglés), una división del Departamento de Asuntos de Veteranos de Estados Unidos, lo usa al menos desde 2013. Ese año, un equipo comenzó a trabajar en un programa que analizaría automáticamente los datos de los pacientes de VA, con la esperanza de identificar a los que estaban en riesgo de suicidio.

En las pruebas, el algoritmo que desarrollaron señaló a muchas personas que habían pasado desapercibidas en otras proyecciones, una señal de que estaba “brindando algo novedoso”, dijo John McCarthy, director de datos y vigilancia de la entidad. En 2017, VA anunció una iniciativa llamada Reach Vet, que introdujo el algoritmo en la práctica clínica en todo su sistema. Cada mes, señala alrededor de 6.000 pacientes, algunos por primera vez; los médicos se comunican con ellos y les ofrecen servicios de salud mental, les preguntan acerca de los factores estresantes y les ayudan con el acceso a alimentos y vivienda.

Cuáles son los problemas que plantea la IA aplicada a la medicina

“Todas estas herramientas ofrecen el potencial de una mayor eficiencia y, tal vez, pueden generar conocimientos que son difíciles de obtener con los métodos de análisis de datos más tradicionales. Sin embargo, los nuevos métodos de IA no son necesariamente una panacea; pueden ser frágiles, pueden funcionar solo en un dominio limitado y pueden tener sesgos incorporados que afectan de manera desproporcionada a los grupos marginados”, dijeron los expertos.

Un ejemplo de esto fue detectado en Estados Unidos cuando, para averiguar cuán enfermas estaban las personas un programa de la Universidad de California (Berkeley), se usaron los datos de quienes asisten a las consultas médicas.

Ziad Obermeyer, médico e investigador de aprendizaje automático de esa casa de estudios advirtió rápidamente que el algoritmo subestimó dramáticamente qué tan enfermos estaban los pacientes negros, porque estos tenían un gasto en salud mucho menor que los pacientes blancos, incluso cuando estaban igualmente enfermos. Tal sesgo algorítmico puede ocurrir no solo por raza, sino también por género, edad, ruralidad, ingresos y otros factores, lo que hace que los algoritmos sean menos precisos.

Además, los expertos de NEJM señalaron como otro inconveniente que “la experiencia en el campo de la IA y el aprendizaje automático está estrechamente relacionada con las aplicaciones comerciales. La tecnología subyacente está cambiando rápidamente y, en muchos casos, está siendo producida por empresas e investigadores académicos con intereses financieros en sus productos. Para una clase creciente de modelos de IA a gran escala, las empresas que tienen los recursos necesarios pueden ser las únicas capaces de ampliar la frontera de los sistemas de IA.

Dado que muchos de estos modelos aún no están ampliamente disponibles, la experiencia práctica y una comprensión detallada de las características operativas de un modelo a menudo se encuentran solo en un pequeño puñado de desarrolladores. A pesar del “potencial de incentivos financieros que podrían crear conflictos de intereses, una comprensión profunda de la IA y el aprendizaje automático y sus usos en la medicina requiere la participación de las personas involucradas en su desarrollo”.

La especificidad de la IA aplicada a la medicina que permitirá mejoras en la atención de la salud conlleva “consideraciones éticas, de gobernanza y reglamentarias que son fundamentales en el diseño, la implementación y la integración de cada componente de las aplicaciones y los sistemas de IA. Debido a preocupaciones sobre la utilidad y la seguridad, las nuevas aplicaciones generalmente tendrán que cumplir con los mismos estándares aplicados a otras tecnologías médicas”. Por eso deberá procurarse un rigor en las pruebas “similar al que se usa en otras áreas de la medicina”.

Nueva publicación de NEJM

Ante este creciente volumen de utilidades de la IA y el “enorme interés” por parte de los científicos, que demuestra el número “cada vez mayor de envíos” de investigaciones con ese enfoque, es que New England Journal of Medicine comenzó a publicar una serie de artículos sobre IA en Medicina que ”considerará tanto los roles razonablemente establecidos como los posibles roles crecientes de la IA y las tecnologías de aprendizaje automático en todos los aspectos de la salud y la atención médica”.

“Además, para promover nuestro compromiso con esta área, también anunciamos el lanzamiento en 2024 de una nueva revista, NEJM AI, cuyo objetivo es proporcionar un foro para el intercambio de evidencia y recursos de alta calidad para la IA médica junto con discusiones informadas sobre su potencial y limitaciones”, adelantaron.

De esta forma, la publicación científica hará frente al desafío que implica “la amplitud de las posibles aplicaciones de IA” que, debido a la “variedad de aplicaciones” de ese área, “requiere un grupo diverso de autores, editores y revisores, aunque el grupo de personas con los conocimientos adecuados aún es relativamente pequeño y pueden tener sesgos incorporados que afectan de manera desproporcionada a los grupos marginados”, señalaron.

A pesar del ingrediente comercial que puedan tener algunos de los desarrollos que se traten en los artículos, dijeron, en “Journal y en NEJM AI no restringiremos la autoría y el control editorial a personas sin vínculos económicos relevantes, sino que seguiremos una política de transparencia y divulgación”.

Finalmente, los especialistas dieron “la bienvenida a este tipo de estudios en la revista. Estamos entusiasmados de utilizar nuestros recursos para fomentar el trabajo de alta calidad en IA y difundirlo con los mismos estándares que aplicamos a todo lo que publicamos”.

Seguir leyendo

¿La inteligencia artificial puede ayudar a mejorar la salud mental?

Inteligencia artificial aplicada a la salud mental: la falta de controles puede generar graves consecuencias

Cómo la inteligencia artificial puede ayudar a tener empatía con las personas con problemas de salud mental