Recomendaciones del Colegio Americano de Médicos sobre el papel de la inteligencia artificial en medicina
La expansión de las tecnologías de inteligencia artificial y aprendizaje automático en los sistemas de atención médica significa que los médicos están encontrando nuevas herramientas que antes no conocían o que aún no comprenden completamente. Se debe garantizar el máximo beneficio y el mínimo daño a los pacientes a partir de estas nuevas tecnologías y su uso en consonancia con las responsabilidades éticas de la profesión médica. Annals of Internal Medicine, 4 de junio de 2024.
Recomendaciones/declaraciones de posición
1. El ACP cree firmemente que las tecnologías basadas en IA deben complementar y no suplantar la lógica y la toma de decisiones de los médicos y otros profesionales clínicos.
2. El ACP cree que el desarrollo, las pruebas y el uso de la IA en la atención médica deben estar alineados con los principios de ética médica, sirviendo para mejorar la atención al paciente, la toma de decisiones clínicas, la relación médico-paciente y la equidad y justicia en la atención médica.
3. El ACP reafirma su llamado a la transparencia en el desarrollo, las pruebas y el uso de la IA para la atención al paciente para promover la confianza en la relación médico-paciente. La ACP recomienda que los pacientes, médicos y otros profesionales sanitarios sean conscientes, cuando sea posible, de que es probable que se utilicen herramientas de IA en el tratamiento médico y en la toma de decisiones.
4. El ACP reafirma que los desarrolladores, implementadores e investigadores de IA deben priorizar la privacidad y confidencialidad de los datos de pacientes y médicos recopilados y utilizados para el desarrollo y la implementación del modelo de IA.
5. El ACP recomienda que la seguridad y eficacia clínicas, así como la equidad en salud, deben ser una prioridad máxima para los desarrolladores, implementadores, investigadores y reguladores de la tecnología médica basada en IA y que el uso de la IA en la prestación de atención médica debe ser abordado mediante el uso de un proceso de mejora continua que incluye un mecanismo de retroalimentación. Esto incluye necesariamente pruebas de usuarios finales en diversos contextos clínicos del mundo real, utilizando datos demográficos de pacientes reales e investigaciones revisadas por pares. Se debe prestar especial atención a los riesgos conocidos y en evolución asociados con el uso de la IA en medicina.
6. El ACP reafirma que el uso de la IA y otras tecnologías emergentes en la atención médica debería reducir, en lugar de exacerbar, las disparidades en la salud y la atención médica. Para facilitar este esfuerzo:
a. El ACP exige que los datos de desarrollo de modelos de IA incluyan datos de diversas poblaciones para las cuales se puedan utilizar los modelos resultantes.
b. El ACP pide al Congreso, al HHS y a otras entidades clave que apoyen e inviertan en la investigación y el análisis de datos en sistemas de IA para identificar cualquier efecto dispar o discriminatorio.
c. El ACP recomienda que se produzcan colaboraciones multisectoriales entre el gobierno federal, la industria, las organizaciones sin fines de lucro, el mundo académico y otros que prioricen la investigación y el desarrollo de formas de mitigar los sesgos en cualquier tecnología algorítmica establecida o futura.
7. El ACP recomienda que los desarrolladores de IA sean responsables del desempeño de sus modelos. Debería haber una estrategia federal coordinada de IA, construida sobre un marco de gobernanza unificado. Esta estrategia debe involucrar a entidades reguladoras gubernamentales y no gubernamentales para garantizar:
a. la supervisión del desarrollo, despliegue y uso de herramientas médicas basadas en IA;
b. la aplicación de políticas y orientaciones existentes y futuras relacionadas con la IA; y
c. mecanismos para permitir y garantizar la notificación de eventos adversos resultantes del uso de IA.
8. El ACP recomienda que en todas las etapas de desarrollo y uso, las herramientas de IA deben diseñarse para reducir la carga de los médicos y otros profesionales sanitarios en apoyo de la atención al paciente.
9. El ACP recomienda que se brinde capacitación en todos los niveles de la educación médica para garantizar que los médicos tengan el conocimiento y la comprensión necesarios para ejercer en sistemas de atención médica basados en IA.
10. El ACP recomienda que los impactos ambientales de la IA y su mitigación se estudien y consideren durante todo el ciclo de la IA.
El artículo original:
Nadia Daneshvar, Deepti Pandita, Shari Erickson, et al; ACP Medical Informatics Committee and the Ethics, Professionalism and Human Rights Committee. Artificial Intelligence in the Provision of Health Care: An American College of Physicians Policy Position Paper. Ann Intern Med. [Epub 4 June 2024]. doi:10.7326/M24-0146
Disponible en: https://n9.cl/zuf14