La auditoría algorítmica médica
Proponemos que el monitoreo de la seguridad y la auditoría algorítmica médica sean una responsabilidad conjunta entre usuarios y desarrolladores, y fomentamos el uso de mecanismos de retroalimentación entre estos grupos para promover el aprendizaje y mantener el despliegue seguro de los sistemas de inteligencia artificial. Lancet Digit Health, 5 de abril de 2022
Los sistemas de inteligencia artificial para el cuidado de la salud, como cualquier otro dispositivo médico, tienen el potencial de fallar. Sin embargo, las cualidades específicas de los sistemas de inteligencia artificial, como la tendencia a aprender correlatos falsos en los datos de entrenamiento, la escasa generalización a nuevos entornos de implementación y la escasez de mecanismos de explicación confiables, significan que pueden generar errores impredecibles que podrían pasarse por alto sin una investigación proactiva.
Proponemos un marco de auditoría algorítmica médica que guía al auditor a través de un proceso de consideración de posibles errores algorítmicos en el contexto de una tarea clínica, mapeando los componentes que podrían contribuir a la ocurrencia de errores y anticipando sus posibles consecuencias.
Sugerimos varios enfoques para probar errores algorítmicos, incluido el análisis exploratorio de errores, pruebas de subgrupos y pruebas contradictorias, y brindamos ejemplos de nuestro propio trabajo y estudios previos. La auditoría algorítmica médica es una herramienta que se puede utilizar para comprender mejor las debilidades de un sistema de inteligencia artificial y establecer mecanismos para mitigar su impacto. Proponemos que el monitoreo de la seguridad y la auditoría algorítmica médica sean una responsabilidad conjunta entre usuarios y desarrolladores, y fomentamos el uso de mecanismos de retroalimentación entre estos grupos para promover el aprendizaje y mantener el despliegue seguro de los sistemas de inteligencia artificial.
El trabajo original
Xiaoxuan Liu, Ben Glocker, Melissa M. McCradden, et al. The medical algorithmic audit. Lancet Digit Health, 5 de abril de 2022 DOI:10.1016/S2589-7500(22)00003-6