Inteligencia artificial generativa y consideraciones éticas en la atención médica: una revisión exploratoria y una lista de verificación ética

Panel 1 Definiciones de los nueve principios éticos para la inteligencia artificial generativa (GenAI) en un contexto sanitario

Responsabilidad

• Las aclaraciones explícitas de a quién y en qué medida recae la responsabilidad o la responsabilidad legal, o ambas.

• El deber obligatorio y moral de establecer mecanismos regulatorios para prevenir posibles efectos adversos en los pacientes por el uso de GenAI

Autonomía

• La preservación y el fomento de la dignidad, los derechos a la autodeterminación y la capacidad de los pacientes para tomar decisiones informadas.

• Suministro de información comprensible para que los pacientes la utilicen de acuerdo con sus valores.

Equidad

• El uso de GenAI para promover la equidad de acuerdo con alguna noción de justicia (igualdad de oportunidades, resultados, etc.) en la salud o los recursos de salud entre diversos grupos de poblaciones de pacientes, y para prevenir o remediar activamente resultados sistémicos y desfavorables en poblaciones específicas de pacientes.

• El acceso equitativo a la tecnología de IA o GenAI

Integridad (en la educación médica y la calidad de la investigación clínica)

• El compromiso con la honestidad intelectual y la responsabilidad personal de cumplir con una conducta de investigación responsable, incluida la integridad de los datos, para establecer la responsabilidad y prevenir daños.

• El reconocimiento legítimo de las contribuciones y la propiedad del trabajo intelectual cuando se utiliza GenAI en la investigación clínica.

No maleficencia

• La prevención de daños y riesgos potenciales para los pacientes asociados con el uso de GenAI en la atención médica, como resultados incorrectos o engañosos (alucinaciones)

Privacidad

• La protección de la información de los pacientes contra el acceso ilegítimo y la confidencialidad de la información personal sensible

Seguridad

• La protección de la integridad y la seguridad de los datos sanitarios, a través de evaluaciones cuidadosas de las vulnerabilidades de los sistemas de datos y la prevención de violaciones de datos, ciberataques u otras amenazas

Transparencia

• La divulgación completa y la documentación exhaustiva de la información sobre el desarrollo de GenAI, incluido su conjunto de datos y la evaluación del rendimiento.

• La capacidad de acceder y comprender los procesos que subyacen a los resultados de los modelos, especialmente en lo que respecta a los modelos de caja negra, en la medida en que esto sea posible.

Confianza

• La confianza de los usuarios en GenAI y sus desarrolladores, y las expectativas de que el modelo sea competente en la realización de sus tareas preespecificadas y se comporte de manera que sirva a los pacientes y a la comunidad médica.

• Evidencia de rendimiento y sus limitaciones

• La voluntad de aceptar e integrar las herramientas de GenAI para ayudar a la prestación de atención o investigación.

• Procesos de GenAI confiables y exhibición de una variedad de propiedades éticamente confiables, que incluyen solidez de rendimiento, equidad y seguridad, entre otras

Panel 2: Términos éticos asociados a los nueve principios éticos de la inteligencia artificial generativa en un contexto sanitario

Responsabilidad

Gobernanza, responsabilidad, rendición de cuentas, legal y responsabilidad

Autonomía

Respeto, autonomía humana, supervisión humana, decisiones informadas, consentimiento informado y consentimiento válido

Equidad

Justicia, equidad, sesgo, disparidad, discriminación, justicia, equidad, igualdad e inequidad

Integridad (en la educación médica y la calidad de la investigación clínica)

Integridad, plagio, integridad de datos, derechos de autor, propiedad y propiedad intelectual

No maleficencia

Seguro, seguro, daño, dañino, desinformación, veraz, riesgo y benevolencia

Privacidad

Privacidad, privacidad, confidencialidad y confidencialidad

Seguridad

Seguridad y ciberseguridad

Transparencia

Transparente, transparencia, explicable, explicabilidad, explicabilidad, interpretable, interpretabilidad, no interpretabilidad, caja negra, opacidad y caja blanca

Confianza

Confianza, honradez y honradez