Las personas confían demasiado en los consejos médicos generados por IA a pesar de su baja precisión

Resumen

Antecedentes: Este artículo presenta un análisis exhaustivo de cómo las respuestas médicas generadas por inteligencia artificial (IA) son percibidas y evaluadas por personas no expertas.

Métodos: Realizamos un estudio en el que 300 participantes evaluaron respuestas médicas escritas por un médico en una plataforma de atención médica en línea o generadas por un modelo de lenguaje extenso, clasificadas por los médicos como de alta o baja precisión.

Resultados: Los resultados mostraron que los participantes no pudieron distinguir eficazmente entre las respuestas generadas por IA y las de los médicos, y mostraron una preferencia por las respuestas generadas por IA, calificando las de alta precisión como significativamente más válidas, fiables y completas/satisfactorias. Las respuestas de baja precisión generadas por IA tuvieron, en promedio, un rendimiento muy similar al de los médicos. Los participantes no solo consideraron estas respuestas de baja precisión como válidas, fiables y completas/satisfactorias, sino que también indicaron una alta tendencia a seguir consejos médicos potencialmente perjudiciales y a buscar atención médica innecesaria de forma incorrecta como resultado de la respuesta proporcionada. Esta reacción problemática fue comparable, si no más fuerte, a la que mostraron ante las respuestas de los médicos. Tanto expertos como no expertos mostraron sesgo, considerando que las respuestas generadas por IA eran más exhaustivas y precisas que las de los médicos, pero aun así valoraron la participación de un médico en la prestación de su consejo médico.

Conclusiones: La mayor confianza depositada en el consejo médico inexacto o inapropiado generado por IA puede conducir a diagnósticos erróneos y consecuencias perjudiciales para las personas que buscan ayuda. Además, los participantes confiaron más en las respuestas generadas por IA de alta precisión cuando se les dijo que las había dado un médico, y los expertos las calificaron significativamente mejor cuando se desconocía la fuente de la respuesta. En definitiva, los sistemas de IA deberían implementarse en colaboración con los profesionales médicos cuando se utilicen para la prestación de consejo médico, a fin de evitar la desinformación y aprovechar al máximo los beneficios de esta tecnología de vanguardia.

El artículo original:

Shekar S, Pataranutaporn P, Sarabu C, et al. People Overtrust AI-Generated Medical Advice despite Low Accuracy. NEJM AI 2025;2(6). DOI: 10.1056/AIoa2300015

Disponible en: https://n9.cl/j48vbq