Farmacología
Evaluación de las vulnerabilidades de los modelos de lenguaje grandes ante la conversión maliciosa en chatbots de desinformación sanitaria
25 junio 2025
Se exploró el efecto de brindar instrucciones maliciosas a cinco programas modelos extensos de lenguaje (LLM) a través de sus interfaces de programación de aplicaciones, para crear de forma encubierta chatbots de desinformación sobre salud. Luego se realizaron 10 preguntas de salud a cada LLM y se obtuvo un 100% de respuestas con desinformación en 4 de los sistemas evaluados y un 44% en el restante. Estos hallazgos resaltan la necesidad urgente de contar con sólidas medidas de control de calidad para garantizar la seguridad de la salud pública en una era de tecnologías en rápida evolución. Annals of Internal Medicine, 24 de junio de 2025.
Evaluación de referencia de los modelos de lenguaje grande de DeepSeek en la toma de decisiones clínicas
28 abril 2025
Nuestro estudio demuestra que los modelos de lenguaje amplio (LLM) de código abierto pueden proporcionar una vía escalable para el entrenamiento seguro de modelos, lo que permite aplicaciones médicas reales que cumplen con las normativas de privacidad de datos y atención sanitaria. Nature Medicine, 23 de abril de 2025
Inteligencia artificial: influencia de los grandes modelos lingüísticos en el razonamiento diagnóstico
06 enero 2025
En este ensayo, la disponibilidad de un modelo de lenguaje amplio (LLM) para los médicos como ayuda diagnóstica no mejoró significativamente el razonamiento clínico en comparación con los recursos convencionales. Lo más llamativo es que el LLM por sí solo demostró un rendimiento superior tanto al del médico usando recursos convencionales como al del médico que tuvo acceso al LLM. Esto indica la necesidad de nuevos desarrollos para aprovechar el potencial de la colaboración entre médicos e inteligencia artificial en la práctica clínica. JAMA Network Open, 28 de octubre de 2024.
¿Es adecuada la evaluación de las aplicaciones médicas de inteligencia artificial basadas en modelos extensos de lenguaje?
21 octubre 2024
Los resultados de esta revisión sistemática sugieren que las evaluaciones actuales de los "Large Languages Models" (LLM, que se traduce al español como modelos "extensos", "amplios" o "grandes" de lenguaje) en el ámbito de la atención de la salud son fragmentadas e insuficientes. Las evaluaciones deben utilizar datos reales de pacientes, cuantificar los sesgos, cubrir una gama más amplia de tareas y especialidades y reportar métricas de desempeño estandarizadas para permitir una implementación más amplia. JAMA, 15 de octubre de 2024.
Salvaguardias, transparencia y mitigación de riesgos de los modelos de lenguaje grande contra la generación de desinformación sanitaria
21 marzo 2024