--- title: "Cuando la IA dice \"Esperado\": el sesgo de automatización y el SUSAR que pasa desapercibido" description: "Descubre cómo el sesgo de automatización en los flujos de trabajo de los ES y SUSAR asistidos por IA puede llevar a que se pasen por alto las obligaciones de notificación acelerada y a un mayor riesgo de farmacovigilancia." url: https://qbdgroup.com/es/blog/cuando-la-ia-dice-esperado-el-sesgo-de-automatizacion-y-el-susar-que-pasa-desapercibido type: "Artículo del blog" language: es published: 2026-07-08 author: "Anam Ahmad" category: "Pharmacovigilance" publisher: "QbD Group" citation: "QbD Group, \"Cuando la IA dice \"Esperado\": el sesgo de automatización y el SUSAR que pasa desapercibido\", https://qbdgroup.com/es/blog/cuando-la-ia-dice-esperado-el-sesgo-de-automatizacion-y-el-susar-que-pasa-desapercibido" --- # Cuando la IA dice "Esperado": el sesgo de automatización y el SUSAR que pasa desapercibido > Descubre cómo el sesgo de automatización en los flujos de trabajo de los ES y SUSAR asistidos por IA puede llevar a que se pasen por alto las obligaciones de notificación acelerada y a un mayor riesgo de farmacovigilancia. **La inteligencia artificial** se está convirtiendo rápidamente en parte de las operaciones de farmacovigilancia. Desde la recepción y clasificación de casos hasta el procesamiento de los ES y la detección de señales, las herramientas impulsadas por la IA prometen una mayor eficiencia y consistencia en unos flujos de trabajo de seguridad cada vez más complejos. Sin embargo, la eficiencia introduce un tipo diferente de riesgo. El **sesgo de automatización** —la tendencia a confiar excesivamente en los resultados generados por el sistema— puede influir en las decisiones críticas para la seguridad de maneras difíciles de detectar hasta que se incumple una obligación de notificación o se plantea una cuestión reglamentaria. En los flujos de trabajo de los **ES** y los **SUSAR**, las consecuencias no son teóricas. La dependencia excesiva de las clasificaciones automatizadas puede contribuir a: - evaluaciones de gravedad incorrectas - requisitos de notificación acelerada no cumplidos - evaluación médica incompleta - determinaciones de expectedness inexactas El riesgo es mayor precisamente donde la incertidumbre es máxima.

En esta entrada del blog

- qué significa el sesgo de automatización en las operaciones de farmacovigilancia - cómo una clasificación de IA aparentemente razonable puede dar lugar a un SUSAR pasado por alto - por qué la responsabilidad sigue recayendo en el promotor según las normativas del Reino Unido y la UE - medidas prácticas de gobernanza para mantener a los seres humanos significativamente implicados
## Comprensión del sesgo de automatización en farmacovigilancia El sesgo de automatización se produce cuando los revisores depositan una **confianza excesiva en las recomendaciones generadas por el sistema**, especialmente cuando esas recomendaciones se presentan con puntuaciones de confianza, resultados estructurados y un razonamiento aparentemente objetivo. Bajo la presión operativa, una clasificación automatizada puede convertirse rápidamente en la conclusión predeterminada. El revisor acepta la recomendación, el caso avanza, y el juicio médico independiente que el marco regulatorio asume que aplicará un profesional cualificado se desplaza gradualmente. En farmacovigilancia, esto crea un desafío único. El objetivo no es simplemente procesar los casos de manera eficiente. Es **garantizar que las decisiones críticas para la seguridad sigan siendo médica y científicamente defendibles**. ## Un escenario en el que vale la pena detenerse Considera un estudio de fase II en pacientes oncológicos no tratados previamente con una enfermedad inflamatoria rara. El producto en investigación tiene una base de datos de seguridad limitada y un documento de Información de Seguridad de Referencia (RSI) escaso. Llega un caso de un centro de estudio: un paciente experimenta cefalea de aparición repentina y grave, trastornos visuales e hipertensión arterial que requieren hospitalización no planificada. Una herramienta de clasificación asistida por IA, entrenada predominantemente con datos de programas de fase tardía más grandes con perfiles de eventos adversos bien caracterizados, identifica terminología de cefalea ya referenciada en el RSI. El sistema clasifica el evento como: - esperado - no acelerado - vía de notificación estándar La puntuación de confianza parece alta. El especialista en seguridad que revisa el caso acepta la recomendación sin aplicar un juicio clínico independiente. El caso procede a través del flujo de trabajo estándar de 15 días. ## El SUSAR que pasa desapercibido La realidad clínica es muy diferente. La combinación de cefalea aguda, síntomas neurológicos e hipertensión puede indicar un **síndrome de encefalopatía posterior reversible (PRES)**, una afección rara pero potencialmente mortal no caracterizada en el RSI. Según los principios de la **ICH E2A**, el caso puede calificarse como: - inesperado - grave - potencialmente mortal Como resultado, **puede cumplir los criterios para la notificación acelerada de SUSAR en 7 días**. En este punto, el reloj de la notificación reglamentaria ya ha estado funcionando desde que el promotor tuvo conocimiento del evento. Lo que parecía ser una decisión de clasificación eficiente se ha convertido ahora en un riesgo de cumplimiento. ## Por qué esto no es un fallo de la IA Es tentador describir esta situación como un fallo del modelo. En realidad, la tecnología funcionó exactamente como se diseñó. El sistema identificó patrones, comparó la terminología con los datos de entrenamiento disponibles y produjo un resultado estadísticamente plausible. El problema no es que la IA generara una respuesta. El problema es que una respuesta presentada con confianza desplazó el razonamiento clínico en el que se basan los marcos de farmacovigilancia. Esta distinción es importante. Los programas de desarrollo de fase temprana a menudo tienen: - bases de datos de seguridad limitadas - perfiles de riesgo en evolución - contenido restringido del RSI - mayor incertidumbre con respecto a eventos inesperados Estos son precisamente los entornos donde los datos de entrenamiento históricos son menos representativos y donde el juicio médico humano proporciona el mayor valor. ## La responsabilidad no se traslada Uno de los conceptos erróneos más importantes que rodean la adopción de la IA es la suposición de que la automatización de alguna manera transfiere la responsabilidad. No es así. Según las expectativas de farmacovigilancia tanto del Reino Unido como de la UE, **la responsabilidad reglamentaria recae en el promotor**. Los plazos de notificación comienzan en el momento en que el promotor tiene conocimiento. Un SUSAR omitido sigue siendo responsabilidad del promotor independientemente de: - qué sistema de IA generó la clasificación - qué CRO procesó el caso - qué proveedor suministró la tecnología La IA cambia la naturaleza del riesgo de farmacovigilancia. No transfiere la propiedad de ese riesgo. ## Diseño de una gobernanza de seguridad basada en la supervisión humana La solución no es eliminar la clasificación asistida por IA. **La solución es diseñar modelos de gobernanza que garanticen que los seres humanos sigan participando de manera significativa en las decisiones críticas para la seguridad.** Muchas organizaciones están adoptando ahora modelos operativos en los que: - la IA apoya la priorización en lugar de la determinación final - umbrales de escalada predefinidos desencadenan una revisión obligatoria - las puntuaciones de confianza influyen en los requisitos de supervisión - los profesionales médicamente cualificados conservan la autoridad para la toma de decisiones final Este enfoque se alinea estrechamente con las expectativas emergentes de la industria para el despliegue responsable de la IA en entornos regulados. Los mismos principios aparecen en las orientaciones actuales y las recomendaciones de la industria: - definir un uso previsto claro para cada aplicación de IA - mantener la supervisión médica cualificada para las decisiones críticas para la seguridad - evitar la toma de decisiones totalmente autónoma en los flujos de trabajo de farmacovigilancia - capacitar al personal para que reconozca el sesgo de automatización, así como la funcionalidad del sistema Las organizaciones que abordan explícitamente los factores humanos tienden a obtener el mayor valor de la adopción de la IA al tiempo que mantienen la confianza reglamentaria. ## El resultado de la IA más peligroso suele ser el más convincente Las organizaciones que adoptan la IA con más éxito no son las que asumen que la tecnología siempre tendrá razón. Son las que asumen que **ocasionalmente estará errada con seguridad**. El sesgo de automatización surge cuando la confianza reemplaza la curiosidad. La IA proporciona a los profesionales de farmacovigilancia herramientas potentes para mejorar la eficiencia, la consistencia y la escalabilidad. Sin embargo, esas herramientas no reemplazan la necesidad de razonamiento clínico. Por lo tanto, las organizaciones de seguridad más fuertes no son las que eliminan a los humanos del proceso, sino las que **diseñan sistemas donde la tecnología y el juicio experto se refuerzan mutuamente**. --- Source: https://qbdgroup.com/es/blog/cuando-la-ia-dice-esperado-el-sesgo-de-automatizacion-y-el-susar-que-pasa-desapercibido — © QbD Group. Quote freely with attribution and a link back.