--- title: "El factor humano en el bucle, la rendición de cuentas siempre presente: La gobernanza de la IA en la seguridad de los ensayos clínicos" description: "Descubre cómo los patrocinadores y las CRO pueden gobernar la IA en la gestión de los SAE y SUSAR a través de la supervisión humana, la explicabilidad, la validación y el cumplimiento normativo." url: https://qbdgroup.com/es/blog/el-factor-humano-en-el-bucle-la-rendicion-de-cuentas-siempre-presente-la-gobernanza-de-la-ia-en-la-seguridad-de-los-ensayos-clinicos type: "Artículo del blog" language: es published: 2026-07-08 author: "Anam Ahmad" category: "Pharmacovigilance" publisher: "QbD Group" citation: "QbD Group, \"El factor humano en el bucle, la rendición de cuentas siempre presente: La gobernanza de la IA en la seguridad de los ensayos clínicos\", https://qbdgroup.com/es/blog/el-factor-humano-en-el-bucle-la-rendicion-de-cuentas-siempre-presente-la-gobernanza-de-la-ia-en-la-seguridad-de-los-ensayos-clinicos" --- # El factor humano en el bucle, la rendición de cuentas siempre presente: La gobernanza de la IA en la seguridad de los ensayos clínicos > Descubre cómo los patrocinadores y las CRO pueden gobernar la IA en la gestión de los SAE y SUSAR a través de la supervisión humana, la explicabilidad, la validación y el cumplimiento normativo. La conversación en torno a la inteligencia artificial en la farmacovigilancia ha evolucionado. Para los patrocinadores y las CRO, la pregunta ya no es si la IA puede respaldar las operaciones de seguridad, sino **cómo implementar la IA de manera responsable dentro de los marcos regulatorios existentes, manteniendo el cumplimiento, la supervisión y la rendición de cuentas.** Los reguladores ya están proporcionando directrices. La Agencia Europea de Medicamentos (EMA) ha reconocido el papel potencial de la IA en la gestión de eventos adversos, la detección de señales y otras actividades de farmacovigilancia. Al mismo tiempo, los reguladores siempre enfatizan la transparencia, la gobernanza, la explicabilidad y la supervisión humana. Es importante destacar que los marcos regulatorios que ya se aplican a la seguridad de los ensayos clínicos, incluyendo el Reglamento (UE) No 536/2014, ICH E6(R3), ICH E2A y GDPR, no desaparecen simplemente porque un modelo de IA realice parte del flujo de trabajo. Por lo tanto, el desafío no es la adopción de la IA en sí misma. **El desafío es asegurar que la IA siga siendo gobernada, explicable y responsable dentro de los procesos críticos para la seguridad.**

En esta publicación del blog

- Por qué la supervisión humana sigue siendo esencial en la farmacovigilancia asistida por IA - Cómo se ve en la práctica un modelo de gobernanza con el factor humano en el bucle - Por qué la explicabilidad se está convirtiendo en una expectativa regulatoria - Cómo se aplican la validación y la preparación para la inspección a los flujos de trabajo habilitados para IA - Qué significan los próximos desarrollos en el Reino Unido y la UE para los patrocinadores y las CRO
## Por qué la supervisión humana no es opcional Los marcos actuales del Reino Unido y la UE no permiten a los patrocinadores transferir la responsabilidad de la farmacovigilancia a los sistemas de IA. Según ICH E6(R3), los patrocinadores siguen siendo responsables de: - La supervisión del ensayo - La gobernanza de los datos - La gestión de la calidad - La toma de decisiones relacionadas con la seguridad Esta responsabilidad no cambia, independientemente de la cantidad de automatización que respalde el proceso. **La responsabilidad legal de las decisiones de notificación acelerada sigue recayendo en el patrocinador, no en el proveedor de software, la CRO o el modelo de IA.** La consecuencia práctica es sencilla. La revisión por parte de personal médico cualificado sigue siendo esencial. Los resultados de la IA requieren verificación humana, y la experiencia en farmacovigilancia debe seguir siendo fundamental para las decisiones críticas en materia de seguridad. **La IA debe aumentar el juicio profesional, no reemplazarlo.** ## Cómo se ve en la práctica un modelo de gobernanza con el factor humano en el bucle Muchas organizaciones están convergiendo ahora en un modelo de gobernanza con el factor humano en el bucle. Aunque la frase se utiliza ampliamente, una implementación efectiva requiere controles operativos específicos. En un marco de gobernanza bien diseñado: - La IA apoya la priorización en lugar de la determinación final - Los umbrales de escalada predefinidos activan la revisión obligatoria - La puntuación de confianza influye en los niveles de supervisión - Los profesionales médicos cualificados mantienen la autoridad de decisión final Este enfoque se alinea mucho más con las expectativas regulatorias actuales que los modelos que buscan una evaluación de seguridad totalmente autónoma. Esto es particularmente importante porque las decisiones fundamentales de farmacovigilancia siguen siendo altamente dependientes del juicio clínico. Las evaluaciones de causalidad, las valoraciones de expectativa y las determinaciones de SUSAR a menudo implican: - Historiales médicos complejos - Progresión de enfermedades que imitan reacciones adversas - Terapias combinadas de oncología - Asociaciones temporales incompletas - Conjuntos de datos de seguridad limitados En estas situaciones, la interpretación humana sigue siendo esencial. La determinación totalmente automatizada de SUSAR es, en la mayoría de los entornos actuales, ni operacionalmente fiable ni regulatoriamente defendible. ## Explicabilidad: Ser capaz de mostrar tu trabajo La supervisión humana solo es creíble si se puede demostrar. El documento de reflexión de la EMA sobre la IA en el ciclo de vida del medicamento destaca repetidamente la importancia de la transparencia, la explicabilidad y la gobernanza adecuada. Esto crea un desafío significativo para los modelos de caja negra. Los inspectores pueden preguntar razonablemente: - Por qué se priorizó o despriorizó un caso - Cómo se clasificó la gravedad - Qué factores influyeron en las evaluaciones de expectativa - Cómo se monitoriza el rendimiento del modelo a lo largo del tiempo Las metodologías de IA explicable existen precisamente para que estas preguntas puedan ser respondidas. En términos prácticos, la explicabilidad significa que los revisores pueden entender *por qué* el sistema llegó a una conclusión, no simplemente *a qué* conclusión llegó. Por ejemplo, cuando un caso se clasifica como de baja prioridad, los revisores deben poder ver: - Qué término de evento adverso se codificó - Si el evento aparece en el RSI - Qué evaluación de causalidad se asignó - Qué elementos de datos influyeron en la recomendación Una puntuación de confianza opaca sin un razonamiento de apoyo crea un problema de gobernanza para los revisores y un problema de documentación durante las inspecciones. ## La preparación para la inspección comienza con la documentación Los estándares dedicados a la validación de IA para la farmacovigilancia siguen siendo limitados. Sin embargo, los principios subyacentes ya existen dentro de los marcos GxP establecidos. Las expectativas relevantes se pueden encontrar en: - EudraLex Volumen 4 Anexo 11 - Guía GAMP - Marcos de validación de sistemas computerizados (CSV) - Enfoques de gestión de calidad basados en el riesgo Las organizaciones que implementen IA en los flujos de trabajo de SAE y SUSAR deben mantener evidencia documentada de: - Definiciones de uso previsto - Estrategias de validación - Actividades de cualificación del rendimiento - Controles de gestión de cambios - Procesos de control de versiones - Funcionalidad de la pista de auditoría - Procedimientos de revisión periódica - Actividades de cualificación de proveedores - Planificación de la continuidad del negocio La validación siempre debe ser proporcional al impacto en la seguridad del paciente y al riesgo regulatorio. Una herramienta de redacción narrativa puede requerir una estrategia de validación diferente a la de un sistema que influye en las decisiones de notificación acelerada. ## Las expectativas regulatorias siguen evolucionando El panorama de la gobernanza se está volviendo más complejo. Dos desarrollos merecen una atención especial por parte de los líderes de seguridad. ### Revisión del Anexo 11 del Volumen 4 de EudraLex La próxima revisión extiende los principios de los sistemas computerizados de manera más explícita a las aplicaciones de inteligencia artificial y aprendizaje automático. Esto indica un creciente enfoque regulatorio en la gobernanza y la gestión del ciclo de vida de los sistemas habilitados para IA. ### Implementación de la Ley de IA de la UE La fecha límite de agosto de 2026 para las obligaciones de IA de alto riesgo introduce requisitos adicionales en torno a: - Evaluaciones de conformidad - Documentación técnica - Monitorización continua - Supervisión del ciclo de vida Para los patrocinadores que operan tanto en la UE como en el Reino Unido, la gobernanza se vuelve aún más matizada. La MHRA del Reino Unido ha señalado un enfoque más basado en principios que se basa principalmente en los marcos GxP existentes en lugar de introducir legislación específica sobre IA. Como resultado, una estrategia de validación diseñada únicamente en torno a los requisitos de la Ley de IA de la UE puede no satisfacer automáticamente las expectativas del Reino Unido. Por lo tanto, muchas organizaciones se beneficiarán de mantener anexos de gobernanza específicos de cada jurisdicción dentro de su documentación de calidad de IA. ## La ventaja competitiva proviene de la gobernanza, no de la tecnología Existe una tendencia a ver la adopción de la IA principalmente como un desafío tecnológico. En realidad, el diferenciador más fuerte es la madurez de la gobernanza. La ventaja competitiva no proviene de implementar el modelo más sofisticado. Proviene de construir los sistemas de calidad, las estructuras de supervisión, las prácticas de validación y la cultura organizacional necesarias para usar la IA de manera responsable. Las organizaciones que obtendrán el mayor valor a largo plazo de la IA no están tratando la implementación como un proyecto de adquisición. Lo están tratando como una iniciativa de gestión de la calidad. --- Source: https://qbdgroup.com/es/blog/el-factor-humano-en-el-bucle-la-rendicion-de-cuentas-siempre-presente-la-gobernanza-de-la-ia-en-la-seguridad-de-los-ensayos-clinicos — © QbD Group. Quote freely with attribution and a link back.