Por qué la IA es demasiado genérica para las conversaciones regulatorias en Ciencias de la Vida

Los reguladores se centran en el uso previsto y el impacto

Los organismos reguladores suelen estar menos preocupados por el hecho de que un sistema utilice IA y mucho más centrados en lo que el sistema pretende hacer, el impacto que puede tener y los controles que lo rodean.

El mismo modelo de IA puede considerarse de bajo o alto riesgo dependiendo enteramente del contexto en el que se implemente.

Por ejemplo:

• Un algoritmo utilizado para la clasificación de documentos administrativos conlleva un perfil de riesgo muy diferente al de uno que apoya la toma de decisiones clínicas.
• Un modelo que genera información operativa interna no requiere la misma gobernanza que un modelo que influye en la calidad del producto o la seguridad del paciente.
• Un asistente de IA que apoya los flujos de trabajo de revisión es fundamentalmente diferente de un sistema autónomo que toma decisiones GxP sin supervisión.

Por lo tanto, los reguladores evalúan más que la tecnología en sí. Evalúan el uso previsto, las posibles consecuencias de un fallo, los mecanismos de supervisión, la trazabilidad, la estrategia de validación y los controles de riesgo.

Esta distinción es a menudo donde se origina el miedo organizacional.

Cuando un líder de calidad escucha: "Queremos implementar la IA en la fabricación", la suposición puede cambiar inmediatamente hacia sistemas impredecibles de autoaprendizaje que toman decisiones autónomas. En la práctica, la solución propuesta puede ser simplemente un modelo determinista estático que apoya la revisión de lotes, un escenario de gobernanza y validación completamente diferente.

Sin este nivel de especificidad, los equipos terminan discutiendo sistemas completamente diferentes mientras usan la misma terminología.

El riesgo de la IA evoluciona a lo largo de la cadena de valor farmacéutica

El riesgo de la IA no es estático. Evoluciona a medida que la tecnología avanza a través de la cadena de valor farmacéutica.

En la investigación preclínica, la IA se utiliza principalmente para acelerar el descubrimiento y generar conocimientos científicos. En esta etapa, la principal preocupación suele ser la validez científica y la reproducibilidad, más que el impacto directo en el paciente.

Dentro de los ensayos clínicos, la IA puede influir en la selección de pacientes, la optimización de protocolos o el diseño de ensayos. Aquí, las consideraciones sobre el sesgo, la transparencia, la protección del paciente y las Buenas Prácticas Clínicas (BPC) adquieren una importancia significativamente mayor.

En los entornos de fabricación y calidad, los riesgos aumentan aún más. Cuando los sistemas de IA pueden influir en la calidad del producto, las decisiones de liberación o la seguridad del paciente, las expectativas de las Buenas Prácticas de Fabricación (BPF) exigen un comportamiento predecible, un rendimiento validado y una supervisión continua.

Por lo tanto, la misma capacidad subyacente de IA puede requerir enfoques de gobernanza completamente diferentes según el lugar donde se implemente.

Comprender esta progresión permite a las organizaciones comenzar con aplicaciones de menor riesgo y expandir gradualmente su madurez en IA a medida que aumentan la confianza interna, la capacidad de gobernanza y la experiencia operativa.

Los modelos deterministas estáticos son el punto de partida práctico

Una idea errónea común es que solo los sistemas altamente autónomos o de autoaprendizaje continuo crean valor.

En realidad, los modelos de IA deterministas estáticos ya ofrecen beneficios sustanciales en entornos regulados.

Estos modelos operan con parámetros fijos y un comportamiento bloqueado, lo que los hace significativamente más fáciles de validar, monitorear y controlar dentro de los procesos regulados por las BPF. El comportamiento determinista también garantiza que los resultados sigan siendo predecibles y reproducibles, lo que es esencial cuando la calidad del producto y la seguridad del paciente están involucradas.

Como destacó Evelien Cools de delaware durante nuestro seminario web conjunto, las expectativas regulatorias actuales en entornos GxP favorecen en gran medida los modelos deterministas estáticos. La guía del Anexo 22 es particularmente clara en este punto.

La supervisión humana ("human-in-the-loop") también sigue siendo un principio crítico, no solo desde una perspectiva regulatoria sino también organizacional. Mantener la revisión y la rendición de cuentas humanas apoya la gestión del cambio, la adopción por parte del usuario y la confianza en los resultados del sistema.

Esto refleja lo que ya está bien establecido en el sector de los dispositivos médicos, donde los modelos estáticos siguen siendo el enfoque dominante para muchas aplicaciones de alto riesgo.

En lugar de esperar a los sistemas de IA completamente autónomos, las organizaciones ya pueden lograr ganancias significativas en eficiencia, precisión y consistencia operativa utilizando modelos deterministas controlados hoy mismo.

Construyendo la madurez de la IA paso a paso

La adopción exitosa de la IA en ciencias de la vida rara vez se trata de dar un gran salto hacia la autonomía.

Las organizaciones que están logrando mayores avances suelen ser las que abordan la madurez de la IA de forma incremental:

• Comenzando con casos de uso de menor riesgo
• Integrando la gobernanza desde el principio
• Definiendo claramente el uso previsto
• Estableciendo marcos de validación y monitoreo de antemano
• Expandiendo las capacidades gradualmente a medida que aumenta la confianza y la experiencia

Tratar la IA como un espectro de tecnologías en lugar de una categoría única permite conversaciones mucho más productivas entre las partes interesadas en calidad, regulación, digital y operaciones.

Y, en última instancia, esa claridad es lo que permite que las iniciativas de IA vayan más allá de la prueba de concepto y lleguen a entornos de producción conformes.

¿Buscas evaluar tus casos de uso de IA?

Jonathan Boel, Evelien Cools y Pieter Smits exploraron recientemente este tema durante un seminario web sobre la adopción de IA conforme en ciencias de la vida.

Mira la sesión bajo demanda para aprender cómo el uso previsto, la clasificación de riesgos, la gobernanza y los marcos de validación influyen en la preparación de la IA en entornos regulados.

¿Buscas evaluar tus propias iniciativas de IA según el marco regulatorio adecuado? Ponte en contacto con el equipo de QbD Group para discutir tu hoja de ruta hacia la adopción conforme de la IA.