¿Cómo se valida clínicamente una herramienta de inteligencia artificial?

Cada año se publican cientos de algoritmos de IA con métricas excelentes en estudios retrospectivos; muy pocos llegan a validarse en un entorno clínico real.

Más allá de su funcionamiento técnico, utilizar inteligencia artificial en un ámbito tan sensible como el sanitario requiere tener en cuenta otros factores. Las nuevas tecnologías deben estar preparadas para formar parte de procesos clínicos complejos y ofrecer garantías suficientes de seguridad, fiabilidad y control tanto a los profesionales como a los pacientes.

Por eso, demostrar que una IA funciona no es lo mismo que demostrar que está preparada para utilizarse en medicina.

Validar una IA es más que comprobar que funciona

Existe una diferencia entre una herramienta de inteligencia artificial que funciona correctamente en unas condiciones determinadas y una herramienta que ha sido validada para utilizarse en un contexto clínico concreto.

Validar una herramienta de IA clínica implica conocer con claridad cuál es su función: qué va a medir o analizar, qué datos utilizará, qué resultados se esperan obtener, frente a qué se compararán y en qué contexto se utilizará.

El sector sanitario es muy amplio y reúne funciones muy diversas. No requiere las mismas garantías una herramienta destinada a organizar información clínica que otra que participa en la detección de posibles riesgos. Por eso, definir desde el principio el objetivo y el contexto de uso es clave para determinar si una herramienta aporta realmente valor.

Antes de su implementación, la IA debe cumplir con los marcos regulatorios pertinentes, como el SaMD (Software as a Medical Device) de la FDA o el marcado CE, y probarse en entornos que se aproximen, en la medida de lo posible, a las condiciones en las que será utilizada. También es importante conocer cómo la reciben los profesionales y, cuando corresponda, cómo interactúan con ella los pacientes.

A todo ello se suma la privacidad. Las herramientas que trabajan con información sanitaria deben prestar especial atención a la protección de los datos y a la seguridad durante todo su ciclo de uso.

Precisión no es lo mismo que utilidad clínica

La precisión puede ser una de las principales ventajas de la inteligencia artificial. Sin embargo, en medicina es necesario diferenciar entre métricas de rendimiento (sensibilidad, especificidad) y métricas de impacto clínico real (reducción de reingresos, tiempo hasta diagnóstico, decisiones que realmente cambian).

Una IA puede ofrecer buenos resultados en una prueba concreta y, aun así, aportar poco valor si no responde a una necesidad real del profesional o si resulta difícil de integrar en su forma de trabajar.

Por ello, el desarrollo de inteligencia artificial para el ámbito médico debe partir también del conocimiento del contexto clínico: saber cuáles son los problemas a los que se enfrentan los profesionales, qué tareas podrían optimizarse y de qué manera la tecnología puede ayudarles a dedicar más tiempo a aquello que requiere su criterio y experiencia. En salud mental, esto puede traducirse en estructurar la información que el paciente genera entre consultas para dar continuidad longitudinal, sin sustituir el criterio del profesional en la valoración final.

El entorno sanitario tiene una sensibilidad especial porque las decisiones y procesos asistenciales pueden repercutir directamente en la vida de las personas. Por eso, los profesionales necesitan conocer qué hace una herramienta, cuáles son sus limitaciones y qué ocurre cuando sus resultados no son correctos.

La cuestión no es únicamente si una IA funciona, sino si el profesional puede utilizarla de forma segura, comprensible y adecuada dentro del proceso asistencial.

Las preguntas que una IA clínica debe responder

Las dudas iniciales que puede generar la inteligencia artificial dentro del sector sanitario pueden relacionarse con algunas cuestiones fundamentales. Respecto a la población en la que se ha probado, por ejemplo, existe un riesgo de sesgo algorítmico si el modelo se validó en una población no representativa de la suya. La relación entre el profesional y la IA, centrada en las tareas que desempeña cada uno, es otra cuestión a resolver. En cuanto a la supervisión, el Reglamento Europeo exige que esté vinculada al human-in-the-loop, manteniendo el papel del profesional.

Responder a estas dudas permite ir más allá de una demostración técnica y valorar si una herramienta está realmente preparada para formar parte de la práctica asistencial.

Las soluciones tecnológicas pueden ser de gran ayuda para los profesionales sanitarios y contribuir a afrontar algunos de los retos actuales del sector, pero no pueden incorporarse de cualquier manera. Deben adecuarse a un contexto complejo, en el que los errores pueden tener consecuencias relevantes.

La IA debe contar con un proceso de validación adecuado a su función, unas condiciones de uso claras y una coordinación eficiente con el profesional. El objetivo no debería ser añadir una herramienta más al trabajo diario, sino proporcionar un apoyo que facilite la labor clínica sin sustituir el criterio del profesional.

En medicina, funcionar no es suficiente

Es necesario conocer con qué datos se ha validado, en qué población y contexto se ha probado, cuáles son sus limitaciones, cómo se gestionan los errores y cómo se integra en el trabajo de los profesionales.

Los médicos se enfrentan a una situación cada vez más compleja, en la que la inteligencia artificial puede convertirse en una herramienta de apoyo de gran utilidad. Pero su incorporación debe responder a necesidades reales, mantener el rigor clínico y garantizar la protección de la información de los pacientes.

Antes de incorporar una IA a la práctica clínica, la pregunta no debería ser solo "¿funciona?", sino también "¿puedo confiar en cómo, cuándo y para qué se utiliza?"