Anar al contingut
Tornar al blog Blog

Com es valida clínicament una eina d'intel·ligència artificial?

Que una IA funcioni tècnicament no significa que estigui preparada per utilitzar-se en medicina. La seva validació ha d'anar més enllà de la precisió: ha de demostrar utilitat clínica, seguretat, fiabilitat i una integració adequada en el procés assistencial, mantenint sempre el criteri del professional.

Cada any es publiquen centenars d'algoritmes d'IA amb mètriques excel·lents en estudis retrospectius; molt pocs arriben a validar-se en un entorn clínic real.

Més enllà del seu funcionament tècnic, utilitzar intel·ligència artificial en un àmbit tan sensible com el sanitari requereix tenir en compte altres factors. Les noves tecnologies han d'estar preparades per formar part de processos clínics complexos i oferir garanties suficients de seguretat, fiabilitat i control tant als professionals com als pacients.

Per això, demostrar que una IA funciona no és el mateix que demostrar que està preparada per utilitzar-se en medicina.

Validar una IA és més que comprovar que funciona

Hi ha una diferència entre una eina d'intel·ligència artificial que funciona correctament en unes condicions determinades i una eina que ha estat validada per utilitzar-se en un context clínic concret.

Validar una eina d'IA clínica implica conèixer amb claredat quina és la seva funció: què mesurarà o analitzarà, quines dades utilitzarà, quins resultats s'espera obtenir, amb què es compararan i en quin context s'utilitzarà.

El sector sanitari és molt ampli i aplega funcions molt diverses. No requereix les mateixes garanties una eina destinada a organitzar informació clínica que una altra que participa en la detecció de possibles riscos. Per això, definir des del principi l'objectiu i el context d'ús és clau per determinar si una eina aporta realment valor.

Abans de la seva implementació, la IA ha de complir els marcs reguladors pertinents, com el SaMD (Software as a Medical Device) de la FDA o el marcatge CE, i provar-se en entorns que s'aproximin, en la mesura del possible, a les condicions en què s'utilitzarà. També és important conèixer com la reben els professionals i, quan correspongui, com hi interactuen els pacients.

A tot això s'hi suma la privacitat. Les eines que treballen amb informació sanitària han de prestar una atenció especial a la protecció de les dades i a la seguretat durant tot el seu cicle d'ús.

Precisió no és el mateix que utilitat clínica

La precisió pot ser un dels principals avantatges de la intel·ligència artificial. Tanmateix, en medicina cal diferenciar entre mètriques de rendiment (sensibilitat, especificitat) i mètriques d'impacte clínic real (reducció de reingressos, temps fins al diagnòstic, decisions que realment canvien).

Una IA pot oferir bons resultats en una prova concreta i, tot i així, aportar poc valor si no respon a una necessitat real del professional o si resulta difícil d'integrar en la seva manera de treballar.

Per això, el desenvolupament d'intel·ligència artificial per a l'àmbit mèdic també ha de partir del coneixement del context clínic: saber quins són els problemes a què s'enfronten els professionals, quines tasques es podrien optimitzar i de quina manera la tecnologia els pot ajudar a dedicar més temps a allò que requereix el seu criteri i experiència. En salut mental, això es pot traduir en estructurar la informació que el pacient genera entre consultes per donar continuïtat longitudinal, sense substituir el criteri del professional en la valoració final.

L'entorn sanitari té una sensibilitat especial perquè les decisions i els processos assistencials poden repercutir directament en la vida de les persones. Per això, els professionals necessiten conèixer què fa una eina, quines són les seves limitacions i què passa quan els seus resultats no són correctes.

La qüestió no és únicament si una IA funciona, sinó si el professional la pot utilitzar de manera segura, comprensible i adequada dins del procés assistencial.

Les preguntes que una IA clínica ha de respondre

Els dubtes inicials que pot generar la intel·ligència artificial dins del sector sanitari poden relacionar-se amb algunes qüestions fonamentals. Pel que fa a la població en què s'ha provat, per exemple, hi ha un risc de biaix algorítmic si el model es va validar en una població no representativa de la seva. La relació entre el professional i la IA, centrada en les tasques que exerceix cadascun, és una altra qüestió que cal resoldre. Quant a la supervisió, el Reglament europeu exigeix que estigui vinculada al human-in-the-loop, mantenint el paper del professional.

Respondre a aquests dubtes permet anar més enllà d'una demostració tècnica i valorar si una eina està realment preparada per formar part de la pràctica assistencial.

Les solucions tecnològiques poden ser de gran ajuda per als professionals sanitaris i contribuir a afrontar alguns dels reptes actuals del sector, però no es poden incorporar de qualsevol manera. S'han d'adequar a un context complex, en què els errors poden tenir conseqüències rellevants.

La IA ha de disposar d'un procés de validació adequat a la seva funció, unes condicions d'ús clares i una coordinació eficient amb el professional. L'objectiu no hauria de ser afegir una eina més a la feina diària, sinó proporcionar un suport que faciliti la tasca clínica sense substituir el criteri del professional.

En medicina, funcionar no és suficient

Cal conèixer amb quines dades s'ha validat, en quina població i context s'ha provat, quines són les seves limitacions, com es gestionen els errors i com s'integra en la feina dels professionals.

Els metges s'enfronten a una situació cada vegada més complexa, en què la intel·ligència artificial pot esdevenir una eina de suport de gran utilitat. Però la seva incorporació ha de respondre a necessitats reals, mantenir el rigor clínic i garantir la protecció de la informació dels pacients.

Abans d'incorporar una IA a la pràctica clínica, la pregunta no hauria de ser només "funciona?", sinó també "puc confiar en com, quan i per a què s'utilitza?"

Descobreix què estem construint

Explora com la Bruna, la IA conversacional de Nexi Health, acompanya la salut mental de les persones.

Últims articles

No et perdis res.

Novetats sobre IA en salut mental, producte i troballes clíniques, al teu correu.

En subscriure't acceptes la política de privadesa.