Investigadores del Instituto ITACA de la Universitat Politécnica de Valencia (UPV) han desarrollado un nuevo paradigma de inteligencia artificial (IA) en salud, diseñado para ser resiliente ante cambios y situaciones no controladas en el mundo real.

Este enfoque innovador, publicado en el prestigioso Journal of Medical Internet Research, busca mejorar la adaptabilidad y la confianza de la IA en contextos clínicos, incluso en circunstancias inesperadas como pandemias.

Carlos Sáez, investigador del Instituto ITACA y profesor del Departamento de Física Aplicada de la UPV, destaca que esta nueva generación de IA "resiliente" se caracteriza por su capacidad de adaptación y su confiabilidad frente a situaciones de incertidumbre, cambios o sesgos en la información. "Estas son situaciones comunes en los contextos de uso real de la IA en salud, mucho más allá de los entornos controlados de laboratorio donde generalmente se diseñan estos sistemas. Esto plantea desafíos significativos para el desarrollo de la IA sanitaria, su uso clínico rutinario y sus marcos regulatorios", señala Sáez.

El equipo de BDSLab del ITACA-UPV ha estructurado su propuesta en torno a las cuatro fases clave del ciclo de vida de la IA: el entrenamiento, donde la IA aprende de los datos; la predicción, cuando la IA se aplica a nuevos casos que no ha observado previamente; el entorno de producción, que implica el mantenimiento de la IA una vez que se utiliza de manera rutinaria; y la regulación, que abarca las leyes y normativas que garantizan la seguridad y confiabilidad de la IA.

"Este enfoque innovador permite que la IA se adapte de forma resiliente a cambios en su contexto de uso, ya sean de naturaleza técnica, como modificaciones en los sistemas de información, o cambios en el contexto socio-sanitario, como los que ocurren en situaciones inesperadas, por ejemplo, durante pandemias. Un aspecto crucial de este modelo es el aseguramiento de la confianza de los usuarios en la IA y la protección de los derechos fundamentales de las personas", añade Sáez.

El impacto de esta IA resiliente sería significativo, mejorando la confianza y seguridad de los sistemas de IA en salud y beneficiando la toma de decisiones clínicas basadas en datos, que afectan a millones de personas en Europa. "Los modelos de IA se mantendrían actualizados, evitando la obsolescencia, y se adaptarían rápidamente a los cambios, reduciendo costes y riesgos. Además, se optimizaría la interacción entre humanos y la IA gracias a técnicas de IA robusta y ética", subraya el investigador.

Un ejemplo práctico de esta IA sería su aplicación en centros de atención de emergencias sanitarias, donde podría optimizar en tiempo real la priorización de incidentes. "En situaciones de alta incertidumbre, el sistema sugeriría al operador que solicite información adicional crucial para mejorar la confiabilidad de la respuesta. Por ejemplo, si se recibe una llamada sobre una joven con dificultad respiratoria sin antecedentes de enfermedades respiratorias crónicas, la IA podría proponer preguntar sobre el uso de medicamentos o ataques de ansiedad recientes para clasificar el caso de manera más precisa", explica Sáez.

Este trabajo se enmarca en el proyecto "Modelling the Kinematics of Information towards Change-Resilient Medical Artificial Intelligence (Kinemai)", financiado por la Agencia Estatal de Investigación. Parte de los resultados de este estudio también se abordarán en la asignatura "Data Quality and Trustworthy Artificial Intelligence" del nuevo Máster en Ingeniería Biomédica de la UPV.

Suscríbete a las newsletters de Informativos Telecinco y te contamos las noticias en tu mail.

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.