Expertos europeos reclaman una implantación segura y ética de estas herramientas ante riesgos como los sesgos, las brechas de datos y la pérdida de competencias profesionales
Regala esta noticia Añádenos en Google Personal sanitario supervisa un Robot con IA. (Saúl Martínez)C. P. S.
01/10/2026 Actualizado a las 16:50h.El Consejo Asesor Científico de las Academia Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) acaban de publicar un informe conjunto sobre ... el uso de la inteligencia artificial (IA) en la sanidad europea con recomendaciones dirigidas a aprovechar sus beneficios y garantizar, al mismo tiempo, una implantación segura, ética e inclusiva. Este documento pretende contribuir a la aplicación de las iniciativas legislativas europeas en marcha relacionadas con la IA y los datos sanitarios.
En esta misma línea, David Ríos, miembro de la Real Academia de Ciencias de España, que ha participado en la elaboración del informe y ha trabajado especialmente en el apartado dedicado a la seguridad, subraya que «la medicina está cambiando completamente con la llegada de la IA y era necesario analizar qué riesgos plantea y cómo podemos afrontarlos». Según el matemático, el informe recoge recomendaciones para mitigar esos riesgos y, entre otras cuestiones, «evitar que los algoritmos puedan ser injustos con determinados grupos de población».
«El punto más controvertido quizás haya sido encontrar el equilibrio en Europa entre regulación e innovación», asegura el Prof. Martí-Bonmatí, quien también es académico de número de Radiología y Radiodiagnóstico de la Real Academia Nacional de Medicina de España (RANME). «Todos coincidíamos en que la IA sanitaria de alto riesgo necesita una supervisión humana estricta, pero también sabemos que una regulación excesivamente rígida para su desarrollo e implementación frena la utilización de estas herramientas que aportan un valor clínico real», reconoce.
Ríos añade que la seguridad tiene que formar parte del diseño de estos sistemas desde el principio: «No hay que elegir necesariamente los modelos más sencillos o fáciles de implementar, sino aquellos que sean más robustos. En un entorno hostil, un modelo necesita haber sido entrenado para enfrentarse a situaciones adversas y ser capaz de mantener su funcionamiento».
De aquí que los autores del informe hayan apostado por la creación de «entornos controlados de experimentación regulatoria», los llamados «regulatory sandboxes». «Serían entornos controlados y seguros, de tiempo limitado, donde los innovadores pueden probar nuevas herramientas de IA bajo supervisión regulatoria, con garantías para los pacientes, mientras los reguladores aprenden cómo aplicar la normativa existente», explica el Prof. Martí-Bonmatí. Otro punto de fricción, añade, fue «hasta qué punto exigir estándares comunes de interoperabilidad de datos entre países, respetando al mismo tiempo la autonomía de cada Estado miembro sobre su propio sistema de salud».
Los sistemas de IA ya se utilizan en numerosos ámbitos de la asistencia sanitaria y tienen potencial para aportar importantes beneficios, especialmente en la atención clínica y la salud pública. Sin embargo, si no existen normas claras, también pueden generar problemas como filtraciones o usos indebidos de datos, sesgos en los algoritmos o una pérdida del control humano sobre determinadas decisiones.
Ríos advierte de que «estamos viendo aparecer problemas que antes no existían». Por ejemplo, los sistemas de diagnóstico mediante imagen «pueden verse alterados por un virus informático que los infecte. Si un sistema ha sido manipulado, puede dejar de ser eficaz y generar diagnósticos erróneos». Esto abre incluso la puerta, según el académico, a lo que podríamos denominar «terrorismo científico»: ataques dirigidos contra sistemas que pueden tener consecuencias sobre la salud de las personas.
El Prof. Martí-Bonmatí recuerda casos ya vividos: «Sobre uso indebido de datos, un ejemplo europeo sucedió cuando la Agencia de la Unión Europea para la Ciberseguridad (ENISA) analizó, en su panorama de amenazas de 2024, 487 incidentes de ciberseguridad en el sector sanitario europeo, de los que un 45% fueron ataques de ransomware y un 28% brechas de datos. Cuantos más datos de salud se integren en sistemas de IA, mayor es el volumen de exposición ante este tipo de incidentes, con consecuencias que van desde la interrupción de servicios clínicos hasta la exposición de información sensible de pacientes sin su consentimiento. Por eso los entornos seguros y la privacidad de los datos personales está muy presente en todo el informe», sostiene.
A su juicio, en cuanto a la pérdida de control humano, un ejemplo es la disminución de capacidad de los endoscopistas para detectar pólipos de forma independiente tras habituarse a la IA. Al menos así se vio reflejado en un estudio multicéntrico realizado en cuatro centros de endoscopia de Polonia, dentro del ensayo ACCEPT. «Es lo que en el informe llamamos 'pérdida de competencias' o 'deskilling', que sucede cuando el profesional pierde práctica en la tarea que la IA hace por él; si el sistema falla o no está disponible, la seguridad del paciente puede verse comprometida», advierte.
comentarios Reportar un error