La inteligencia artificial (IA) promete revolucionar la atención sanitaria, pero su impacto real dependerá de cómo se gestionen los datos, se eviten los sesgos y se respeten los principios éticos. Frente al entusiasmo por la innovación surge una prioridad ineludible: garantizar que el uso de la IA sea seguro, justo y responsable.
La capacidad de la IA para transformar sectores es indiscutible. Pero en el ámbito sanitario, que avanza rápidamente hacia la digitalización, va más allá: hablamos de transformar vidas. Y aunque su potencial para impulsar avances médicos, agilizar procesos y reducir costes es elevado, también plantea desafíos que exigen una reflexión cuidadosa.
Un estudio reciente del Journal of the American Medical Association (JAMA), en el que han participado 450 profesionales sanitarios, puso de manifiesto tanto los beneficios como los riesgos de la IA. A estos profesionales se les presentaron casos de pacientes hospitalizados con insuficiencia respiratoria aguda. Por sí solos, los médicos acertaron en sus diagnósticos en un 73% de los casos. Sin embargo, esta cifra aumentó un 4,4% al utilizar un modelo de IA estándar, lo que demuestra que la inteligencia artificial puede mejorar los resultados.
Aparte de explicar cómo funciona un algoritmo, hay que ofrecer contexto y garantías sobre los datos que lo alimentan
Ahora bien, el mismo estudio reveló también algunos puntos débiles. Cuando los profesionales revisaban casos apoyándose en predicciones sesgadas del modelo de IA, su precisión disminuía un 11,3% respecto al punto de partida. Incluso cuando se proporcionaban explicaciones sobre los factores considerados por la IA, el sesgo del modelo acababa afectando negativamente a los diagnósticos.
Este estudio no solo confirma que la IA puede mejorar resultados, sino que también alerta sobre sus riesgos: un modelo mal entrenado o interpretado de forma incorrecta puede inducir a errores que comprometan la atención sanitaria. Por tanto, los desarrolladores, reguladores y profesionales deben alinear la innovación con principios éticos sólidos.
Ética, datos y transparencia
La IA en el ámbito de la sanidad ofrece un amplio abanico de oportunidades, pero debe sustentarse en principios éticos claros para proteger la seguridad y la confianza del paciente.
La IA tiene el potencial de transformar profundamente todo el proceso asistencial, en un movimiento que afectará tanto a organizaciones sanitarias como a aseguradoras y profesionales, además de a los propios pacientes. Pero para que ese cambio sea positivo es imprescindible establecer principios que garanticen un uso seguro, fiable y eficaz de la IA.
Aunque los avances son prometedores, las organizaciones deben tomarse el tiempo necesario para integrar esta tecnología en sus procesos. Si se trazan bien los límites éticos desde el principio, es más fácil evitar sesgos e imprecisiones. Cuanto antes se incorpore la ética al diseño y despliegue de estas soluciones, mayor será su capacidad de generar valor real y sostenido.
La transparencia, la responsabilidad y la comprensibilidad son pilares fundamentales para proteger la seguridad y el bienestar de los pacientes en cualquier solución sanitaria que emplee IA.
No se trata únicamente de explicar cómo funciona un algoritmo, sino de ofrecer contexto, rastreabilidad y garantías sobre los datos que lo alimentan. Las decisiones automatizadas no pueden ser cajas negras en un entorno como el clínico, donde las consecuencias de un fallo no son abstractas, sino muy concretas.
Es importante que la tecnología y su desarrollo aporten claridad sobre los contenidos generados por IA y los datos en los que se basan, y que se señale también cualquier modificación. Esta transparencia ayuda a generar confianza y aporta claridad sobre el uso de la IA en contextos clínicos.
IA responsable
Con este objetivo, InterSystems ha desarrollado su propio marco para impulsar una IA responsable en toda la organización. Se basa en cinco principios que promueven una innovación segura y eficaz:
- Protección de la privacidad y titularidad de los datos. El desarrollo y la implementación de IA deben centrarse en la privacidad y en el respeto a la propiedad de los datos. No se trata solo de cumplir normativas, sino de asumir que los datos sanitarios son sensibles por definición. Su tratamiento debe regirse por principios de necesidad, proporcionalidad y consentimiento. La calidad de una IA no depende solo de disponer de buenos datos, sino de que estos estén bien gestionados desde el punto de vista ético, respeten los derechos de las personas y cumplan con la ley. Estos principios refuerzan la protección y la confianza de todas las partes implicadas.
- Transparencia y responsabilidad. Para integrar la IA en la sanidad es fundamental garantizar transparencia, responsabilidad y capacidad de explicación. Un uso transparente genera confianza y claridad, y asegura la protección de los pacientes. Todos los implicados deben poder entender los resultados generados por IA y el contexto en el que se producen. Además, la responsabilidad sobre las decisiones nunca debe recaer exclusivamente en la máquina: el criterio humano sigue siendo esencial.
- Potenciar el talento humano. La IA debe servir para ampliar las capacidades humanas, no para sustituirlas. Esta perspectiva implica diseñar soluciones que refuercen el juicio clínico sin reemplazarlo.
- De este modo, es necesario definir estrategias claras de formación e implementación que refuercen la creatividad del individuo y su capacidad de tomar de decisiones. Esta visión respalda a los profesionales y ayuda a mitigar impactos negativos en el empleo.
- Evitar sesgos y discriminación. Todos los que trabajamos con IA debemos combatir los sesgos dañinos. Utilizar fuentes de datos diversas y dar prioridad a la equidad son pasos clave para reducir daños. La revisión continua permite identificar y corregir sesgos con el tiempo, mejorando la tecnología. No podemos considerar que un algoritmo esté nunca “cerrado”: ha de estar vivo y en constante evolución. La supervisión y mejora permanentes son parte de la ética algorítmica.
- Responsabilidad en seguridad y protección. En IA, la gobernanza rigurosa es crítica. Las empresas deben validar sus sistemas mediante métodos basados en la evidencia y en la colaboración con otros actores. Así se garantiza la calidad asistencial sin renunciar a los estándares de seguridad.
Es importante establecer protocolos para detectar y gestionar incidentes derivados del uso de IA; se ha de garantizar la trazabilidad de sus decisiones y la reparación de posibles daños.
Delegar no es la solución
A medida que aprovechamos el potencial de la IA para revolucionar la sanidad, no debemos olvidar que estos avances deben servir a pacientes, profesionales y a la sociedad en su conjunto. No se trata de seguir una moda, sino de avanzar con integridad y propósito. La tecnología no puede sustituir al contexto clínico, al conocimiento acumulado ni a la sensibilidad del trato humano. La transformación tecnológica no consiste en delegar decisiones, sino en mejorar la toma de decisiones con mejores datos, mejores modelos y principios sólidos.
Caminemos juntos en este proceso de transformación, con una IA que actúe como asesora, como asistente y como facilitadora de la innovación sanitaria durante muchos años.
