«La prioridad debe ser implementar los sistemas de inteligencia artificial de forma controlable y explicable»
¿Qué es el Centro de Excelencia (CoE) de Data Intelligence de Fujitsu?
Es un centro internacional con alcance global. La sede principal se ubica en Madrid, aunque dependemos directamente de la central de Fujitsu en Japón. El CoE se formó en 2018 con el objetivo de ayudar a las empresas a definir su estrategia en analítica de datos e inteligencia artificial. Hay que tener en cuenta que, aunque se hable mucho de la IA, la base de todo son los datos: cómo se gestionan y estructuran, y, fundamentalmente, qué valor se puede extraer de ellos para tomar mejores decisiones.
Este CoE se creó para dar soporte global a Fujitsu en sus diferentes unidades y regiones. Trabajamos principalmente en dos líneas: la primera, desarrollar activos y soluciones —especialmente en el procesamiento del lenguaje natural, del audio o de la visión— para aplicarlas en ámbitos como la genómica o el análisis de datos clínico-biosanitarios, así como en industria, energía o finanzas. La segunda línea se centra en ofrecer servicios profesionales en este contexto, tanto a empresas de todos los sectores como a la Administración Pública.
¿Cómo estáis integrando la inteligencia artificial en vuestra estrategia?
El objetivo es que todas las soluciones y servicios de IA que desarrollemos funcionen de manera controlable y explicable. Este foco en el control responde a varias exigencias: por un lado, la del cliente, que lo necesita para la aplicación práctica de estas herramientas; por otro, las que imponen las normas, como la Ley de Inteligencia Artificial de la UE.
Otro aspecto clave es el que tiene que ver con la capacidad para entender por qué los sistemas de IA devuelven lo que devuelven y conseguir que sean controlables por el usuario. Buscamos evitar los sistemas de “caja negra” donde no se sabe qué ocurre internamente, y también garantizar la ética para evitar sesgos y discriminación.
Además, para nosotros es crucial que la tecnología sea sostenible a largo plazo. Muchos proyectos fracasan no por un mal funcionamiento, sino porque su coste es elevadísimo y sin retorno de la inversión; o, simplemente, porque las expectativas estaban sobredimensionadas.
¿En qué sectores se está generando un retorno real?
A nivel global, las tendencias son bastante similares en todas las regiones. Las diferencias surgen en aspectos como el procesamiento del lenguaje, especialmente cuando se trabaja con idiomas que utilizan símbolos o caracteres distintos a los occidentales, como el chino o el japonés.
Además, existen escenarios diferentes, como es el caso específico de Fujitsu en España, donde tenemos una fuerte presencia en el sector público. Esto conlleva la necesidad de trabajar en entornos más restrictivos desde el punto de vista de la infraestructura, con un uso muy limitado de modelos cloud. No es ni mejor ni peor, sino simplemente un escenario distinto para el despliegue de estas soluciones.
La base de todo son los datos, cómo se gestionan, se estructuran y qué valor se puede extraer de ellos
En cuanto a los sectores de mayor impacto a nivel global, destacaría el sanitario. Hay una enorme demanda para procesar la ingente cantidad de información que se maneja (historias clínicas, informes, etc.) con el fin de que los facultativos dediquen más tiempo a los pacientes y menos a la documentación. En este mercado, nosotros contamos con un amplio equipo de bioinformáticos y expertos en genómica, así como con una solución para el análisis genómico que se implanta en hospitales y centros sanitarios. Al final, se trata de analizar datos.
Otro ámbito importante es la gestión del conocimiento: acceso a bases de datos, estrategia del dato y data lakes, especialmente en sectores como industria, energía, finanzas (banca y seguros) y Administración Pública.
¿Cómo se está adoptando la inteligencia artificial generativa?
Llevo trabajando en inteligencia artificial más de diez años, y el escenario ha cambiado mucho. Antes teníamos que explicar la IA y convencer de su potencial, pero la difusión de ChatGPT, a finales de 2022, introdujo un cambio importante: la demanda procede ahora de los propios empleados, que utilizan estas herramientas en tareas cotidianas tales como escribir un correo, crear o traducir un documento, etc.
Las empresas son conscientes de esta elevada demanda interna, sin embargo, la implementación de estas herramientas debe ser lógica y ordenada. Hay que tener en cuenta que más del 90% de las pruebas de concepto (PoC) de IA fracasan, en gran medida a causa de unas expectativas absolutamente sobredimensionadas. De hecho, hace dos años la curva de expectativas de Gartner situó a la IA generativa en el pico de la sobreexpectación y actualmente se acerca al denominado valle de la desilusión porque no siempre cumple con lo esperado.
Lo cierto que es que hemos asistido a una evolución vertiginosa. Finales de 2023 fue el momento de los grandes modelos de lenguaje, donde todo el mundo pudo ver el potencial de la IA, que es enorme. En 2024 se empezó a aplicar a contextos de negocio, y es cuando surgen arquitecturas como RAG (Retrieval Augmented Generation), que, esencialmente, son un ChatGPT con datos propios. El siguiente paso, en 2025, fue aplicar estas tecnologías a tareas muy concretas; este ha sido el año de los agentes de inteligencia artificial: soluciones personalizadas para tareas delimitadas dentro de un dominio o vertical específico.
Todo indica que en 2026 entramos en una etapa de mayor madurez, donde la prioridad es hacer las cosas bien: implementar los sistemas de forma controlable y explicable, y asegurar su proyección más allá de las PoC.
¿Qué retos plantea llevar estos proyectos a producción?
Hay tres aspectos relevantes. Por un lado, la gestión de expectativas. Es fundamental ser realistas sobre lo que la tecnología puede lograr con los recursos humanos y materiales disponibles. La IA no puede hacer lo que una persona no puede hacer, ni lo que —aun pudiendo hacer— no podemos explicarle a la máquina. Por eso ChatGPT no es bueno prediciendo el número de la lotería. Hay que llevar esta misma lógica al negocio.
Gran parte del fracaso en las PoC de IA se debe a unas expectativas absolutamente sobredimensionadas
Otro aspecto importante se relaciona con la infraestructura. Los grandes modelos de lenguaje necesitan de las GPU, un hardware escaso, muy demandado y, por tanto, caro. Las empresas, y también la Administración Pública, están cada vez más preparadas y son conscientes de que deben contar con este hardware específico, ya sea en on-premise o en alguna de las modalidades cloud.
De hecho, uno de nuestros objetivos en Fujitsu es garantizar que estas herramientas se puedan desplegar en cualquier entorno. Por ejemplo, el sector de la defensa, que requiere soluciones alojadas en sistemas sin acceso a internet, también debe poder contar con lo último en estas tecnologías. Lo que sí es importante es que la inversión en el apartado de infraestructura sea realista y esté justificada por un caso de uso relevante y un retorno de la inversión claro.
El tercer gran reto, y quizá el más importante, está relacionado con la calidad del dato. La base de la IA son los datos. Si en origen no están ordenados ni disponibles o no son representativos, aplica el principio conocido como GIGO (por sus siglas en inglés, garbage in, garbage out), es decir, basura que entra, basura que sale. Por muy bueno que sea el modelo de IA, si la base de datos no es sólida, los resultados tampoco lo serán.
¿Cómo se transforman esos conjuntos de datos dispersos en un activo estratégico?
Lo primero es ayudar a la empresa —o Administración Pública— a definir su estrategia del dato, lo que implica establecer una guía o un marco de trabajo metodológico adecuado. Posteriormente, asistimos en el aprovisionamiento de la infraestructura necesaria para alojarlos y garantizar las conexiones seguras entre las diferentes fuentes de datos.
ChatGPT no es bueno prediciendo el número de la lotería. Hay que llevar esta misma lógica al negocio
Un punto fundamental es el modelado de los datos y de las diferentes fuentes de información: cómo se representan, la estructura que tendrán a nivel taxonómico y las relaciones entre las variables. Finalmente, es crucial garantizar la seguridad, definiendo un modelo de usuarios y roles que garantice quién tiene acceso a qué y con qué permisos. Y también cuáles son sus responsabilidades.
Se trata de un pilar fundamental, aunque muchas veces no se le presta la debida atención. De hecho, es habitual poner el foco en la estrategia de IA y descuidar la estrategia del dato. Esto causa problemas de seguridad, de accesos y permisos inadecuados… Si se cuenta con una estrategia del dato bien definida, el resto del camino es solo una receta de buenas prácticas que hay que seguir.
¿Qué rol desempeña el gobierno de la inteligencia artificial para garantizar la ética, la trazabilidad y la credibilidad?
El gobierno de la IA hereda prácticas del ámbito de la operación del machine learning (MLOps) y busca asegurar que todo se desarrolle de manera controlable. Aplica metodologías de desarrollo de software (como el versionado, la organización de equipos de trabajo y las pruebas unitarias) al desarrollo de la IA.
Es esencial poder explicar por qué un modelo funciona bien para una tarea concreta, basándose en su evaluación con un benchmark o un conjunto de datos de referencia que sea representativo. Esta estandarización es vital en grandes corporaciones con múltiples departamentos que trabajan con analítica. Si cada unidad o equipo desarrolla la IA a su manera, los resultados no encajan.
La estrategia en la IA es clave para que, metodológicamente, las iniciativas (ya sean PoC o proyectos en producción) estén estandarizadas. Solo así es posible que la persona del equipo A obtenga resultados unificados con la persona del equipo B, aunque esté en otro país.
¿Existe realmente la inteligencia artificial explicable?
Efectivamente, este tema es fundamental. En inteligencia artificial hay dos conceptos clave: explicabilidad e interpretabilidad. Básicamente, definen qué ocurre y por qué —cómo se comporta el sistema— cuando se le transfiere una entrada a un sistema de inteligencia artificial: un texto o una pregunta.
Por ejemplo, cuando usamos ChatGPT vemos que, haciendo cambios en el prompt el sistema modifica la respuesta que recibimos. De alguna forma —a alto nivel—podemos explicar lo que hace, pero es difícil interpretar por qué lo hace. Ahí es donde entra la posibilidad de analizar qué se necesita “tocar” dentro del modelo, dentro de esta caja negra, para que cambie su comportamiento.
Un ejemplo que me gusta poner es el del coche. Podemos explicar que, al pisar el pedal del acelerador, el coche aumenta la velocidad, pero para interpretar qué es lo que ocurre en el proceso, o introducir ajustes, se necesitan conocimientos de mecánica. De igual forma, en la IA debemos garantizar que los sistemas sean tanto explicables como interpretables.
Si se cuenta con una estrategia del dato bien definida, el resto es solo una receta de buenas prácticas que se han de seguir
Dependiendo del modelo y de la tarea, hay muchas técnicas para ello. Una forma sencilla de explicabilidad es mostrar al usuario la traza y el origen de los datos que componen una respuesta, tales como las páginas web o los documentos en los que se ha basado.
Además, las empresas han interiorizado ya la importancia de la explicabilidad en los proyectos de IA. Hemos pasado de una fase previa, de adopción masiva, a una etapa en la que se entienden mejor los riesgos y las limitaciones de estas tecnologías. Ahora se demanda activamente que los sistemas sean explicables; es una base imprescindible para garantizar su escalabilidad y evolución.
De hecho, la explicabilidad es esencial no solo por cumplimiento normativo. En cualquier otro contexto (un avión, un coche, un dispositivo médico…) sería impensable usar una tecnología sin que se entienda bien su funcionamiento. ¿Por qué tendría que ser diferente con la IA? No deja de ser una herramienta más.
En este sentido, háblanos de Fujitsu AIDP
Fujitsu desarrolló AIDP (Artificial Intelligent Document Processing) hace más de cinco años con el fin de aportar valor —de manera ágil— en la gestión del conocimiento, garantizando precisamente que la explotación de los datos se haga de manera explicable.
Sería impensable usar un avión sin que se entienda su funcionamiento. ¿Por qué tendría que ser diferente con la IA?
AIDP es una solución para desarrollar sistemas de IA aplicados al procesamiento de lenguaje natural, imágenes, vídeo y audio. Una de sus características más interesantes es que puede desplegarse en infraestructuras locales, aisladas de internet, lo que evita depender de sistemas que vivan en la nube o externos a la corporación.
Por otra parte, el cliente puede configurar y controlar todas las etapas del proceso, lo que ayuda a personalizar la solución para que se adapte a todo tipo de contextos, y, lógicamente, incorpora una serie de capas de seguridad y compliance que aseguran la explicabilidad de los resultados.
Hemos implantado la solución AIDP en diversos contextos, tales como la Administración Pública, industria, defensa, salud, sector financiero y justicia.
Por ejemplo, hemos desarrollado una herramienta que asiste a los centros sanitarios a nivel internacional en la codificación y estandarización de la documentación clínica (CIE-10). Esta tarea, que habitualmente se hace de forma manual, satura de trabajo los centros sanitarios. La solución que hemos implantado automatiza la asociación de códigos estandarizados a diagnósticos complejos, lo que permite a los hospitales descongestionar estos procesos y, por fin, ponerse al día con la información que han acumulado durante años.
Otro ejemplo es la aplicación de AIDP en el sector de la justicia, en el que asiste al personal en el procesamiento de demandas masivas, como las reclamaciones por cláusulas suelo o eventos de gran impacto, como las recientes catástrofes ocasionadas por la dana. La herramienta aligera la carga de trabajo y redunda en un mejor servicio al ciudadano.
Más allá de la tecnología, ¿qué otras transformaciones son necesarias para que la IA cale en el día a día corporativo?
Un aspecto clave es la transformación cultural, que se articula en dos aspectos. Por un lado, todo lo relativo a la formación y capacitación de los empleados, que debe calar en todos los niveles de la empresa. Es importante que los empleados (con un perfil técnico o funcional) entiendan cómo utilizar las herramientas y, sobre todo, cómo hacerlo de forma responsable dadas sus implicaciones y riesgos. En las capas de gestión o management, es clave que conozcan la IA para entender dónde aporta valor y ayudarles a idear casos de uso. Por último, desde la capa de gerencia (C-level) necesitan también esta formación para tomar decisiones desde un punto de vista estratégico.
Además, también es importante todo lo relativo al talento, aspecto que se ha de abordar desde la captación —hacer la empresa atractiva para los ingenieros de IA y los roles relacionados—, pero también desde la retención, para contar con esas personas a largo plazo.
