Abordar la imperiosa necesidad de controlar cómo se utiliza la IA y hacer fiables sus resultados. Este es uno de los objetivos marcados por Minsait (Indra Group) e IBM en la apertura de su Centro de Excelencia (CoE) de IA, creado en 2024. La colaboración entre ambas empresas busca ayudar a los clientes a implementar y gobernar la IA mediante la aplicación de las capacidades de control, tradicionalmente centradas en la IA tradicional y el MLOps, a los grandes modelos de lenguaje (LLM).
Para cumplir la promesa de valor de la IA es necesario encuadrarla en un marco empresarial serio
Sobre este escenario y las capacidades que ofrece la alianza hemos hablado con Andrés Duque, responsable de desarrollo de negocio IA y data para servicios financieros en Minsait; Marta Arranz, AI Project Manager de Minsait y líder del CoE conjunto; Victoria Gómez, responsable del Gobierno de la IA en IBM Spain, Portugal, Greece, Israel; y Carlos Fournier, Territory Sales Representative en IBM y responsable de la alianza entre ambas compañías.
El reto de gobernar la IA
Vivimos un momento de incertidumbre: ha llegado una innovación tecnológica disruptiva que promete aumentar el valor, aligerar el trabajo, ser el piloto automático del negocio… Nos hallamos ante una promesa que despierta la impaciencia por verla cumplida y ante unas tecnologías que han traspasado los límites del área de TI. De hecho, todos los departamentos, a cualquier nivel, están trabajando y desarrollando soluciones, cada uno por su lado.
En las grandes empresas, según apunta Carlos Fournier, resulta especialmente complejo tomar el control de todo ello. “Está pasando algo similar a lo que ocurrió en su momento con las bases de datos departamentales: no se sabía dónde está el dato o quién lo había generado”.
Es lo que se denomina shadow AI, uno de los mayores desafíos que identifican perfiles como los CAIO o los responsables de IA de las empresas. Pero, además, según Victoria Gómez, aparece en un horizonte cada vez más cercano el reto de la regulación, con hitos importantes que se van alcanzando inexorablemente.
Fruto de este escenario, crece el interés por dotar a las empresas de un modelo de gobierno de IA que sirva como base para el desarrollo de todos los casos de uso. Hablamos tanto de la implantación de los frameworks de gobierno de IA como de la creación de comités de ética en las empresas.
“Estos comités están formados por perfiles de tecnología, pero también del área jurídica y de negocio. Que estos tres ámbitos estén representados refleja el nivel de democratización de la IA”.
La realidad es que, para cumplir esa promesa de valor dentro de las grandes organizaciones, tal y como apunta Andrés Duque, es necesario encuadrar la IA dentro de un marco empresarial serio, en el que aparece una TI compleja y un conjunto de datos sofisticado. Sin embargo, para poder extraer ese valor probablemente haya que cambiar la estructura, la organización, las formas de trabajar…
El Centro de Excelencia nació teniendo muy claro que el gobierno de la IA es fundamental, y es necesario establecerlo desde el principio
“Los proyectos de IA en los que he participado presentaban este reto: no podían desarrollarse con las metodologías y el ritmo con el que se hacían los proyectos tradicionales, porque rápidamente aparecen innovaciones, nuevas tecnologías o herramientas que mejoran lo anterior”.
Gestionar la IA como un activo
Para lograrlo, la clave es gobernar la IA. Marta Arranz destaca que originalmente, con los modelos de IA tradicionales, MLOps ayudó a estandarizar y mejorar el ciclo de vida de los modelos de machine learning (ML). Esto permitía gobernar y controlar las métricas, y proporcionaba visibilidad sobre los modelos de IA tradicional.
“Ahora, todo eso se ha escalado a los LLM en la IA generativa. Es algo fundamental, ya que permite dar confianza a las áreas de negocio a través de un conjunto de métricas y el necesario control acerca de cómo está apoyando a los usuarios en su día a día”.
Aparte de asegurar la calidad, Victoria Gómez apunta un aspecto determinante: el mantenimiento. Tal y como ocurría con el machine learning y el deep learning, con el tiempo, los modelos pierden exactitud, se desvían. Hay, pues, que reentrenarlos, para lo cual resultan esenciales el control y el gobierno que proporciona un AIMLOps para saber, por ejemplo, qué modelos están perdiendo exactitud.
Esto nos conduce a otro aspecto clave, la confianza, con respecto al cual Andrés Duque señala lo siguiente: “Hasta ahora teníamos procesos deterministas: poníamos a un humano en cada punto del proceso. Ahora hay ciertos procesos que se pueden dejar en manos de una inteligencia artificial, y eso puede dar algo de miedo”.
Alianza entre Minsait e IBM
Para responder a este desafío nace la alianza entre Minsait e IBM, dos firmas cuya estrategia y modelo de valor en torno a la IA presentan muchas sinergias. Por ejemplo, según apunta Marta Arranz, “la propuesta de IBM plantea una plataforma que integra tanto lo que concierne a la IA como también lo relativo al data y al gobierno. Eso es lo que defendemos desde Minsait, ya que permite cubrir todo el ciclo de vida de un proyecto de inteligencia artificial”.
Lo cierto es que, como complementa Victoria Gómez, cualquier herramienta tecnológica necesita ponerse en valor, cobrar vida en los clientes. “Minsait es un socio estratégico que nos ayuda a desplegar ese valor. En el caso del gobierno de inteligencia artificial, la tecnología es solo una herramienta; requiere una serie de adaptaciones según la tipología de la empresa, la estructura definida en sus frameworks… Para adaptar la solución a cada empresa es muy importante la labor de Minsait”.
Carlos Fournier destaca que se trata de una alianza entre dos empresas globales y con un enfoque muy centrado en este tipo de organizaciones. “Conjugamos soluciones y servicios que nos permiten ir a entidades de ámbitos como defensa, administración pública, movilidad, tráfico aéreo, etcétera”.
Dentro del sector financiero, Andrés Duque destaca la experiencia de ambas compañías desde el punto de vista de “la tecnología que funciona bien en las empresas”. En el caso concreto del CoE, la alianza con IBM ha permitido, por ejemplo, retar los problemas del backoffice bancario. Es decir, cómo coger los grandes procesos que suceden después de que el cliente haga una interacción y acelerarlos utilizando estos sistemas.
“Esto, que debe tener un gobierno adecuado por detrás, va a cambiar por completo el mundo del activo y del pasivo, cómo un cliente solicita un depósito, una cuenta, una hipoteca o un prestado personal. Se va a llegar a un punto en el que todos estos procesos, que requieren de cierto conocimiento y generación de documentación, puedan hacerse de forma mucho más eficiente”.
El siguiente paso es sofisticar al empleado de banca: el supergestor. “Conseguir que cuando alguien te atiende desde un banco o una aseguradora, tenga toda la información necesaria y pueda responder de la mejor manera posible en la primera interacción. Eso ayudará a que queramos seguir hablando con humanos mucho tiempo, siempre que tenga todas las herramientas que ahora le podemos proveer”.
Centro de Excelencia en IA
El Centro de Excelencia en IA nació para apoyar a los clientes en este tipo de proyectos. Se trata de una iniciativa que busca ayudar a integradores que, como Minsait, resultan especialmente relevantes para IBM. “El objetivo es facilitarles infraestructura y formación para el desarrollo conjunto de negocio en ciertos clientes”.
De hecho, en este CoE, Minsait cuenta con un equipo altamente especializado: más de setenta personas formadas y más de 140 certificaciones en todas las tecnologías de IBM, como, entre otras, la plataforma IBM watsonx. Además, según apunta Marta Arranz, “este CoE plantea una serie de líneas de colaboración en distintos clientes, donde proponemos casos de uso específicos, trabajando como un único equipo”.
El papel de los clientes en el CoE es muy importante. Según Victoria Gómez, ellos definen los casos de uso, son los que tienen la estrategia, conocen su negocio…, son los que dan las directrices respecto a lo que necesitan. Eso sí, siempre con una base de gobierno de la IA. “El CoE nació teniendo muy claro que esta pieza —el gobierno de la IA— es fundamental, y es necesario establecerla desde el principio”.
El gobierno de la IA
Llegamos en este momento a uno de los principales valores que aporta IBM watsonx, una plataforma que cuenta con todas las capacidades, las piezas, que necesita una organización para desarrollar soluciones de inteligencia artificial, y para hacerlo de forma ordenada y confiable a través del gobierno de la IA.
Para contextualizar este apartado, Victoria Gómez puntualiza que, años atrás, cuando hablábamos del mundo de ML y DL, IBM ya tenía herramientas de gobierno, unas capacidades que han evolucionado para cubrir también la IA generativa. “Esto ha permitido que nuestra solución sea la que ofrece un mayor número de métricas del mercado, lo que se traduce en una mayor capacidad para entender qué está pasando con los modelos”.
Más allá de detectar desviaciones y sesgos, estas facultades de gobierno de la IA ayudan a las empresas a tomar decisiones informadas sobre qué soluciones desplegar en función de las métricas.“Además, nuestros modelos de IA generativa, por diseño, los construimos y entrenamos con datos curados, es decir, datos que han sido aprobados por nuestro departamento legal para evitar que haya problemas de propiedad intelectual”.
Ofrecer un mayor número de métricas se traduce en una mayor capacidad para entender qué está pasando con los modelos
En esa misma línea, han entrenado modelos más pequeños y transparentes, con un mayor grado de explicabilidad, si bien con menos capacidades creativas. “Pero en un entorno empresarial, que es donde nosotros nos focalizamos, la capacidad creativa no es clave. Lo que se busca es ser más eficiente; esta aproximación tiene menos coste de entrenamiento y ejecución, y, además, proporciona más transparencia y genera menos alucinaciones”.
Para complementar este aspecto, Marta Arranz destaca también la mayor fiabilidad que ofrecen los modelos IBM Granite, fruto de la capa de datos de la que parten. “Aquí hay un valor intangible que es difícil de cuantificar: la transparencia. No se le suele dar relevancia, pero, a ciertos niveles y en ciertas industrias, es fundamental saber cómo están funcionando los modelos y cuál es el nivel de adaptación que se está teniendo”.
El retorno de la IA
Cuantos más datos tengas, mejor. Apoyándose en el volumen de métricas que aporta IBM, watsonx está mejor capacitado para calcular el valor de retorno o el posible valor de negocio de los proyectos de inteligencia artificial.
Tal y como apunta Andrés Duque, un gobierno adecuado proporciona la confianza en que el sistema funciona. Y esto es clave para medir los retornos. “Para obtener el valor que prometen estos proyectos hay que ponerlos en productivo; y solo puedes ponerlos en real si tienes algo que permita asegurar que esa apuesta es solvente, que no genera un riesgo operativo, jurídico o de negocio; y que se es capaz de controlar esa nueva dimensión”.
En este sentido, Victoria Gómez destaca un dato importante: gracias al aprovechamiento de la IA en general, y de la automatización, IBM está en camino de alcanzar un ahorro de 4.500 millones de dólares a finales de 2025.
El concepto open
Añádase a lo anterior una ventaja adicional: el concepto open que defiende IBM. Según Victoria Gómez, cuando los modelos se entrenan dentro de watsonx (Watsonx.AI), puedes trabajar con IBM Granite, con LLM de terceros (LLaMA, Mistral…) o con otros modelos abiertos a través de la alianza con Hugging Face. Incluso se pueden realizar inferencias a otros modelos (por ejemplo, los de OpenAI) a través de AI Model Gateway.
Esa misma aproximación open aparece en la plataforma Watsonx.governance, que, además de los de IBM, también permite gobernar modelos de otros proveedores. “Buscamos la versatilidad. Que, tengas las tecnologías que tengas, IBM te va a ayudar a gobernar los modelos, aunque los hayas desarrollado con Microsoft, Amazon, Google o con otros del mundo open”.
IBM watsonx y los agentes de IA
Existe un enorme interés en las empresas por los agentes de IA. De hecho, según nos cuenta Andrés Duque, ya se está haciendo algún piloto en clientes y es ahí donde ese gobierno de la IA y de los agentes adquiere una especial relevancia. Solo así será posible gestionar la incertidumbre y dirigir el proceso de forma adecuada.
“El hecho de que, más allá de contestarte, una IA sea capaz de hacer cosas, en tu nombre o en el de terceros, lo va a cambiar todo por completo. Va a abrir una nueva dimensión. Habrá industrias en las que un agente de terceros, en nombre de un cliente final, hará una solicitud a un banco, una telco o una agencia de viajes. Las empresas están viendo el valor que ofrece y lo que quieren es escalar lo que ya han hecho como piloto para implantarlo en proyectos reales”.
Hablamos de agentes que no solo van a servir a los humanos, como una capa de API. Estamos acostumbrados a exponer un conjunto de servicios para que sean consumidos, pero, como señala Duque, existen “clientes que entienden que ese papel lo va a jugar una capa de agentes, que dará servicio a otros agentes en distintas industrias”.
El hecho de que, más allá de contestarte, una IA sea capaz de hacer cosas, en tu nombre o en el de terceros, lo va a cambiar todo por completo
¿Y cómo se desenvuelve IBM watsonx en este escenario? Haciendo que el modelo de gobierno que defiende, que nació en la IA tradicional y se ha extendido a la generativa, evolucione para gobernar también los agentes de IA; un modelo que incluye la orquestación y los catálogos de las herramientas que se utilizan para ejecutar los procesos. Por añadidura, y en línea con la filosofía open que impera en este ámbito, soporta tanto agentes propios como de terceros.
Además, a través de IBM watsonx.orchestrate es posible desarrollar agentes desde cero o aprovechar un conjunto de plantillas de agentes —desarrolladas por IBM— en ámbitos como recursos humanos, compras o ventas. Según nos cuenta Victoria Gómez, los empleados de esta multinacional ya disfrutan de los servicios de estos agentes, que resuelven interacciones relacionadas con la nómina, la gestión de las vacaciones, etc.
“De hecho, hemos cambiado el sistema de gestión de recursos humanos y, para mí, ha sido transparente. Antes tenías que entrar en el sistema, en el ERP, ver dónde estaba este apartado… Ahora lo hacemos a través de nuestro agente”.
En Minsait, como nos cuenta Marta Arranz, también han hecho un piloto en su CAU. El objetivo era enrutar ciertas peticiones, y los resultados han sido muy esperanzadores. “Esta es una de las aplicaciones clave del CoE: la posibilidad de probar estas herramientas de forma interna para poder ofrecerlas a los clientes con un conocimiento profundo”.
Regulación: ¿freno o habilitador?
A la vista de todo lo anterior, alguien podría plantearse si el gobierno de la IA y su regulación deben tomarse como trabas o como impulsos al desarrollo de estas tecnologías. A esa pregunta nuestros entrevistados le dan una respuesta unánime.
En línea con el modelo open, IBM watsonx incluye la orquestación de agentes IA, tanto propios como de terceros
Toda la documentación que requiere la AI Act está ayudando a mejorar y unificar las buenas prácticas, tanto a empresas como a desarrolladores, y a dotarse de certezas sobre quién está desarrollando las soluciones de IA, dónde y con qué fin.
Todo se resume en una palabra: confianza. Tal y como asegura Marta Arranz, la confianza que se genera “es muy importante, porque nosotros damos servicio a usuarios de negocio que necesitan garantías para emplear la inteligencia artificial en su día a día con la certeza de poder confiar en el output que generan esos modelos”
