El despliegue de agentes de IA está marcando un cambio de paradigma: los nuevos modelos no se limitan a generar contenido, sino que actúan. Este salto exige un diseño profundo en torno a la gobernanza, la seguridad y la trazabilidad. Es necesario un enfoque sólido y estructurado donde la gobernanza no sea un añadido, sino el eje fundamental para construir agentes seguros, auditables y sostenibles. Veamos qué propone CRAFT al respecto.
Durante los últimos años, la inteligencia artificial generativa ha recorrido un largo camino durante el cual las pruebas de concepto aisladas se han ido convirtiendo en lo que es hoy: un eje estratégico para la transformación empresarial. En este proceso, la IA agéntica —en la que modelos avanzados toman decisiones, orquestan tareas y utilizan herramientas de manera autónoma— se ha consolidado como la siguiente gran irrupción.
Un salto tecnológico acompañado de una contrapartida: sin una gobernanza robusta, no se puede desplegar de forma segura y escalable. Las organizaciones necesitan estructuras que proporcionen control, trazabilidad, seguridad y cumplimiento normativo, especialmente ante los actuales marcos regulatorios.
A la luz de lo anterior, Inetum ha desarrollado CRAFT (Coborg Responsible AI Framework & Toolkit), una plataforma de orquestación que ofrece una perspectiva integral para abordar la gobernanza y el despliegue responsable de agentes de IA. Todo ello bajo las premisas de una arquitectura modular, seguridad técnica y control organizativo.
Gobernanza de la IA agéntica
La IA agéntica trasciende los asistentes conversacionales y abre las puertas a un nuevo escenario de autonomía operativa real. Estos agentes no se conforman con procesar información, también intervienen activamente en la cadena de valor. Entre otras posibilidades, su arquitectura les permite:
- Utilizar herramientas en entornos de producción y tomar decisiones en cadena para alcanzar objetivos complejos.
- Ejecutar flujos de trabajo de larga duración mediante memoria persistente.
- Navegar con precisión en ecosistemas corporativos críticos, transformando objetivos complejos en resultados tangibles.
- Inmensas capacidades acompañadas de riesgos no desdeñables: fallos de seguridad, accesos indebidos, errores de juicio del agente, sesgos, vulnerabilidades derivadas de herramientas externas y, sobre todo, ausencia de control sobre la trazabilidad.
En este escenario, la gobernanza se convierte en un pilar maestro para asegurar que la autonomía del agente convive de forma adecuada con los requisitos regulatorios, operativos y éticos de la organización.
La gobernanza de estos sistemas debe entenderse desde dos vertientes complementarias: una técnica, centrada en trazabilidad, observabilidad, seguridad y control de ejecución; otra legal y organizativa, orientada a evaluar riesgos, garantizar el cumplimiento y asegurar que cada caso de uso respeta los requisitos normativos.
La plataforma CRAFT, que incorpora ambos enfoques en su diseño, se ha concebido para actuar como un puente operativo entre la tecnología de agentes y las exigencias de cumplimiento del marco regulatorio europeo.
Trazabilidad absoluta
Una de las funciones críticas de CRAFT es la posibilidad de garantizar la trazabilidad total de la actividad de cada acción que desarrollan los agentes, un requisito indispensable bajo el actual marco regulatorio para sistemas de alto riesgo. La plataforma registra el ciclo de vida de cada operación, incluyendo las acciones ejecutadas, las herramientas invocadas, los datos consultados o generados y la lógica de decisión aplicada en cada nodo del flujo de trabajo.
El objetivo de CRAFT es ayudar a desplegar, gobernar y escalar soluciones basadas en IA de forma eficiente y segura
Esta trazabilidad permite auditar de forma exhaustiva, así como explicar el comportamiento de agentes complejos e identificar fallos o desviaciones en tiempo real.
Por otra parte, CRAFT se basa en una arquitectura modular y extensible; podremos, por tanto, reemplazar, ampliar o restringir componentes sin comprometer la plataforma. La gobernanza se ve reforzada, pues cabe integrar nuevas herramientas y protocolos con validación previa. Además, facilita bloquear capacidades en función del caso de uso o de las particularidades de cada entorno, o que se mitiguen riesgos mediante aislamiento de ejecución.
De hecho, CRAFT implementa un modelo de ejecución en entornos aislados, donde el acceso a cada skill o herramienta está estrictamente delimitado para cegar posibles vías de ataque. Esta capa resulta fundamental cuando los agentes interactúan con sistemas críticos o entornos de producción, y garantiza que su autonomía no comprometa la integridad ni la confidencialidad de la infraestructura corporativa.
El Skill Marketplace
Con la reciente expansión de las denominadas skills o habilidades, impulsada por la apertura de protocolos como MCP (Model Context Protocol), surge un reto evidente para las organizaciones: el de garantizar que las herramientas que utilizan los agentes son seguras, fiables y compatibles con los requisitos normativos.
Ante esta cuestión, CRAFT ofrece un Skill Marketplace propio, donde cada habilidad se valida a partir de su seguridad y funcionalidad, y queda aislada dentro de entornos controlados. Además, solo se integrará en el marketplace si cumple los criterios de gobernanza establecidos.
CRAFT ofrece un Skill Marketplace propio, donde cada habilidad se valida a partir de su seguridad y funcionalidad
Este enfoque de ecosistema permite evitar numerosos riesgos en el uso de estas skills, tales como accesos no autorizados, comportamientos inesperados o vulnerabilidades técnicas introducidas por terceros.
Cumplimiento normativo
El Reglamento Europeo de Inteligencia Artificial (EU IA Act) es la primera norma integral que regula el desarrollo, la puesta en el mercado y el uso de sistemas de IA. Para garantizar que sea “fiable, segura y ética”, esta norma exige estándares estrictos, que incluyen trazabilidad, registro de decisiones, evaluación de riesgos, controles de seguridad reforzados y gestión del ciclo de vida del sistema.
Precisamente, este marco es el que da sentido a las plataformas de IA gobernada como CRAFT, que integra controles regulatorios directamente en su arquitectura. Gracias a este enfoque, el framework facilita el cumplimiento mediante la auditoría integral de agentes y herramientas, la trazabilidad exhaustiva de interacciones y accesos, y la evaluación de riesgos por caso de uso, todo ello bajo una gobernanza centralizada de todo el ecosistema de IA. Esto sitúa la plataforma como un habilitador del despliegue seguro a escala en sectores donde la regulación es especialmente crítica, como Administraciones Públicas, salud, energía o banca.
La gobernanza —más allá de la trazabilidad y el cumplimiento normativo— incluye también la capacidad de evaluar continuamente ámbitos como la privacidad de los datos procesados, la equidad, la ausencia de sesgos, la veracidad del contenido generado, la sostenibilidad y el consumo energético, o los costes operativos y el consumo de tokens. Esta visión holística permite alinear el comportamiento del agente con los objetivos técnicos, éticos y financieros de la organización.
También hay que destacar que esta plataforma no busca reemplazar sistemas existentes, sino integrarse y convivir con ellos. Esta flexibilidad es esencial para organizaciones con infraestructuras complejas, ya que permite integrar agentes de IA dentro de flujos ya establecidos, añadir capacidades agénticas sobre bases de conocimiento existentes, no depender de un único proveedor (vendor lock-in) y evolucionar hacia arquitecturas más avanzadas sin interrupciones.
CRAFT no impone una estructura rígida, sino que funciona como un conjunto modular de piezas que se pueden incorporar progresivamente según la madurez y necesidades del cliente. Su objetivo, en definitiva, es ayudar a las organizaciones a desplegar, gobernar y escalar soluciones basadas en inteligencia artificial de forma eficiente y segura.
