Durante décadas, el software empresarial ha funcionado de forma esencialmente reactiva: unas condiciones de entrada producen una respuesta prevista por el diseño. Aunque ya existían sistemas probabilísticos y de aprendizaje automático, el paradigma dominante seguía siendo el de un comportamiento determinado de antemano por el programador.
La IA generativa introdujo un estadio diferente al permitir interpretar lenguaje, contexto e intención, pero el salto cualitativo se produce con la IA agéntica: dado un objetivo, un agente puede representarse alternativas, planificar, seleccionar herramientas, ejecutar acciones y reajustar su comportamiento en función de los resultados.
La acción deja así de estar completamente prescrita y aparece una forma nueva de autonomía técnica u operacional: el sistema puede decidir cómo alcanzar un fin seleccionando entre distintos cursos de acción. Sin embargo, esa autonomía sobre los medios no implica una capacidad de cuestionar, asumir o rechazar los propios fines. Dicho de otra manera, la IA puede ser autónoma respecto de determinadas acciones sin ser autónoma respecto de su voluntad.
De la intención humana a la acción autónoma en SAP
Esta distinción resulta especialmente visible en la evolución de SAP Business AI. SAP presenta los Asistentes de Joule como sistemas que incorporan un profundo contexto del rol y de los procesos empresariales para convertir la intención de las personas en acciones concretas, coordinando para ello distintos Agentes de Joule.
Los Agentes de Joule, a su vez, son agentes especializados en procesos de negocio capaces de soportar automatización y apoyo a decisiones en flujos de trabajo no deterministas: pueden seleccionar entre diferentes herramientas, ejecutar sus planes y posteriormente valorar los resultados obtenidos.
Es precisamente esta capacidad de elegir y ejecutar distintos cursos de acción para alcanzar un objetivo, sin que cada paso haya sido definido previamente, la que permite hablar de autonomía operacional.
La seguridad agéntica no pretende eliminar la autonomía del agente, sino definir el espacio dentro del cual puede ejercerla
Sin embargo, esa autonomía operacional no es una autonomía sin gobierno. En la arquitectura propuesta por SAP, los agentes se autentican y reciben autorizaciones propias, y un usuario puede delegarles únicamente un subconjunto limitado de sus permisos.
El agente puede decidir cómo ejecutar una tarea, pero no puede ampliar unilateralmente el ámbito de autoridad que le ha sido concedido, y sus actuaciones mantienen la identidad y el contexto de autorización necesarios para la trazabilidad y la auditoría.
La distinción es esencial: la capacidad de decidir cómo actuar no implica la capacidad de decidir ilimitadamente qué se puede hacer. La autonomía del agente existe dentro de un espacio de posibilidades delimitado desde el exterior por personas, organizaciones, políticas, autorizaciones y controles tecnológicos.
Delimitación de la autonomía
Esta limitación externa de la autonomía no queda en SAP como una mera declaración de principios. Se materializa técnicamente en la arquitectura de seguridad de la IA agéntica. SAP articula un modelo de defensa en profundidad basado en cinco dominios concéntricos y superpuestos: Gobernanza y Cumplimiento, Datos y Contexto, Modelo de IA (inferencia), Ejecución del agente y Orquestación. La seguridad no depende, por tanto, de un único perímetro, sino de sucesivas fronteras que condicionan lo que el agente puede conocer, razonar, ejecutar e invocar.
Las cinco capas no son solo controles de seguridad superpuestos; cada una delimita una dimensión diferente de la autonomía del agente:
- Gobernanza y Complimiento Normativo establece qué usos y finalidades son admisibles.
- Inferencia del modelo condiciona las capacidades de razonamiento disponibles.
- Datos y Contexto determina qué información puede conocer y utilizar.
- Entorno de ejecución del agente limita qué acciones puede ejecutar.
- Orquestación controla con qué herramientas, sistemas u otros agentes puede interactuar y cuándo debe intervenir una persona.
El agente conserva así capacidad de decisión sobre los medios, pero no determina por sí mismo el espacio dentro del cual esa decisión puede ejercerse.
Estos cinco dominios constituyen distintas expresiones técnicas de una misma idea: el agente puede mantener un espacio real de decisión, pero no determina el espacio mismo en el que esa decisión tiene lugar.
El agente de IA no determina por sí mismo qué finalidad empresarial es legítima, qué datos puede consultar, qué modelos tiene disponibles, qué herramientas está autorizado a utilizar ni qué sistemas puede modificar. Puede decidir entre cursos posibles de acción, pero las fronteras de esos cursos le vienen dadas desde fuera.
La seguridad agéntica no pretende, por tanto, eliminar la autonomía del agente. Pretende definir el espacio dentro del cual puede ejercerla.
Autonomía del agente y autonomía humana
El planteamiento conecta directamente con el modelo de Responsible AI de SAP, estructurado en tres pilares clave (ética, seguridad y cumplimiento normativo) y orientado a una innovación que está centrada en las personas pero que preserva su autonomía.
Su Política Global de Ética en la inteligencia artificial recoge principios de supervisión humana, transparencia, proporcionalidad, seguridad y responsabilidad. Esta gobernanza no se desarrolla al margen del entorno regulatorio: SAP ha establecido procedimientos y controles para trasladar las obligaciones del Reglamento de Inteligencia Artificial Europeo a su ciclo de vida de IA, y en agosto de 2026 publicó una declaración de Transparencia en IA aplicables también a Joule y a su arquitectura de agentes.
El marco cuenta además con un anclaje organizativo auditable. El sistema de gestión de inteligencia artificial de SAP está certificado conforme a ISO 42001, con un alcance que comprende la gobernanza del uso de IA dentro de SAP y sus soluciones. No se trata, por tanto, de controles técnicos aislados, sino de un sistema formal de gestión de IA sometido a auditoría independiente.
Aparece entonces una relación aparentemente paradójica: cuanto mayor es la autonomía técnica del agente, más importante resulta la gobernanza destinada a preservar la autonomía humana.
No se trata de impedir que el agente decida (eso anularía lo que aporta la IA agéntica), sino de que la seguridad adquiera un significado más profundo: gobernar un sistema al que se ha delegado un espacio de decisión. Identidad, autorizaciones, protección del contexto, guardarraíles, auditoría, herramientas autorizadas y supervisión humana son los mecanismos que determinan la extensión de ese espacio. La persona y la organización fijan los fines, las políticas y los límites; el agente delibera sobre los medios dentro de ese marco.
La inteligencia amplía el espacio de posibilidades; la autonomía permite actuar dentro de él; la gobernanza determina sus fronteras y preserva la decisión humana sobre los fines.
