Las AI Factories centralizadas —grandes clústeres de GPU concentrados en regiones de datos específicas— han sido la piedra angular de la revolución actual, permitiendo el entrenamiento de modelos fundacionales con una potencia sin precedentes.
Sin embargo, a medida que la inteligencia artificial llega a los entornos de producción, el reto estratégico evoluciona. Más allá del entrenamiento, el desafío es operar esa inteligencia de manera eficiente, segura y, sobre todo, a una escala global.
En este nuevo contexto, los enfoques exclusivamente centralizados están revelando limitaciones relacionadas con la latencia, los costes asociados al movimiento masivo de datos o la gobernanza en entornos regulados. Por ello, muchas organizaciones están avanzando hacia arquitecturas distribuidas que acercan la capacidad de cómputo allí donde se producen las interacciones digitales. No se trata de abandonar la nube, sino de extenderla.
La economía de la inferencia
Hay que distinguir entre las dos fases del ciclo de vida de la IA. El entrenamiento, un proceso intensivo en cómputo, pero puntual; y la inferencia, que es cuando el modelo responde a una solicitud del usuario y representa la mayor parte del ciclo operativo y del gasto a largo plazo. De hecho, estimaciones de analistas como Gartner y McKinsey sugieren que la inferencia representará hasta el 90% del consumo de recursos de IA en la empresa moderna.
El ecosistema se dirige hacia modelos abiertos, interoperables y profundamente distribuidos
Es aquí donde el edge computing cobra una relevancia estratégica. Al procesar las solicitudes más cerca del usuario final, no solo se reduce la latencia, sino que se mejora la experiencia digital y se optimiza el uso de recursos de red.
Para responder a este escenario, Akamai está impulsando la inferencia distribuida a través de Akamai Inference Cloud. Esta solución integra capacidades de computación acelerada (GPU) directamente en su plataforma global, permitiendo desplegar modelos de IA en la periferia de la red. De este modo, el rendimiento, la escalabilidad y la seguridad son atributos intrínsecos de la infraestructura.
Este enfoque no busca sustituir al modelo centralizado, sino complementarlo en una arquitectura híbrida equilibrada: mientras las AI Factories siguen siendo esenciales para el entrenamiento masivo, la inferencia distribuida acerca la IA al entorno real de uso.
Centralización Vs distribución
Las AI Factories están optimizadas para maximizar la eficiencia computacional, sin embargo, cuando estos modelos pasan a la fase de servicio, los requisitos cambian. Casos de uso críticos como el análisis de vídeo en tiempo real, la automatización industrial o las experiencias digitales hiperpersonalizadas no pueden permitirse el retardo que supone enviar datos a una región de nube centralizada y esperar la respuesta.
En estos escenarios, la dependencia exclusiva de infraestructuras centralizadas introduce cuellos de botella que dificultan la escalabilidad ante picos de demanda y aumentan la complejidad operativa.
Además, el crecimiento exponencial del volumen de datos generados en el borde de la red refuerza la necesidad de arquitecturas que permitan procesar la información in situ. La capacidad de ejecutar inferencia sin comprometer el rendimiento ni el control de los datos es una ventaja competitiva directa.
Pero para que una arquitectura distribuida sea efectiva no basta con colocar tarjetas aceleradoras en puntos geográficos dispersos; el reto es la orquestación inteligente. Se trata de implementar una capa que funcione como el sistema operativo de la red global, decidiendo en tiempo real dónde debe ejecutarse cada petición.
Este sistema debe evaluar dinámicamente aspectos como la proximidad del usuario para minimizar el retardo, la carga de trabajo del nodo para evitar cuellos de botella locales, o la criticidad de la tarea.
Plataformas como Akamai Inference Cloud están diseñadas precisamente para esta misión. Su modelo de inferencia orquestada sobre una plataforma global permite ejecutar cargas de IA en el punto más eficiente de la red —desde el edge más extremo hasta entornos centralizados— en función de tres variables: latencia, coste y rendimiento solicitado.
Así, la inferencia cotidiana y sensible al tiempo se aproxima al usuario, mientras que las cargas más intensivas o de análisis profundo se escalan hacia recursos centralizados especializados, manteniendo un equilibrio técnico y económico.
Del edge al core
La combinación de niveles de ejecución permite abordar retos sectoriales de forma específica. El edge ofrece respuestas en tiempo real (inferencia de baja latencia), mientras que el núcleo central se reserva para procesos que requieren una visión holística o modelos excesivamente pesados.
Este enfoque ya está transformando el uso de la IA en sectores clave:
- Medios de comunicación. Facilita la transformación de contenidos en directo mediante IA en el borde, permitiendo múltiples formatos y personalización sin saturar el backbone de la red.
- Sector minorista (retail). Permite enriquecer la experiencia de compra en el punto de venta físico en tiempo real, mejorando la gestión de inventarios y la interacción con el cliente sin depender de una conexión constante al core.
- Servicios financieros. Ayuda a personalizar las interacciones y ejecutar modelos de detección de fraude desde el momento en que el usuario inicia sesión, procesando patrones de comportamiento de forma local y segura.
Además, esta arquitectura híbrida facilita el cumplimiento normativo. En entornos regulados, procesar la inferencia localmente permite que los datos sensibles no abandonen su jurisdicción, cumpliendo con leyes de soberanía de datos mientras se aprovecha la potencia de la IA.
En una nube distribuida globalmente, la fiabilidad se basa en la capacidad de gestionar los falles de forma automatizada
Precisamente, en una nube distribuida globalmente, la fiabilidad no se basa en la falsa premisa de evitar fallos, sino en la capacidad de gestionarlos de forma automatizada. La arquitectura de Akamai asume que cualquier componente puede fallar y, por ello, diseña sistemas capaces de mantener la continuidad del servicio mediante la redundancia y la redirección dinámica.
Esta misma lógica de resiliencia se aplica a la IA: la orquestación permite que, si un nodo de inferencia en el borde se ve comprometido, la carga se desplace al nodo más cercano o al core de manera transparente para el usuario. Para el responsable de TI de una compañía, esto significa que la inteligencia de su empresa es “antifrágil”.
Lecciones del pasado
La historia de Internet nos ha enseñado que la distribución es el destino final de toda tecnología escalable. Las redes de distribución de contenidos (CDN) fueron la respuesta a los problemas de latencia y saturación de la web estática. Hoy, esa misma lógica se traslada a la computación y la IA.
Estamos pasando de un modelo de “nube como destino” a uno en el que el procesamiento se acerca al usuario final por necesidad técnica y económica. Aunque la estandarización de estas arquitecturas distribuidas aún está en desarrollo, la tendencia es clara: el ecosistema se dirige hacia modelos abiertos, interoperables y profundamente distribuidos.
El edge no ha venido a sustituir a las infraestructuras centralizadas, sino a dotarlas de la capilaridad necesaria para ser útiles en el mundo real. Este modelo híbrido habilita casos de uso que hasta hace poco eran teóricos, como servicios financieros en milisegundos o telemetría industrial predictiva.
