Una de las áreas donde se está viviendo una explosión en cuanto a los casos de uso de aplicación de la IA es el de Atención al Cliente. Pero si se quiere alcanzar la excelencia, ya no basta con aplicar LLM (large language models), la respuesta pasa por mejorar la precisión de estos modelos a través de la generación aumentada por recuperación (RAG, retrieval-augmented generation). Synology es todo un ejemplo en su uso.
Los LLM han supuesto un punto de inflexión en la manera en la que las compañías venían prestando sus servicios de soporte y atención al cliente. Las capacidades avanzadas de estos modelos, elevadas por la vertiginosa innovación que ha experimentado el procesamiento de lenguaje natural (PNL, natural language processing), ha permitido traducir consultas de datos en respuestas que cualquier usuario pueda comprender.
Las posibilidades de automatización —analizando, categorizando y respondiendo a consultoras complejas de un modo que simula la interacción humana— han servido para aliviar la carga de trabajo de los departamentos de customer service. Los call centers han visto cómo el sistema era capaz de reducir los tiempos de respuesta adoptando esta tecnología.
Con su servicio de soporte aprovechando el tándem LLM-RAG, Synology cuenta con un sistema veinte veces más eficiente
Aunque para la mayoría el cambio sustancial llegó hacia el año 2020 con GPT-3 y el advenimiento de la IA generativa (GenAI), previamente ya había empresas que venía trabajando y mejorando su atención al cliente con tecnologías de aprendizaje automático (ML, machine learning).
Este es el caso de Synology que, aplicando esta tecnología, resuelve rápidamente cerca de 50.000 casos de soporte técnico anuales. Por poner en contexto, esta empresa cuenta con una base de usuarios global de trece millones de instalaciones, gestionando una media anual de 280.000 tickets de la más diversa complejidad.
Desmitificando los LLM
Un buen soporte impulsado por IA no siempre ha de implicar una respuesta de IA. El sistema ha de ser capaz de comprender la intención del cliente y derivar directamente —o no— a un agente, ahorrándole tiempo y ganando en eficiencia. Sin embargo, esto no siempre sucede así. Cualquiera que en su día a día haya tratado con un chatbot para resolver alguna incidencia se ha podido percatar de sus carencias, incluso a pesar de solucionar el problema.
Entrenar un LLM requiere de mucho esfuerzo, tiempo y extraordinarias cantidades de datos que, precisamente por su volumen, no siempre están actualizados. Las fuentes con que se entrenan estos modelos son de lo más diversas y, mediante técnicas de ML, son capaces de establecer patrones y llegar a codificar cierto nivel de complejidades. No obstante, en ocasiones un LLM proporciona respuestas que pueden ser inexactas, especialmente cuando la consulta es muy específica, o que se han quedado obsoletas.
Las prestaciones de un sistema de soporte basado en IA avanzada deberían permitirle —en tiempo real— responder, derivar a un agente, solicitar más información al cliente o extraer información de la base de datos.
RAG o cómo enriquecer las respuestas
Por este motivo, Synology ha ido más allá y ha optado por incorporar los modelos RAG como un complemento perfecto de los LLM, pues contribuyen a suplir sus carencias, enriqueciendo las respuestas.
De este modo, cuando el sistema recibe una incidencia del cliente, en lugar de recurrir solo al conjunto de datos con que fue entrenado, consulta a la RAG, que se nutre de la información actualizada específica sobre los productos y soluciones de Synology, aprobada por ingenieros de soporte técnico profesionales.
Para extraer esta información de la base de datos RAG, la solución ha de comprender a fondo el contexto de la incidencia, que es reescrita para consultar el repositorio RAG. A esta riqueza de información adicional con que se nutre para elaborar la respuesta se suma, además, el histórico de tickets que ya han sido resueltos y que, mediante una búsqueda semántica y técnicas de deep learning, encuentra similitudes para aprovecharse de ellas en la generación de la solución.
El resultado es una respuesta de mayor calidad en comparación con las generadas por GenAI entrenada exclusivamente con datos públicos porque, además, incluso si finalmente la incidencia es derivada a un agente, éste cuenta con todo este conocimiento adquirido como soporte a su respuesta al cliente.
Las bondades de esta tecnología son evidentes y no sorprenden pronósticos como los de la consultora Grand View Research, que estima que si el mercado actual de RAG ronda los algo más de mil millones de dólares, hasta 2030 crecerá a un ritmo interanual del 44,7%.
Además de al conjunto de datos con que fue entrenado, el sistema consulta a la RAG, que se nutre de la información actualizada y específica
Además, gracias a la aportación de esta nueva información contextualizada, no es preciso reentrenar al LLM con nuevos conjuntos de datos, algo que incrementaría los costes e imposibilitaría esta inmediatez.
La confidencialidad
Algo muy importante que hay que tener en cuenta es todo lo relativo a la confidencialidad y privacidad de los datos. De hecho, a pesar de las ventajas que tienen los modelos RAG basados en cloud por su ahorro en infraestructuras, las implementaciones on-premise están creciendo debido a una mayor demanda de seguridad de datos, privacidad y control sobre información confidencial. En este sentido, en regiones específicas como la Unión Europea (UE), el Reglamento General de Protección de Datos (RGPD) favorece las implantaciones on-premise.
En este aspecto, el sistema de Synology cuenta con un mecanismo de desidentificación integral que garantiza que tanto los datos de casos anteriores como de los tickets recién recibidos se anonimicen antes de ser utilizados. Para ello, el modelo RAG dispone de capacidades como la identificación de expresiones regulares (Regex, regular expressions) como pueden ser correos electrónicos o números de teléfono; o el reconocimiento de entidades nombradas (NER, named entity recognition), que gracias al PNL comprende el contexto y es capaz de detectarlas.
Experiencias como la llevada a cabo por Synology con su propio servicio de soporte demuestran que, aprovechado el tándem LLM-RAG, es posible contar con un sistema veinte veces más eficiente. Sin embargo y para ser precisos, sería más correcto hablar de una triada, puesto que la participación humana es imprescindible. De hecho, la iniciativa de Synology tiene uno de sus pilares en la supervisión que realizan los agentes para garantizar la calidad y la confidencialidad.
El sistema de Synology cuenta con un mecanismo de desidentificación integral que garantiza que los datos se anonimicen antes de ser utilizados
Pero cuando se trata de garantizar la privacidad, el exceso de celo nunca sobra. De esta manera, Synology añade dos filtros adicionales: la comprobación de que no se infringe ninguna política interna o que exista riesgo de pérdida de datos para los usuarios; y la comprobación de seguridad del contenido, para que en las respuestas generadas no se proporcione información confidencial de ningún tipo.
El resultado final son respuestas automáticas más rápidas y precisas, sin menoscabo de la privacidad o el compliance, al tiempo que libera a los agentes para aquellas incidencias más complejas que requieren de una interacción humana. En último extremo, la experiencia del cliente se ve mejorada significativamente, así como la de los agentes, pues pueden disponer de información más rica y contextualizada.
