Escalación por Niveles

v1.9

La Escalación por Niveles se sitúa detrás de tu pipeline RAG de la Base de Conocimientos y enruta automáticamente las preguntas más difíciles hacia un procesamiento de IA más potente — y más costoso — cuando la vía rápida no tiene suficiente confianza para responder bien. La mayoría de las preguntas nunca salen del Tier 1; solo las que lo necesitan escalan.

Qué Hace

Toda pregunta entrante es respondida primero por el pipeline RAG estándar. Cuando la confianza de ese pipeline es baja, o la pregunta parece necesitar un razonamiento más profundo (una solicitud de “cómo hago para…” de varios pasos, o una acción que el bot no puede resolver a partir de un solo documento), el sistema escala la pregunta a un nivel LLM síncrono o asíncrono en lugar de devolver una respuesta débil o genérica.

La escalación es totalmente automática — los visitantes nunca ven un “tier” ni toman una decisión. Desde su perspectiva, el bot responde de inmediato o replica un poco más tarde con una respuesta más profunda.

Cómo Funcionan los Niveles

Tier	Nombre	Latencia	Qué Sucede
Tier 1	RAG (predeterminado)	Rápido — típicamente <1s	Recuperación y generación existente de la base de conocimientos. Sin cambios de comportamiento respecto a antes de v1.9.
Tier 2	Escalación Síncrona a LLM	3–8 segundos	Una llamada a un modelo más potente, realizada de forma síncrona mientras el visitante espera, para preguntas que RAG por sí solo no puede responder con confianza.
Tier 3	Investigación Asíncrona	2–5 minutos	Un trabajo de investigación en segundo plano que puede tomar más tiempo y más contexto para producir una respuesta exhaustiva, entregada a la conversación una vez lista.

Tier 2 — Escalación Síncrona a LLM

Se usa cuando la pregunta necesita más razonamiento del que puede aportar la recuperación de RAG, pero aún se espera una respuesta dentro del mismo turno de conversación. El sistema llama a un modelo más capaz de forma síncrona, con el contexto recuperado de la base de conocimientos, y devuelve la respuesta directamente en el chat — el visitante experimenta una respuesta un poco más larga, no un retraso ni un mensaje de “te responderemos pronto”.

Tier 3 — Investigación Asíncrona

Se usa para preguntas que genuinamente necesitan una investigación más profunda — razonamiento de varios pasos, referencias cruzadas entre varios documentos, o el tipo de pregunta que un agente humano necesitaría unos minutos para investigar correctamente. La pregunta se pone en cola como un trabajo en segundo plano; se le informa al visitante que se está preparando una respuesta, y si la investigación se completa con éxito, esta se entrega en la conversación automáticamente.

Lógica de Enrutamiento

El enrutamiento es automático y se basa en dos señales:

Confianza de la base de conocimientos — la puntuación de confianza de recuperación/respuesta del pipeline RAG. Una confianza alta permanece en Tier 1. Una confianza más baja escala a Tier 2 o Tier 3 según qué tan baja sea.
Tipo de pregunta — ciertas formas de preguntas (solicitudes de varios pasos, solicitudes de acción que el bot no puede realizar por sí solo, preguntas de estilo “investigar” explícito) se enrutan hacia la escalación incluso cuando la confianza por sí sola podría no activarla.

La escalación solo ocurre si está habilitada para la organización y dentro del presupuesto — consulte Configuración del Administrador más abajo. Si la escalación está deshabilitada, en el tier máximo 1, o fuera de presupuesto, el bot recurre a su mejor respuesta de Tier 1 en lugar de fallar al responder.

Configuración del Administrador

La escalación se configura por organización en Configuración → Configuración de IA. Consulte Configuración de IA e Idioma de Respuesta — Escalación por Niveles para la referencia completa de configuración. En resumen:

Habilitar/Deshabilitar — la escalación está desactivada por defecto; un administrador de la organización debe activarla.
Tier Máximo — limita hasta qué punto puede escalar una pregunta (1 = solo RAG, 2 = permite LLM síncrono, 3 = permite investigación asíncrona completa).
Límites de Presupuesto — presupuestos mensuales de llamadas separados para Tier 2 y Tier 3, para que el costo de la escalación se mantenga predecible.

Cadena de Modelos

Las solicitudes de escalación se envían a un modelo primario.
Si el modelo primario falla o no está disponible, la solicitud conmuta automáticamente al siguiente modelo en una cascada configurada — el visitante nunca ve la falla.
Si un modelo falla repetidamente, un disyuntor (circuit breaker) detiene temporalmente el envío de solicitudes a ese modelo y las enruta exclusivamente al siguiente modelo de la cadena, dando tiempo al proveedor con fallas para recuperarse antes de volver a intentarlo.

Esta cascada significa que la interrupción de un solo proveedor no deja fuera de servicio la escalación — esta se degrada automáticamente al siguiente modelo disponible.

Gestión del Presupuesto

Tier 2 y Tier 3 tienen cada uno su propio presupuesto mensual de llamadas, configurado por organización (valores predeterminados: 500 llamadas de Tier 2, 50 llamadas de Tier 3 por mes).

Los presupuestos se reinician automáticamente al comienzo de cada mes calendario (UTC).
Si el presupuesto de un tier se agota antes de que se reinicie el mes, las preguntas adicionales se manejan en el siguiente tier inferior (o en Tier 1, si ningún tier de escalación inferior tiene presupuesto) en lugar de bloquearse.
El uso del presupuesto no se acumula entre meses.

Impacto en el Precio

El uso de Tier 1 (RAG) no se ve afectado por la escalación — está incluido de la misma forma que siempre lo ha estado. Las llamadas de Tier 2 y Tier 3 consumen créditos de presupuesto de tu plan, ya que usan llamadas de modelo más costosas que el RAG estándar. Monitorea el uso en Configuración → Configuración de IA y ajusta el Tier Máximo o los límites de presupuesto si el volumen de escalación es mayor de lo esperado para tu plan.