Escalade à paliers

v1.9

L’escalade à paliers se situe derrière votre pipeline RAG de Base de connaissances et route automatiquement les questions plus complexes vers un traitement IA plus puissant — et plus coûteux — lorsque le chemin rapide n’est pas assez confiant pour répondre correctement. La plupart des questions ne quittent jamais le Palier 1 ; seules celles qui en ont besoin sont escaladées.

Ce qu’elle fait

Chaque question entrante est d’abord traitée par le pipeline RAG standard. Lorsque la confiance de ce pipeline est faible, ou que la question semble nécessiter un raisonnement plus approfondi (une demande « comment faire pour… » à plusieurs étapes, ou une action que le bot ne peut pas résoudre à partir d’un seul document), le système escalade la question vers un palier LLM synchrone ou asynchrone plutôt que de renvoyer une réponse faible ou générique.

L’escalade est entièrement automatique — les visiteurs ne voient jamais de « palier » et n’ont aucun choix à faire. De leur côté, le bot répond soit immédiatement, soit un peu plus tard avec une réponse plus approfondie.

Fonctionnement des paliers

Palier	Nom	Latence	Ce qui se passe
Palier 1	RAG (par défaut)	Rapide — généralement <1s	Récupération et génération existantes de la base de connaissances. Aucun changement de comportement par rapport à avant la v1.9.
Palier 2	Escalade LLM synchrone	3 à 8 secondes	Un appel à un modèle plus puissant, effectué de manière synchrone pendant que le visiteur attend, pour les questions auxquelles le RAG seul ne peut pas répondre avec confiance.
Palier 3	Investigation asynchrone	2 à 5 minutes	Une tâche d’investigation en arrière-plan qui peut prendre plus de temps et de contexte pour produire une réponse approfondie, livrée dans la conversation une fois prête.

Palier 2 — Escalade LLM synchrone

Utilisé lorsque la question nécessite plus de raisonnement que ce que la récupération RAG peut fournir, mais qu’une réponse est tout de même attendue dans le même tour de conversation. Le système appelle un modèle plus performant de manière synchrone, avec le contexte récupéré de la base de connaissances, et renvoie la réponse directement dans le chat — le visiteur perçoit une réponse un peu plus longue à arriver, pas un délai ni un message du type « nous reviendrons vers vous ».

Palier 3 — Investigation asynchrone

Utilisé pour les questions qui nécessitent réellement une investigation plus approfondie — un raisonnement à plusieurs étapes, le croisement de plusieurs documents, ou le type de question qu’un agent humain mettrait quelques minutes à examiner correctement. La question est mise en file d’attente comme tâche en arrière-plan ; le visiteur est informé qu’une réponse est en cours de préparation, et si l’investigation aboutit, la réponse est livrée automatiquement dans la conversation.

Logique de routage

Le routage est automatique et repose sur deux signaux :

Confiance de la base de connaissances — le score de confiance de récupération/réponse du pipeline RAG. Une confiance élevée reste au Palier 1. Une confiance plus faible escalade vers le Palier 2 ou le Palier 3 selon son niveau.
Type de question — certaines formes de questions (demandes à plusieurs étapes, demandes d’action que le bot ne peut pas effectuer seul, questions explicites de type « investiguer ») sont dirigées vers l’escalade même lorsque la confiance seule ne la déclencherait pas.

L’escalade ne se produit que si elle est activée pour l’organisation et dans les limites du budget — voir Configuration administrateur ci-dessous. Si l’escalade est désactivée, si le palier maximal est fixé à 1, ou si le budget est épuisé, le bot revient à sa meilleure réponse de Palier 1 plutôt que de ne pas répondre.

Configuration administrateur

L’escalade se configure par organisation dans Paramètres → Paramètres IA. Voir Paramètres IA et langue de réponse — Escalade à paliers pour la référence complète des paramètres. En résumé :

Activer/Désactiver — l’escalade est désactivée par défaut ; un administrateur de l’organisation doit l’activer.
Palier maximal — plafonne jusqu’où une question peut être escaladée (1 = RAG uniquement, 2 = autorise le LLM synchrone, 3 = autorise l’investigation asynchrone complète).
Limites de budget — des budgets d’appels mensuels distincts pour les Paliers 2 et 3, afin que le coût de l’escalade reste prévisible.

Chaîne de modèles

Les requêtes d’escalade sont envoyées à un modèle principal.
Si le modèle principal échoue ou n’est pas disponible, la requête bascule automatiquement vers le modèle suivant dans une cascade configurée — le visiteur ne voit jamais l’échec.
Si un modèle échoue de manière répétée, un disjoncteur arrête temporairement de lui envoyer des requêtes et route exclusivement vers le modèle suivant dans la chaîne, laissant au fournisseur défaillant le temps de se rétablir avant une nouvelle tentative.

Cette cascade signifie qu’une panne d’un seul fournisseur ne met pas l’escalade hors service — elle se dégrade automatiquement vers le modèle disponible suivant.

Gestion du budget

Les Paliers 2 et 3 disposent chacun de leur propre budget d’appels mensuel, défini par organisation (valeurs par défaut : 500 appels au Palier 2, 50 appels au Palier 3 par mois).

Les budgets se réinitialisent automatiquement au début de chaque mois calendaire (UTC).
Si le budget d’un palier est épuisé avant la réinitialisation du mois, les questions suivantes sont traitées au palier inférieur (ou au Palier 1, si aucun palier d’escalade inférieur ne dispose de budget) plutôt que d’être bloquées.
L’utilisation du budget ne se reporte pas d’un mois à l’autre.

Impact sur la tarification

L’utilisation du Palier 1 (RAG) n’est pas affectée par l’escalade — elle reste incluse de la même manière qu’auparavant. Les appels des Paliers 2 et 3 consomment des crédits de budget sur votre forfait, car ils utilisent des appels de modèle plus coûteux que le RAG standard. Surveillez l’utilisation dans Paramètres → Paramètres IA et ajustez le Palier maximal ou les limites de budget si le volume d’escalade est plus élevé que prévu pour votre forfait.