階層型エスカレーション

v1.9

Tiered Escalation（階層型エスカレーション）は、ナレッジベースのRAGパイプラインの背後で動作し、高速パスが十分な確信度で回答できない場合に、より高度で—より高コストな—AI処理へ難しい質問を自動的にルーティングします。ほとんどの質問はTier 1のまま完結し、エスカレーションが必要な質問だけが上位のティアへ進みます。

何を行うか

受信したすべての質問は、まず標準のRAGパイプラインによって回答されます。このパイプラインの確信度が低い場合、または質問がより深い推論を必要としているように見える場合（複数ステップの「〜する方法は？」といった質問や、単一のドキュメントだけでは解決できないアクションの要求など）、システムは弱い回答や一般的な回答を返す代わりに、質問を同期または非同期のLLMティアへエスカレーションします。

エスカレーションは完全に自動で行われます—訪問者が「ティア」を目にしたり、選択を行ったりすることはありません。訪問者から見ると、ボットはすぐに回答するか、少し時間をおいてより深い回答を返すかのいずれかです。

各ティアの仕組み

Tier	名称	レイテンシ	処理内容
Tier 1	RAG（デフォルト）	高速 — 通常<1秒	既存のナレッジベース検索＋生成。v1.9以前から動作に変更はありません。
Tier 2	同期LLMエスカレーション	3〜8秒	RAG単体では確信を持って回答できない質問に対して、訪問者が待っている間に同期的に行われる、より強力なモデル呼び出し。
Tier 3	非同期調査	2〜5分	より多くの時間とコンテキストを使って十分な回答を作成するバックグラウンド調査ジョブ。準備が整い次第、会話に配信されます。

Tier 2 — 同期LLMエスカレーション

質問がRAG検索だけでは対応しきれない推論を必要とするものの、同じ会話ターン内での回答が求められる場合に使用されます。システムは、検索されたナレッジベースのコンテキストとともに、より高性能なモデルを同期的に呼び出し、チャット内に直接回答を返します—訪問者にとっては、遅延や「後ほどご連絡します」というメッセージではなく、わずかに長い返信として体験されます。

Tier 3 — 非同期調査

複数ステップの推論や複数ドキュメントの照合など、本当に深い調査を必要とする質問、あるいは人間のエージェントがきちんと調べるのに数分かかるような質問に使用されます。質問はバックグラウンドジョブとしてキューに入れられ、訪問者には回答を準備中である旨が伝えられます。調査が正常に完了した場合、回答は自動的に会話に配信されます。

ルーティングロジック

ルーティングは自動で行われ、2つのシグナルに基づいています。

ナレッジベースの確信度 — RAGパイプラインの検索・回答の確信度スコア。確信度が高い場合はTier 1のままとなります。確信度が低いほど、Tier 2またはTier 3へエスカレーションします。
質問の種類 — 特定の質問の形（複数ステップの依頼、ボットが単独では実行できないアクションの依頼、明示的な「調査して」といったタイプの質問）は、確信度だけではエスカレーションが発生しない場合でも、エスカレーションへルーティングされます。

エスカレーションは、組織に対して有効化されており、かつ予算内である場合にのみ発生します—詳細は下記の管理者設定を参照してください。エスカレーションが無効になっている場合、最大ティアが1に設定されている場合、または予算を超過している場合、ボットは応答に失敗する代わりに、最善のTier 1の回答にフォールバックします。

管理者設定

エスカレーションは、組織ごとに設定 → AI設定で構成します。設定の詳細な一覧についてはAI設定と応答言語 — 階層型エスカレーションを参照してください。要点は以下の通りです。

有効化/無効化 — エスカレーションはデフォルトで無効になっており、組織の管理者が有効にする必要があります。
最大ティア — 質問がどこまでエスカレーションできるかの上限（1 = RAGのみ、2 = 同期LLMを許可、3 = 完全な非同期調査を許可）。
予算上限 — Tier 2とTier 3それぞれに月間の呼び出し予算を分けて設定できるため、エスカレーションのコストを予測可能に保てます。

モデルチェーン

エスカレーションのリクエストはプライマリモデルに送信されます。
プライマリモデルが失敗した場合、または利用できない場合、リクエストは設定されたカスケード内の次のモデルへ自動的にフェイルオーバーします—訪問者が失敗を目にすることはありません。
モデルが繰り返し失敗する場合、サーキットブレーカーが一時的にそのモデルへのリクエスト送信を停止し、チェーン内の次のモデルへ専ら振り分けます。これにより、障害が発生しているプロバイダーが再試行されるまでの間に回復する時間を確保します。

このカスケードにより、単一のプロバイダーの障害がエスカレーション機能全体を停止させることはありません—自動的に次に利用可能なモデルへ切り替わります。

予算管理

Tier 2とTier 3にはそれぞれ独自の月間呼び出し予算があり、組織ごとに設定されます（デフォルト: Tier 2が月500回、Tier 3が月50回）。

予算は各暦月の初め（UTC）に自動的にリセットされます。
月がリセットされる前にあるティアの予算が枯渇した場合、それ以降の質問はブロックされるのではなく、一段階下のティア（それより下のエスカレーションティアにも予算がない場合はTier 1）で処理されます。
予算の使用量は月をまたいで繰り越されません。

料金への影響

Tier 1（RAG）の利用はエスカレーションの影響を受けません—これまでと同様にプランに含まれています。Tier 2とTier 3の呼び出しは、標準のRAGよりもコストの高いモデル呼び出しを使用するため、プランの予算クレジットを消費します。設定 → AI設定で使用状況を監視し、エスカレーションの発生量がプランの想定より多い場合は、最大ティアや予算上限を調整してください。