အဆင့်ဆင့် အဆင့်မြှင့်တင်ခြင်း

အဆင့်ဆင့် အဆင့်မြှင့်တင်ခြင်း

v1.9

အဆင့်ဆင့် အဆင့်မြှင့်တင်ခြင်း (Tiered Escalation) သည် သင့် အသိပညာဗဟို RAG pipeline နောက်ကွယ်တွင် ရှိနေပြီး၊ မြန်ဆန်သော လမ်းကြောင်းက လုံလောက်စွာ ယုံကြည်မှုမရှိသည့်အခါ ပိုမိုအားကောင်းသော် — ပိုမိုကုန်ကျစရိတ်များသော — AI processing သို့ ခက်ခဲသည့် မေးခွန်းများကို အလိုအလျောက် ချိတ်ဆက်ပေးပါသည်။ မေးခွန်းအများစုသည် Tier 1 မှ ရွေ့လျားခြင်း မရှိပါ၊ လိုအပ်သော မေးခွန်းများသာ အဆင့်မြှင့်တင်ခံရပါသည်။

ဘာလုပ်ဆောင်သလဲ

ဝင်လာသော မေးခွန်းတိုင်းကို standard RAG pipeline က ဦးဆုံး ဖြေကြားပါသည်။ ထို pipeline ၏ ယုံကြည်မှုအဆင့် နည်းနေသည့်အခါ (သို့) မေးခွန်းသည် ပိုနက်ရှိုင်းသော ကျိုးကြောင်းဆင်ခြင်မှု လိုအပ်ပုံရသည့်အခါ (အဆင့်ဆင့်ဖြေရှင်းရသော “ဘယ်လိုလုပ်ရမလဲ…” ဆိုသည့် တောင်းဆိုမှုမျိုး၊ သို့မဟုတ် စာရွက်စာတမ်းတစ်ခုတည်းမှ bot က မဖြေရှင်းနိုင်သည့် လုပ်ဆောင်ချက်မျိုး) တွင်၊ စနစ်သည် အားနည်းသော (သို့) ယေဘုယျဖြေကြားချက် ပြန်ပေးမည့်အစား sync (သို့) async LLM tier သို့ မေးခွန်းကို အဆင့်မြှင့်တင် ပေးပို့ပါသည်။

Escalation သည် လုံးဝ အလိုအလျောက်ဖြစ်ပါသည် — ဧည့်သည်များသည် “tier” ကို မမြင်ရသလို ရွေးချယ်စရာလည်း မလုပ်ရပါ။ သူတို့ဘက်မှကြည့်လျှင် bot သည် ချက်ချင်း ဖြေကြားခြင်း သို့မဟုတ် ခဏနောက်ကျပြီး ပိုနက်ရှိုင်းသော အဖြေဖြင့် ပြန်ကြားခြင်းသာ ရှိပါသည်။

Tier အဆင့်များ အလုပ်လုပ်ပုံ

Tier	အမည်	ကြာချိန်	ဘာဖြစ်သလဲ
Tier 1	RAG (မူရင်း)	မြန်ဆန် — ပုံမှန်အားဖြင့် <1s	လက်ရှိ အသိပညာဗဟို ရှာဖွေခြင်း + ထုတ်လုပ်ခြင်း။ v1.9 မတိုင်မီနှင့် အပြုအမူ ပြောင်းလဲမှု မရှိပါ။
Tier 2	Sync LLM Escalation	3–8 စက္ကန့်	RAG တစ်ခုတည်းဖြင့် ယုံကြည်စွာ မဖြေနိုင်သော မေးခွန်းများအတွက် ဧည့်သည် စောင့်ဆိုင်းနေစဉ် synchronous ဖြင့် ခေါ်ဆိုသည့် ပိုအားကောင်းသော model ခေါ်ဆိုမှု။
Tier 3	Async Investigation	2–5 မိနစ်	အသေးစိတ်ဖြေကြားချက်တစ်ခု ထုတ်လုပ်ရန် အချိန်ပိုနှင့် context ပိုများစွာ ယူနိုင်သည့် နောက်ကွယ် စုံစမ်းစစ်ဆေးမှု job တစ်ခု ဖြစ်ပြီး၊ အသင့်ဖြစ်သည်နှင့် စကားဝိုင်းထဲသို့ ပေးပို့ပါသည်။

Note

Tier 1 သည် မပြောင်းလဲပါ — ၎င်းသည် အသိပညာဗဟို နှင့် RAG တွင် မှတ်တမ်းတင်ထားသော RAG pipeline အတိုင်းပင် ဖြစ်ပါသည်။ Tier 2 နှင့် 3 တို့သည် Tier 1 လုံလောက်မှု မရှိသည့်အခါမှသာ အသက်ဝင်လာသည့် အသစ်ဖြစ်သော ထပ်တိုးစွမ်းရည်များ ဖြစ်ပါသည်။

Tier 2 — Sync LLM Escalation

RAG ရှာဖွေမှုထက် ပိုမိုကျိုးကြောင်းဆင်ခြင်ရန် လိုအပ်သော်လည်း၊ စကားဝိုင်း အလှည့်တူညီချင်းတွင်ပင် အဖြေရရှိရန် မျှော်လင့်ရသည့် မေးခွန်းများအတွက် အသုံးပြုပါသည်။ စနစ်သည် ရှာဖွေတွေ့ရှိထားသော အသိပညာဗဟို context နှင့်အတူ ပိုမိုစွမ်းရည်ကောင်းသော model ကို synchronous ဖြင့် ခေါ်ဆိုပြီး chat ထဲသို့ တိုက်ရိုက် အဖြေပြန်ပေးပါသည် — ဧည့်သည်သည် “နောက်မှ ပြန်ဆက်သွယ်ပါမည်” ဟူသော ပျက်ကွက်မှု သို့မဟုတ် နှောင့်နှေးမှုမျိုး မဟုတ်ဘဲ၊ အနည်းငယ် ပိုရှည်သော အဖြေကိုသာ ခံစားရပါသည်။

Tier 3 — Async Investigation

အမှန်တကယ် ပိုနက်ရှိုင်းသော စုံစမ်းစစ်ဆေးမှု လိုအပ်သည့် မေးခွန်းများ — အဆင့်ဆင့် ကျိုးကြောင်းဆင်ခြင်မှု၊ စာရွက်စာတမ်းများစွာကို ကိုးကားနှိုင်းယှဉ်ခြင်း၊ သို့မဟုတ် လူသား agent တစ်ဦးက မိနစ်အနည်းငယ် ယူပြီး စနစ်တကျ လေ့လာရမည့် မေးခွန်းအမျိုးအစားများအတွက် အသုံးပြုပါသည်။ မေးခွန်းကို နောက်ကွယ် job တစ်ခုအဖြစ် queue တန်းစီပေးထားပြီး၊ ဧည့်သည်အား အဖြေတစ်ခု ပြင်ဆင်နေကြောင်း အသိပေးထားကာ၊ စုံစမ်းစစ်ဆေးမှု အောင်မြင်စွာ ပြီးစီးပါက အဖြေကို စကားဝိုင်းထဲသို့ အလိုအလျောက် ပေးပို့ပါသည်။

Caution

မော်ဒယ် ကွင်းဆက် ထဲရှိ မော်ဒယ်အားလုံး အသုံးမပြုနိုင်သည့် ရှားပါးအခြေအနေများတွင် စုံစမ်းစစ်ဆေးမှု ပြီးစီးရန် ձախողနိုင်ပါသည်။ ထိုအခြေအနေတွင် အလိုအလျောက် အစားထိုးစာသား မပို့ပါ — Tier 3 အဖြေသည် မိနစ်အနည်းငယ်အတွင်း မရောက်ရှိပါက စကားဝိုင်းကို ကိုယ်တိုင်စစ်ဆေးပါ။

ချိတ်ဆက်ပို့ဆောင်မှု ယုတ္တိ

ချိတ်ဆက်ပို့ဆောင်မှုသည် အလိုအလျောက်ဖြစ်ပြီး signal နှစ်ခုအပေါ် အခြေခံပါသည် —

1. အသိပညာဗဟို ယုံကြည်မှုအဆင့် — RAG pipeline ၏ ရှာဖွေမှု/အဖြေ ယုံကြည်မှုအဆင့် score။ ယုံကြည်မှု မြင့်လျှင် Tier 1 တွင်သာ ဆက်ရှိနေမည်။ ယုံကြည်မှု နိမ့်လေလေ Tier 2 (သို့) Tier 3 သို့ မည်မျှနိမ့်သည်ပေါ် မူတည်ပြီး အဆင့်မြှင့်တင်လေဖြစ်ပါသည်။
2. မေးခွန်းအမျိုးအစား — အချို့သော မေးခွန်းပုံစံများ (အဆင့်ဆင့် တောင်းဆိုမှုများ၊ bot တစ်ကိုယ်တည်း မလုပ်ဆောင်နိုင်သော လုပ်ဆောင်ချက် တောင်းဆိုမှုများ၊ ရှင်းလင်းသော “investigate” ပုံစံ မေးခွန်းများ) ကို ယုံကြည်မှုအဆင့်တစ်ခုတည်းကြောင့် အဆင့်မြှင့်တင်ခြင်း မဖြစ်ပေါ်နိုင်သည့်တိုင် escalation ဘက်သို့ ချိတ်ဆက်ပေးပါသည်။

Escalation သည် organization အတွက် ဖွင့်ထားပြီး budget အတွင်းရှိမှသာ ဖြစ်ပေါ်ပါသည် — အောက်ပါ စီမံခန့်ခွဲသူ ပြင်ဆင်သတ်မှတ်ချက် ကို ကြည့်ပါ။ escalation ကို ပိတ်ထားလျှင်၊ max tier ကို 1 ဟု သတ်မှတ်ထားလျှင်၊ သို့မဟုတ် budget ကုန်သွားလျှင်၊ bot သည် မဖြေကြားဘဲ ကျန်ရစ်မည့်အစား၊ ၎င်း၏ အကောင်းဆုံး Tier 1 အဖြေကို ပြန်အသုံးပြုပါသည်။

စီမံခန့်ခွဲသူ ပြင်ဆင်သတ်မှတ်ချက်

Escalation ကို organization တစ်ခုစီအလိုက် Settings → AI Settings တွင် ပြင်ဆင်သတ်မှတ်ပါသည်။ ဆက်တင် အသေးစိတ် အပြည့်အစုံအတွက် AI ဆက်တင်များ နှင့် တုံ့ပြန်မှု ဘာသာစကား — Tiered Escalation ကို ကြည့်ပါ။ အနှစ်ချုပ်အားဖြင့် —

• ဖွင့်ရန်/ပိတ်ရန် — escalation သည် မူရင်းအားဖြင့် ပိတ်ထားပါသည်၊ org admin က ၎င်းကို ဖွင့်ပေးရမည်။
• Max Tier — မေးခွန်းတစ်ခု မည်မျှ အဆင့်မြှင့်တင်နိုင်သည်ကို ကန့်သတ်ပါသည် (1 = RAG သာ၊ 2 = sync LLM ကို ခွင့်ပြု၊ 3 = async စုံစမ်းစစ်ဆေးမှု အပြည့်အစုံ ခွင့်ပြု)။
• Budget ကန့်သတ်ချက်များ — Tier 2 နှင့် Tier 3 အတွက် သီးခြား လစဉ် call budget များ ရှိသဖြင့် escalation ကုန်ကျစရိတ်ကို ကြိုတင်ခန့်မှန်းနိုင်ပါသည်။

မော်ဒယ် ကွင်းဆက်

1. Escalation တောင်းဆိုချက်များကို primary model သို့ ပေးပို့ပါသည်။

2. primary model မအောင်မြင်ပါက (သို့) မရရှိနိုင်ပါက၊ တောင်းဆိုချက်သည် ပြင်ဆင်သတ်မှတ်ထားသော cascade ထဲမှ နောက်တစ်ခုသော model သို့ အလိုအလျောက် fail over ဖြစ်သွားပါသည် — ဧည့်သည်သည် ပျက်ကွက်မှုကို လုံးဝ မမြင်ရပါ။

3. model တစ်ခုသည် ထပ်ခါထပ်ခါ မအောင်မြင်ပါက၊ circuit breaker သည် ထို model သို့ တောင်းဆိုချက် ပေးပို့ခြင်းကို ယာယီ ရပ်တန့်ပြီး၊ ကွင်းဆက်ထဲမှ နောက်တစ်ခုသော model သို့သာ ချိတ်ဆက်ပေးလိုက်သဖြင့်၊ ပြဿနာရှိနေသော provider အား ထပ်မံ မစမ်းသပ်မီ ပြန်လည်ကောင်းမွန်ရန် အချိန်ပေးပါသည်။

ဤ cascade ကြောင့် provider တစ်ခု ရပ်တန့်သွားလျှင်ပင် escalation တစ်ခုလုံး offline မဖြစ်သွားပါ — ၎င်းသည် ရရှိနိုင်သော နောက်တစ်ခုသော model သို့ အလိုအလျောက် ကျဆင်းသွားခြင်း (degrade) ဖြစ်ပါသည်။

ဘတ်ဂျက် စီမံခန့်ခွဲမှု

Tier 2 နှင့် Tier 3 တစ်ခုစီတွင် ၎င်းတို့၏ လစဉ် call budget ကိုယ်ပိုင် ရှိပါသည်၊ organization တစ်ခုစီအလိုက် သတ်မှတ်ထားပါသည် (မူရင်း — Tier 2 call 500၊ Tier 3 call 50 လစဉ်)။

• Budget များကို ပြက္ခဒိန်လ တစ်လစီ၏ အစတွင် (UTC) အလိုအလျောက် ပြန်လည်သတ်မှတ် ပါသည်။
• tier တစ်ခု၏ budget သည် လကုန်ဆုံးမီ ကုန်ဆုံးသွားပါက၊ နောက်ထပ် မေးခွန်းများကို ပိတ်ဆို့မည့်အစား tier အောက်တစ်ခု (သို့) budget ရှိသေးသော escalation tier မရှိတော့ပါက Tier 1) တွင် ကိုင်တွယ်ဖြေကြားပါသည်။
• Budget အသုံးပြုမှုသည် လအချင်းချင်းကြား roll over မဖြစ်ပါ။

စျေးနှုန်း အပေါ် သက်ရောက်မှု

Tier 1 (RAG) အသုံးပြုမှုသည် escalation ကြောင့် ထိခိုက်မှု မရှိပါ — အရင်ကအတိုင်းပင် ထည့်သွင်းထားပါသည်။ Tier 2 နှင့် Tier 3 call များသည် standard RAG ထက် ပိုကုန်ကျသော model call များ အသုံးပြုသောကြောင့်၊ သင့် plan ၏ budget credit များကို စားသုံးပါသည်။ Settings → AI Settings တွင် အသုံးပြုမှုကို စောင့်ကြည့်ပြီး၊ escalation ပမာဏသည် သင့် plan အတွက် မျှော်မှန်းထားသည်ထက် ပိုများနေပါက Max Tier (သို့) budget ကန့်သတ်ချက်များကို ချိန်ညှိပါ။