การยกระดับคำถามแบบหลายชั้น

การยกระดับคำถามแบบหลายชั้น

v1.9

ระบบยกระดับคำถามแบบหลายชั้น (Tiered Escalation) ทำงานอยู่เบื้องหลังไปป์ไลน์ RAG ของฐานความรู้ และจะเปลี่ยนเส้นทางคำถามที่ยากขึ้นไปยังการประมวลผล AI ที่ทรงพลังกว่า — และมีต้นทุนสูงกว่า — โดยอัตโนมัติ เมื่อเส้นทางที่รวดเร็วไม่มั่นใจมากพอที่จะตอบได้ดี คำถามส่วนใหญ่จะไม่หลุดจาก Tier 1 เลย มีเพียงคำถามที่จำเป็นเท่านั้นที่จะถูกยกระดับ

ระบบทำอะไรบ้าง

ทุกคำถามที่เข้ามาจะถูกตอบด้วยไปป์ไลน์ RAG มาตรฐานก่อนเป็นอันดับแรก เมื่อความมั่นใจของไปป์ไลน์นั้นต่ำ หรือคำถามดูเหมือนต้องการการให้เหตุผลที่ลึกกว่า (คำขอแบบหลายขั้นตอนประเภท “ทำอย่างไรถึงจะ…” หรือการกระทำที่บอทไม่สามารถหาคำตอบได้จากเอกสารเพียงฉบับเดียว) ระบบจะยกระดับคำถามไปยัง LLM แบบซิงโครนัสหรืออะซิงโครนัส แทนที่จะตอบด้วยคำตอบที่อ่อนหรือคลุมเครือ

การยกระดับเป็นไปโดยอัตโนมัติทั้งหมด — ผู้เยี่ยมชมจะไม่เห็น “ชั้น (tier)” ใด ๆ หรือต้องเลือกอะไรเลย จากมุมมองของพวกเขา บอทจะตอบทันที หรือตอบกลับในภายหลังเล็กน้อยด้วยคำตอบที่ลึกซึ้งกว่า

แต่ละชั้นทำงานอย่างไร

ชั้น	ชื่อ	เวลาแฝง	สิ่งที่เกิดขึ้น
Tier 1	RAG (ค่าเริ่มต้น)	รวดเร็ว — โดยทั่วไป <1 วินาที	การดึงข้อมูลและสร้างคำตอบจากฐานความรู้แบบเดิม ไม่มีการเปลี่ยนแปลงพฤติกรรมจากก่อน v1.9
Tier 2	การยกระดับด้วย LLM แบบซิงโครนัส	3–8 วินาที	การเรียกใช้โมเดลที่ทรงพลังกว่าแบบซิงโครนัส ในขณะที่ผู้เยี่ยมชมรอ สำหรับคำถามที่ RAG เพียงอย่างเดียวไม่สามารถตอบได้อย่างมั่นใจ
Tier 3	การสืบสวนแบบอะซิงโครนัส	2–5 นาที	งานสืบสวนเบื้องหลังที่ใช้เวลาและบริบทมากกว่าเพื่อสร้างคำตอบที่ละเอียดถี่ถ้วน และส่งเข้าสู่บทสนทนาเมื่อพร้อม

Note

Tier 1 ไม่มีการเปลี่ยนแปลง — เป็นไปป์ไลน์ RAG เดียวกันกับที่ระบุไว้ใน ฐานความรู้และ RAG Tier 2 และ Tier 3 เป็นความสามารถใหม่ที่เพิ่มเข้ามา และจะทำงานก็ต่อเมื่อ Tier 1 ไม่เพียงพอเท่านั้น

Tier 2 — การยกระดับด้วย LLM แบบซิงโครนัส

ใช้เมื่อคำถามต้องการการให้เหตุผลมากกว่าที่การดึงข้อมูลของ RAG จะให้ได้ แต่ยังคาดหวังคำตอบภายในรอบการสนทนาเดียวกัน ระบบจะเรียกใช้โมเดลที่มีความสามารถสูงกว่าแบบซิงโครนัส พร้อมบริบทจากฐานความรู้ที่ดึงมาได้ และส่งคำตอบกลับเข้าไปในแชทโดยตรง — ผู้เยี่ยมชมจะรู้สึกว่าได้รับคำตอบที่ช้าลงเล็กน้อย ไม่ใช่ความล่าช้าหรือข้อความประเภท “เดี๋ยวเราจะติดต่อกลับ”

Tier 3 — การสืบสวนแบบอะซิงโครนัส

ใช้สำหรับคำถามที่ต้องการการสืบสวนเชิงลึกอย่างแท้จริง — การให้เหตุผลแบบหลายขั้นตอน การอ้างอิงข้ามเอกสารหลายฉบับ หรือคำถามประเภทที่เจ้าหน้าที่มนุษย์ต้องใช้เวลาสักครู่เพื่อตรวจสอบอย่างละเอียด คำถามจะถูกส่งเข้าคิวเป็นงานเบื้องหลัง โดยผู้เยี่ยมชมจะได้รับแจ้งว่ากำลังเตรียมคำตอบอยู่ และหากการสืบสวนเสร็จสมบูรณ์ คำตอบจะถูกส่งเข้าสู่บทสนทนาโดยอัตโนมัติ

Caution

ในบางกรณีที่โมเดลทั้งหมดในลำดับโมเดลไม่พร้อมใช้งาน การสืบสวนอาจไม่เสร็จสมบูรณ์ ในกรณีนี้ระบบจะไม่ส่งข้อความสำรองอัตโนมัติใด ๆ — หากคำตอบระดับ 3 ไม่มาถึงภายในไม่กี่นาที ให้ตรวจสอบบทสนทนาด้วยตนเอง

ตรรกะการกำหนดเส้นทาง

การกำหนดเส้นทางเป็นไปโดยอัตโนมัติ และอิงจากสัญญาณสองอย่าง:

1. ความมั่นใจของฐานความรู้ (Knowledge base confidence) — คะแนนความมั่นใจในการดึงข้อมูล/คำตอบของไปป์ไลน์ RAG ความมั่นใจสูงจะอยู่ที่ Tier 1 ความมั่นใจต่ำจะถูกยกระดับไปยัง Tier 2 หรือ Tier 3 ขึ้นอยู่กับว่าต่ำมากน้อยเพียงใด
2. ประเภทของคำถาม (Question type) — คำถามบางรูปแบบ (คำขอแบบหลายขั้นตอน คำขอให้ทำสิ่งที่บอทไม่สามารถทำเองได้ หรือคำถามที่ระบุชัดเจนว่าต้องการให้ “สืบสวน”) จะถูกส่งไปยกระดับแม้ว่าความมั่นใจเพียงอย่างเดียวอาจไม่กระตุ้นให้เกิดการยกระดับก็ตาม

การยกระดับจะเกิดขึ้นได้ก็ต่อเมื่อเปิดใช้งานสำหรับองค์กรนั้น และยังอยู่ภายในงบประมาณเท่านั้น — ดู การกำหนดค่าผู้ดูแลระบบ ด้านล่าง หากปิดการยกระดับไว้ ตั้งค่าสูงสุดไว้ที่ tier 1 หรืองบประมาณหมด บอทจะย้อนกลับไปใช้คำตอบที่ดีที่สุดของ Tier 1 แทนที่จะไม่ตอบกลับเลย

การกำหนดค่าผู้ดูแลระบบ

การยกระดับถูกกำหนดค่าแยกตามแต่ละองค์กรใน การตั้งค่า → AI Settings ดู AI Settings & Response Language — การยกระดับคำถามแบบหลายชั้น สำหรับข้อมูลอ้างอิงการตั้งค่าฉบับเต็ม โดยสรุป:

• เปิด/ปิดใช้งาน (Enable/Disable) — การยกระดับจะปิดอยู่โดยค่าเริ่มต้น ผู้ดูแลระบบขององค์กรต้องเปิดใช้งานเอง
• ระดับสูงสุด (Max Tier) — กำหนดขีดจำกัดว่าคำถามจะถูกยกระดับไปได้ไกลแค่ไหน (1 = RAG เท่านั้น, 2 = อนุญาต sync LLM, 3 = อนุญาตการสืบสวนแบบอะซิงโครนัสเต็มรูปแบบ)
• ขีดจำกัดงบประมาณ (Budget Limits) — งบประมาณการเรียกใช้งานรายเดือนที่แยกกันสำหรับ Tier 2 และ Tier 3 เพื่อให้ต้นทุนการยกระดับคาดการณ์ได้

ลำดับโมเดล

1. คำขอยกระดับจะถูกส่งไปยัง โมเดลหลัก (primary model)

2. หากโมเดลหลักล้มเหลวหรือไม่พร้อมใช้งาน คำขอจะ สลับไปยังโมเดลสำรอง (fail over) ไปยังโมเดลถัดไปในลำดับที่กำหนดไว้โดยอัตโนมัติ — ผู้เยี่ยมชมจะไม่เห็นความล้มเหลวนี้เลย

3. หากโมเดลล้มเหลวซ้ำ ๆ circuit breaker จะหยุดส่งคำขอไปยังโมเดลนั้นชั่วคราว และส่งคำขอทั้งหมดไปยังโมเดลถัดไปในลำดับแทน เพื่อให้ผู้ให้บริการที่ล้มเหลวมีเวลาฟื้นตัวก่อนที่จะลองใช้งานอีกครั้ง

ลำดับการสำรองนี้หมายความว่าหากผู้ให้บริการรายใดรายหนึ่งขัดข้อง จะไม่ทำให้การยกระดับหยุดทำงานทั้งหมด — ระบบจะลดระดับไปใช้โมเดลถัดไปที่พร้อมใช้งานโดยอัตโนมัติ

การจัดการงบประมาณ

Tier 2 และ Tier 3 ต่างก็มี งบประมาณการเรียกใช้งานรายเดือน (monthly call budget) ของตัวเอง ซึ่งกำหนดแยกตามแต่ละองค์กร (ค่าเริ่มต้น: 500 ครั้งสำหรับ Tier 2 และ 50 ครั้งสำหรับ Tier 3 ต่อเดือน)

• งบประมาณจะ รีเซ็ตโดยอัตโนมัติ (reset automatically) เมื่อเริ่มต้นเดือนตามปฏิทินแต่ละเดือน (UTC)
• หากงบประมาณของชั้นใดหมดก่อนถึงรอบรีเซ็ตของเดือน คำถามที่ตามมาจะถูกจัดการที่ชั้นถัดลงมา (หรือที่ Tier 1 หากไม่มีชั้นยกระดับที่ต่ำกว่ามีงบประมาณเหลือ) แทนที่จะถูกบล็อก
• การใช้งบประมาณจะไม่ยกยอดไปยังเดือนถัดไป

ผลกระทบต่อค่าใช้จ่าย

การใช้งาน Tier 1 (RAG) จะไม่ได้รับผลกระทบจากการยกระดับ — ยังคงรวมอยู่ในแพ็กเกจเช่นเดิมเหมือนที่ผ่านมา การเรียกใช้งาน Tier 2 และ Tier 3 จะใช้ เครดิตงบประมาณ (budget credits) จากแพ็กเกจของคุณ เนื่องจากใช้การเรียกโมเดลที่มีต้นทุนสูงกว่า RAG มาตรฐาน ตรวจสอบการใช้งานได้ใน การตั้งค่า → AI Settings และปรับระดับสูงสุด (Max Tier) หรือขีดจำกัดงบประมาณ หากปริมาณการยกระดับสูงกว่าที่คาดไว้สำหรับแพ็กเกจของคุณ