Eskalasi Bertingkat

Eskalasi Bertingkat

v1.9

Eskalasi Bertingkat berada di belakang saluran paip RAG Pangkalan Pengetahuan anda dan secara automatik menghalakan soalan yang lebih sukar kepada pemprosesan AI yang lebih berkuasa — dan lebih mahal — apabila laluan pantas tidak cukup yakin untuk menjawab dengan baik. Kebanyakan soalan tidak pernah meninggalkan Tier 1; hanya soalan yang memerlukannya sahaja akan dieskalasikan.

Apa yang Dilakukannya

Setiap soalan yang masuk dijawab dahulu oleh saluran paip RAG standard. Apabila keyakinan saluran paip itu rendah, atau soalan itu kelihatan memerlukan penaakulan yang lebih mendalam (permintaan “bagaimana saya…” pelbagai langkah, atau tindakan yang tidak dapat diselesaikan oleh bot daripada satu dokumen sahaja), sistem akan mengeskalasikan soalan tersebut ke tingkatan LLM segerak atau tak segerak dan bukannya memberikan jawapan yang lemah atau generik.

Eskalasi adalah automatik sepenuhnya — pelawat tidak pernah melihat “tingkatan” atau membuat pilihan. Dari sudut mereka, bot sama ada menjawab dengan serta-merta atau membalas sedikit lewat dengan jawapan yang lebih mendalam.

Cara Tingkatan Berfungsi

Tier	Nama	Kependaman	Apa yang Berlaku
Tier 1	RAG (lalai)	Pantas — biasanya <1s	Pengambilan + penjanaan pangkalan pengetahuan sedia ada. Tiada perubahan tingkah laku berbanding sebelum v1.9.
Tier 2	Eskalasi LLM Segerak	3–8 saat	Panggilan model yang lebih kuat, dibuat secara segerak semasa pelawat menunggu, untuk soalan yang tidak dapat dijawab dengan yakin oleh RAG sahaja.
Tier 3	Penyiasatan Tak Segerak	2–5 minit	Kerja penyiasatan latar belakang yang boleh mengambil lebih banyak masa dan konteks untuk menghasilkan jawapan yang menyeluruh, disampaikan ke dalam perbualan sebaik sahaja sedia.

Note

Tier 1 tidak berubah — ia adalah saluran paip RAG yang sama seperti yang didokumenkan dalam Pangkalan Pengetahuan & RAG. Tier 2 dan 3 ialah keupayaan tambahan baharu yang hanya diaktifkan apabila Tier 1 tidak mencukupi.

Tier 2 — Eskalasi LLM Segerak

Digunakan apabila soalan memerlukan penaakulan yang lebih daripada yang boleh disediakan oleh pengambilan RAG, tetapi jawapan masih dijangka dalam giliran perbualan yang sama. Sistem memanggil model yang lebih berkeupayaan secara segerak, dengan konteks pangkalan pengetahuan yang diambil, dan memulangkan jawapan terus dalam sembang — pelawat mengalami balasan yang sedikit lebih lama, bukan kelewatan atau mesej “kami akan menghubungi anda semula”.

Tier 3 — Penyiasatan Tak Segerak

Digunakan untuk soalan yang benar-benar memerlukan penyiasatan yang lebih mendalam — penaakulan pelbagai langkah, rujuk silang beberapa dokumen, atau jenis soalan yang memerlukan ejen manusia beberapa minit untuk menyiasatnya dengan betul. Soalan itu dimasukkan ke dalam baris gilir sebagai kerja latar belakang; pelawat diberitahu bahawa jawapan sedang disediakan, dan jika penyiasatan selesai dengan jayanya, jawapan itu disampaikan ke dalam perbualan secara automatik.

Caution

Dalam kes jarang berlaku apabila semua model dalam rantaian model tidak tersedia, penyiasatan mungkin gagal diselesaikan. Tiada mesej ganti automatik dihantar dalam kes tersebut — jika jawapan Tier 3 tidak tiba dalam beberapa minit, semak perbualan secara manual.

Logik Penghalaan

Penghalaan adalah automatik dan berdasarkan dua isyarat:

1. Keyakinan pangkalan pengetahuan — skor keyakinan pengambilan/jawapan saluran paip RAG. Keyakinan tinggi kekal pada Tier 1. Keyakinan yang lebih rendah dieskalasikan ke Tier 2 atau Tier 3 bergantung pada tahap rendahnya.
2. Jenis soalan — bentuk soalan tertentu (permintaan pelbagai langkah, permintaan tindakan yang tidak dapat dilakukan sendiri oleh bot, soalan bergaya “siasat” yang jelas) dihalakan ke arah eskalasi walaupun keyakinan sahaja mungkin tidak mencetuskannya.

Eskalasi hanya berlaku jika ia didayakan untuk organisasi dan dalam bajet — lihat Konfigurasi Pentadbir di bawah. Jika eskalasi dilumpuhkan, pada tingkatan maksimum 1, atau kehabisan bajet, bot akan kembali kepada jawapan Tier 1 terbaiknya dan bukannya gagal memberi respons.

Konfigurasi Pentadbir

Eskalasi dikonfigurasikan bagi setiap organisasi dalam Tetapan → Tetapan AI. Lihat Tetapan AI & Bahasa Respons — Eskalasi Bertingkat untuk rujukan tetapan yang lengkap. Ringkasannya:

• Dayakan/Lumpuhkan — eskalasi dimatikan secara lalai; pentadbir organisasi mesti menghidupkannya.
• Tingkatan Maksimum — mengehadkan sejauh mana soalan boleh dieskalasikan (1 = RAG sahaja, 2 = benarkan LLM segerak, 3 = benarkan penyiasatan tak segerak penuh).
• Had Bajet — bajet panggilan bulanan berasingan untuk Tier 2 dan Tier 3, supaya kos eskalasi kekal boleh diramal.

Rantaian Model

1. Permintaan eskalasi dihantar kepada model utama.

2. Jika model utama gagal atau tidak tersedia, permintaan secara automatik beralih ke model seterusnya dalam lata yang dikonfigurasikan — pelawat tidak akan melihat kegagalan tersebut.

3. Jika sesuatu model gagal berulang kali, pemutus litar akan berhenti menghantar permintaan kepadanya buat sementara waktu dan menghalakan secara eksklusif kepada model seterusnya dalam rantaian, memberi masa kepada penyedia yang gagal itu untuk pulih sebelum dicuba semula.

Lata ini bermakna gangguan pada satu penyedia sahaja tidak akan menyebabkan eskalasi terputus — ia akan beralih secara automatik kepada model seterusnya yang tersedia.

Pengurusan Bajet

Tier 2 dan Tier 3 masing-masing mempunyai bajet panggilan bulanan tersendiri, ditetapkan bagi setiap organisasi (lalai: 500 panggilan Tier 2, 50 panggilan Tier 3 sebulan).

• Bajet ditetapkan semula secara automatik pada permulaan setiap bulan kalendar (UTC).
• Jika bajet sesuatu tingkatan habis sebelum bulan itu ditetapkan semula, soalan seterusnya akan dikendalikan pada tingkatan yang lebih rendah (atau pada Tier 1, jika tiada tingkatan eskalasi yang lebih rendah mempunyai bajet) dan bukannya disekat.
• Penggunaan bajet tidak dibawa ke bulan berikutnya.

Kesan Harga

Penggunaan Tier 1 (RAG) tidak terjejas oleh eskalasi — ia disertakan dengan cara yang sama seperti sebelumnya. Panggilan Tier 2 dan Tier 3 menggunakan kredit bajet daripada pelan anda, kerana ia menggunakan panggilan model yang lebih mahal berbanding RAG standard. Pantau penggunaan dalam Tetapan → Tetapan AI dan laraskan Tingkatan Maksimum atau had bajet jika jumlah eskalasi lebih tinggi daripada jangkaan untuk pelan anda.