路由分派
先判斷這是什么類型的請求,再交給對應的處理者。
形狀:一進多出,只走一條
什麼時候用
輸入異質、不同類别需要不同工具或不同提示詞。例如客服系統先分「退款/技術/諮詢」再分流。
什麼時候不要用
類别界線模糊,或一个請求同時屬于多類。硬分類會把模糊情況塞進錯誤的確定答案。
會怎麼壞
- 分類錯則全錯,而且錯得很安靜 —— 下游處理者會認真地回答一个錯誤的問題。
- 技能/工具太多時路由本身失效。本站實測:裝了 200+ 技能后,Agent 反而更常選錯工具。
- 新增類别需要改路由,而路由邏輯通常散落各處。
設計要點
路由要有「不確定」這个輸出,並且不確定時**停下來問**而不是選一个最像的。類别描述要用使用者的語言寫,不是用實現的語言 —— 關鍵詞不匹配是路由失敗的主因。
起源
分派是既有的系統形態;作為 LLM agent 模式沒有單一可指向的首次公開實作。