Agent 上線：部署、監控與成本控制

這個場景解決什麼問題

本機跑得通，上線就出事：成本失控、錯誤沒人知道、無法回溯。

工具組合

這不是唯一解，但這個組合我們驗證過可以跑通。每個工具都連到它的完整評測，含「不適合誰」。

1. 01
   vLLM開源社群（源於 UC Berkeley）

   高吞吐量的 LLM 推論伺服器，生產環境自架首選

2. 02
   OpenClaw開源社群

   以 Skills 驅動的開源 Agent 框架，本站大量實測的對象

3. 03
   Claude CodeAnthropic

   跑在終端機的 Agent 編程工具，可指向任意 OpenAI 相容後端

做完你會拿到

完整步驟

1. 01安裝
2. 02部署模型
3. 03在 Claude Code 中使用
4. 04效能調優
5. 05PagedAttention 與 KV Cache 的取捨
6. 06部署參數的實務調整
7. 07效能基準測試方法

相鄰的場景

• 多語內容本地化流水線（含品質檢查）
  1 天建立含驗證的流水線 · 7 個步驟
• 用 MCP 把自家系統接進 AI 工具
  2 天完成一個可用的 MCP Server · 8 個步驟
• 多 Agent 分工完成複雜任務
  1 天搭出可運作的分工架構 · 8 個步驟