Harness(執行環境/框架)
又稱:agent harness · 執行框架 · harness 是什麼
包住模型的那一層程式:組上下文、呼叫模型、解析輸出、執行工具、管權限、把結果餵回去。
你會在什麼時候遇到它
同一個模型放進不同的 harness,表現可以差一大截。你在選工具時真正在選的,很大一部分是 harness。
打個比方
馬跟馬具。馬有力氣,但沒有馬具,力氣沒辦法變成拉車。模型是馬,harness 是馬具 —— 名字就是這個意思。
最小範例
harness 負責的事(模型一件都不做):
· 決定這次要送哪些上下文進去
· 把可用工具清單描述給模型
· 解析模型回傳,判斷是文字還是工具請求
· 真的去執行工具,並在受限環境裡執行
· 把結果接回上下文,再問一次
· 決定什麼時候停所以「AI 做錯事」通常不是模型壞,是 harness 的某個環節沒把好關。
1/8使用者請求
任務用自然語言進來。harness 要把它變成模型能處理的東西。
第 1 步,共 8 步 使用者請求
最常搞錯的地方
- 把 harness 跟 framework 混為一談。Framework(LangChain 這類)是給你蓋 harness 的零件庫;harness 是蓋出來、實際在跑的那個東西。
- 換了工具就以為換了模型。很多工具用的是同一批模型,差的是 harness。