人工閘門
關鍵步驟停下來等人批准,其余自動。
形狀:自動流程中插入的決策點
什麼時候用
不可逆或高成本的動作:刪除數據、對外發送、花錢、部署、修改權限。閘門要放在**動作之前**,不是之后。
什麼時候不要用
每一步都要批准。閘門太多等于沒有自動化,而且人會開始機械式按同意 —— 那比沒有閘門更危險。
會怎麼壞
- 批准疲勞。第一百次詢問時,人已經不看內容就按同意。
- 閘門只擋能力,不擋意圖。它能限制「可以做什么」,擋不住 Agent 被說服「想做什么」。
- 請求信息不足,人無法判斷。只顯示「要執行一个命令」而不顯示完整命令與影響范圍。
設計要點
閘門數量要少而准:只放在不可逆與高成本的動作上。每个請求必須附上完整動作、影響范圍、以及拒絕的后果,讓人能在十秒內判斷。默認值要安全 —— 超時不批准。
起源
人工審批是既有的控制形態,沒有單一首次公開實作可指向。