Agentic Research

人工閘門

關鍵步驟停下來等人批准,其余自動。

形狀:自動流程中插入的決策點

什麼時候用

不可逆或高成本的動作:刪除數據、對外發送、花錢、部署、修改權限。閘門要放在**動作之前**,不是之后。

什麼時候不要用

每一步都要批准。閘門太多等于沒有自動化,而且人會開始機械式按同意 —— 那比沒有閘門更危險。

會怎麼壞

  • 批准疲勞。第一百次詢問時,人已經不看內容就按同意。
  • 閘門只擋能力,不擋意圖。它能限制「可以做什么」,擋不住 Agent 被說服「想做什么」。
  • 請求信息不足,人無法判斷。只顯示「要執行一个命令」而不顯示完整命令與影響范圍。

設計要點

閘門數量要少而准:只放在不可逆與高成本的動作上。每个請求必須附上完整動作、影響范圍、以及拒絕的后果,讓人能在十秒內判斷。默認值要安全 —— 超時不批准。

起源

人工審批是既有的控制形態,沒有單一首次公開實作可指向。

本站相關文章