Agentic Research

Sandbox(沙箱)

又稱:沙箱 · 沙盒 · 權限模式 · permission mode

限制 AI 能動到哪些東西的圍欄:哪些目錄可寫、能不能上網、要不要每次都問你。

你會在什麼時候遇到它

能執行指令的 AI 就能刪檔案、花你的錢、把資料傳出去。沙箱是你唯一的事前防線 —— 事後看 log 已經太晚。

打個比方

給小孩一個遊戲圍欄,而不是給他整個房子的鑰匙。他在裡面怎麼玩都行,出不了界。

最小範例

常見的幾種寬緊程度(由緊到鬆):
  唯讀           可以看,不能改
  workspace-write 只能改專案目錄內,碰不到外面、也不能上網
  逐次詢問        每個敏感動作都要你按同意
  完全放開        沒有圍欄(除非在一次性容器裡,否則不要)

原則:用「能把事情做完的最緊那一檔」。放寬很容易,收回來很難。

最常搞錯的地方

  • 為了省事一開始就全開。等到出事才發現沒有圍欄,這時圍欄已經來不及了。
  • 以為沙箱能擋 prompt injection。沙箱限制的是「能做什麼」,不是「會被說服去想做什麼」。兩者要一起用。

相關詞條

下一步