如何驗證並持續維護skill
如何驗證並持續維護skill

持續維護skill常見的痛點

  • skill的行為邊界飄移
  • 改完後跑一次沒報錯就當作OK
  • 體感維護: 不知道調整是否達成更好的目標

定義skill的成功 - 4個衡量目標

  • 結果: 任務是否完成? APP能RUN?

  • 過程: agent是否按設想路徑執行? (例如希望他邏輯解而非code解?)

  • 風格: 輸出的文字是否符合規範(例如代碼風格)

  • 效率: 是否存在無意義步驟導致token消耗? 關注長期成本

兩個維護面

最常見的情況就是執行體一切完美,但觸發邊界不受控導致skill效率不佳

  • 執行體(execution): 指令、工具、步驟
  • 觸發邊界(boundary): name、description

觸發邊界的3個失控點

  • 觸發假設: 邊界模糊,出現不該發動時發動的情況
  • 環境假設: 正確的skill應該認為自己是在一個全新的目錄、並且有明確的環境前提(例如本地有python的某個包可以用,但生產環境沒有)。這是最容易被忽略的問題
  • 執行假設: 執行順序或步驟是否正確,有時候單獨看每步都OK,但整體執行時可能卡在某個中間態

回歸樣本

10條左右的樣本集就夠了

  • 顯式調用: 點名該skill,保證改動描述後基本功能運作正常
  • 隱式調用: 僅描述場景,測試agent是否能自主選中
  • 上下文調用: 加入業務雜訊汙染上下文,測試抗干擾性
  • 負樣本: 驗證"不該觸發"的場合,防止誤觸發干擾其他執行

小結

  • 能做到以上幾點,skill就不再只是"提示詞小技巧",而是一個能持續驗證並進化的"工作流資產"

上次修改於 2026-07-16