StartupXO
語言設定

Language

開發工具與基礎設施

智慧代理開始學習你的公司 — 證明「它知道什麼」的稽核層

發布日期: 2026-06-24

AgentOps治理稽核日誌企業級開發工具與基礎設施

要解決的問題

像 Claude Tag 這樣的常駐代理會從被授權的多個頻道學習並累積組織記憶。但企業無法稽核該代理究竟知道什麼、從哪段對話學到的,以及這些記憶是否洩漏到了其他部門。

為什麼是現在

Gartner 預計超過 40% 的代理專案到 2027 年面臨被取消的風險,而僅有 21% 的組織擁有成熟的自主代理治理模型。一個能證明「代理知道什麼」的稽核、範圍控制與撤回層,正是化解落地阻力的核心,而這個位置仍然空著。

推薦人才

懂企業安全與稽核要求(SOC2/ISO)的合規 PM,加上追蹤過代理記憶與 RAG 流水線資料血緣的後端/機器學習工程師。

這是什麼問題

當代理只是「工具」時很單純。你呼叫它,它回答,然後忘記。Claude Tag 打破了這個前提。它常駐在 Slack 中,從被授權的頻道學習,隨時間累積脈絡,甚至會主動插話。很方便,但站在安全負責人的角度,一連串新問題同時冒出來。這個代理現在究竟知道什麼?這些知識來自哪段對話?在法務頻道學到的內容會不會洩漏進工程頻道的回答裡?員工離職後,如何把他留下的敏感言論從代理記憶中清除?管理員可以按頻道切斷存取。但查看已學習的記憶、追溯其來源、並選擇性地撤回,目前沒有任何產品能真正提供。

為什麼是現在

時機已經對齊。Gartner 預計到 2026 年 40% 的企業應用將內嵌任務專用代理,超過 60% 的組織計劃在兩年內部署 — 這意味著採購從現在開始。與此同時,Gartner 警告超過 40% 的代理專案到 2027 年面臨被取消的風險,核心原因是治理空白,而僅有 21% 的組織擁有成熟的自主代理治理模型。隨著常駐代理擴散到 Slack、Notion 和 Salesforce,安全團隊「證明這個代理知道什麼」的訴求會成為採購條件。現有的護欄工具驗證代理的輸出,卻不追蹤它隨時間累積的記憶本身。那個位置是空的。

如何打造

把記憶血緣(lineage)當作一等物件來處理。記錄每一次吸收事件 — 代理從哪條訊息、文件或頻道學到了什麼 — 並附上來源,讓管理員用自然語言查詢(「這個代理知道高階主管薪酬嗎?如果知道,從哪裡學的?」)。三大核心功能。第一,記憶清單 — 以人類可讀的形式展開代理所持有的知識。第二,範圍驗證 — 即時洩漏偵測,確保法務頻道的記憶不會出現在工程頻道的回答中。第三,選擇性撤回 — 挑出來自特定來源、時間段或人物的記憶並刪除,且證明該刪除(離職員工資料、GDPR 刪除權)。將其設計為透過 MCP 連接器疊加在 Claude Tag、MoEngage Merlin 等常駐代理之上的橫切層。

成功條件

這必須成為通過合規的條件,而不是「錦上添花」的功能。為此,要從第一天起就輸出能直接對應到 SOC2、ISO 27001 及本地 ISMS 稽核項目的報告。銷售面向安全團隊和 CISO,價值主張是「落地速度」 — 一旦可稽核性得到證明,被卡住的代理部署審批就會被解開。有兩個風險。如果代理平台把這個功能內化,市場就會消失,因此必須迅速占據一個跨多平台的中立稽核標準定位。而且因為追蹤記憶本身又成為一個敏感資料儲存,你自己的資料治理必須比客戶更嚴格,才能贏得信任。