에이전트가 회사를 학습하기 시작했다 — '무엇을 아는가'를 증명하는 감사 레이어

어떤 문제인가

에이전트가 “도구”였을 때는 단순했다. 호출하면 답하고, 끝나면 잊었다. Claude Tag은 그 전제를 깬다. 슬랙에 상주하면서 권한이 주어진 채널을 학습하고, 맥락을 시간에 걸쳐 누적하며, 먼저 끼어들기까지 한다. 편리하다. 그런데 보안 담당자 입장에서 보면 새로운 질문이 한꺼번에 생긴다. 이 에이전트는 지금 정확히 무엇을 알고 있나. 그 지식은 어느 대화에서 왔나. 법무 채널에서 배운 내용이 엔지니어링 채널 답변으로 새지는 않나. 직원이 퇴사하면 그가 남긴 민감한 발언을 에이전트 메모리에서 어떻게 지우나. 관리자가 채널 단위로 권한을 끊을 수는 있다. 하지만 이미 학습된 기억을 들여다보고, 출처를 추적하고, 선택적으로 회수하는 일은 지금 어떤 제품도 제대로 제공하지 않는다.

왜 지금인가

타이밍이 만들어졌다. 가트너는 2026년까지 엔터프라이즈 앱의 40%가 작업 특화 에이전트를 탑재한다고 봤고, 60% 이상의 조직이 향후 2년 안에 도입하겠다고 답했다. 구매가 지금부터 일어난다는 뜻이다. 동시에 가트너는 에이전트 프로젝트의 40% 이상이 2027년까지 취소 위험이라 경고했고, 그 핵심 원인이 거버넌스 공백이다. 자율 에이전트 거버넌스가 성숙한 조직은 21%에 불과하다. 상주형 에이전트가 슬랙·노션·세일즈포스로 퍼질수록, “이 에이전트가 무엇을 아는지 감사하라”는 보안팀의 요구는 구매 조건이 된다. 기존의 가드레일 도구는 에이전트의 출력을 검증하지만, 에이전트가 시간에 걸쳐 쌓은 메모리 자체를 추적하지는 않는다. 그 자리가 비어 있다.

어떻게 만들 수 있나

메모리 계보(lineage)를 일급 객체로 다룬다. 에이전트가 어떤 메시지·문서·채널에서 무엇을 학습했는지 모든 흡수 이벤트를 출처와 함께 기록하고, 관리자가 자연어로 질의할 수 있게 한다(“이 에이전트가 임원 보상 정보를 아는가, 안다면 어디서?”). 핵심 기능은 셋이다. 첫째, 메모리 인벤토리 — 에이전트가 보유한 지식을 사람이 읽을 수 있는 형태로 펼친다. 둘째, 범위 검증 — 법무 채널 기억이 엔지니어링 답변에 새지 않는지 실시간 누수 탐지. 셋째, 선택적 회수 — 특정 출처·기간·인물에서 온 기억을 골라 삭제하고 그 삭제를 증명(퇴사자 데이터, GDPR 삭제권). Claude Tag, MoEngage Merlin 같은 상주형 에이전트 위에 MCP 커넥터로 얹히는 횡단 레이어로 설계한다.

성공 조건

이건 “있으면 좋은” 기능이 아니라 컴플라이언스 통과의 조건이 되어야 한다. 그러려면 SOC2·ISO 27001·국내 ISMS 감사 항목에 직접 매핑되는 리포트를 처음부터 출력해야 한다. 영업은 보안팀·CISO를 향하고, 가치 제안은 “도입 속도”다 — 감사 가능성이 입증되면 막혀 있던 에이전트 도입 결재가 풀린다. 위험은 두 가지다. 에이전트 플랫폼들이 이 기능을 내재화하면 시장이 사라진다. 따라서 여러 플랫폼을 횡단하는 중립적 감사 표준이라는 포지션을 빠르게 선점해야 한다. 그리고 메모리 추적 자체가 또 다른 민감 데이터 저장소가 되므로, 자기 제품의 데이터 거버넌스가 고객보다 엄격해야 신뢰를 얻는다.