에이전트가 일하기 시작하자, 진짜 시장은 '통제'에서 열렸다

무슨 일이 있었나

캐나다 금융 소프트웨어 회사 Zafin이 6월 23일 토론토에서 ‘AIOS’를 내놨다. 이름은 거창하지만 하는 일은 한 문장으로 정리된다 — 규제 금융기관 안에서 돌아다니는 AI 에이전트들을 한곳에서 다스리는 ‘관제탑’이다.

뜯어보면 다섯 가지가 한 경로에 묶여 있다. 첫째, 에이전트 등록부. 사내에서 만든 에이전트든 외부에서 승인받아 들여온 에이전트든 전부 명부에 올린다. 둘째, 모델과 도구 접근 제한. 어떤 에이전트가 어떤 모델, 어떤 데이터에 손댈 수 있는지를 못 박는다. 셋째, 사람이 결정해야 하는 지점. 모든 단계마다 사람을 끼우는 게 아니라 정말 중요한 길목에만 사람의 권한을 박아 넣는다. 넷째, 실행 경로 안에 들어간 비용 통제. 다섯째, ‘작업 증거(proof of work)’ 기록 — 어떤 에이전트와 모델이 무엇을 했고, 어떤 권한이 적용됐고, 사람이 어디서 검토하거나 예외를 줬는지를 사후에 짜맞추는 게 아니라 일하는 그 순간 남긴다. 감사와 컴플라이언스를 위한 증거가 통째로 따라붙는 구조다.

CEO Charbel Safadi의 비유가 핵심을 찌른다. 그는 AIOS를 “비행기들을 위한 공항”이라고 불렀다. 에이전트가 비행기라면, 수천 대가 동시에 뜨고 내릴 때 충돌 없이 흐름을 짜고 감시하는 관제탑이 필요하다는 것이다. “문제는 에이전트가 아니라, 일이 처리되는 방식 자체”라는 게 그의 진단이다. 그는 한발 더 나갔다 — “속도를 낼 수 있는 은행은 경쟁하고, 못 하는 은행은 사실상 유틸리티로 전락한다.”

이건 단발 뉴스가 아니다. 업계는 2026년을 에이전트의 ‘오케스트레이션·거버넌스·확장(scale)‘의 해, 이른바 AgentOps의 원년으로 본다. AgentOps는 자율 에이전트를 운영·감시·통제하는 운영 규율로, DevOps와 MLOps의 원칙을 에이전트로 끌어온 것이다. 구글 Gemini 엔터프라이즈 에이전트 플랫폼, Langfuse·Arize·AgentOps 같은 관측(observability) 도구, 마이크로소프트의 에이전트 거버넌스 툴킷(OWASP Agentic Top 10 대응)이 같은 자리를 노린다. 여기에 EU AI Act의 고위험 시스템 의무 — 로깅, 사람의 감독, 기술 문서화 — 가 8월 2일부터 발효된다. 통제가 선택이 아니라 법이 되는 시점이다.

창업자에게 의미하는 것

지난 2년의 이야기는 “에이전트를 누가 더 빨리 붙이느냐”였다. 그 게임은 사실상 끝나가고 있다. 이제 진짜 돈이 도는 곳은 다른 데다 — 붙인 에이전트를 누가 다스리느냐. Zafin이 보여준 건 ‘에이전트 자체’가 아니라 ‘에이전트를 통제하는 레이어’가 별도의 상품이 됐다는 사실이다. 한국 창업자에게 이건 두 갈래로 읽힌다.

첫째, 도메인이 곧 해자다. Zafin은 일반 AI 거버넌스 도구를 만든 게 아니라 ‘규제 금융기관용’이라고 못 박았다. 규제가 빡빡할수록 통제 레이어의 가치가 올라간다. 국내로 옮기면 금융위·금감원이 들여다보는 은행·증권·보험, 그리고 망분리·전자금융감독규정·신용정보법이 얽힌 환경이야말로 에이전트를 함부로 풀 수 없는 곳이다. 네이버·카카오·토스가 금융 영역에서 LLM과 에이전트를 밀어붙일 때, 가장 먼저 막히는 게 “이 에이전트가 무슨 권한으로 뭘 했는지 감사 추적이 되느냐”는 질문이다. 그 질문에 답하는 도구를 만드는 팀에게 시장이 열린다.

둘째, ‘증거’가 제품의 일부가 된다. proof of work를 사후 로그가 아니라 실행 경로 안에 박았다는 점이 영리하다. 규제 대응을 나중에 짜맞추면 비용이고 리스크지만, 일하는 순간 증거가 자동으로 쌓이면 그건 영업 포인트가 된다. 에이전트나 자동화 제품을 파는 창업자라면, “사람 손을 얼마나 덜어주나”만큼이나 “감사받을 때 뭘 내놓을 수 있나”를 처음부터 설계에 넣어야 한다. 국내 금융권에 B2B로 들어가려는 팀이라면 더더욱 그렇다 — 한국 금융사 보안·컴플라이언스 부서는 데모의 화려함보다 추적 로그의 완결성에서 도입을 결정한다.

요약하면, 에이전트가 일하기 시작한 순간 시장의 무게중심은 ‘실행’에서 ‘통제’로 옮겨갔다. 빠르게 붙이는 팀이 아니라, 붙인 것을 책임질 수 있게 만드는 팀이 규제 산업의 문을 연다.

지금 취할 수 있는 행동

자사 제품이 에이전트나 자동화를 쓴다면, 오늘 “감사 질문 리스트”를 한 장 만들어 보자. 어떤 에이전트가, 어떤 모델로, 어떤 데이터·도구 권한을 가지고, 사람이 어디서 개입했는지 — 이 네 가지에 지금 답할 수 있는지부터 점검한다. 답이 막히는 칸이 곧 다음 분기의 개발 백로그다. 금융·의료처럼 규제가 센 시장을 노린다면, MVP에 기능 하나를 더 붙이기 전에 ‘증거 기록’ 한 줄을 먼저 박아 넣는 편이 결국 영업을 앞당긴다.