SaaS
100만 토큰 컨텍스트 시대, 에이전트가 못 쓰는 이유는 앱이 없어서다
게시일: 2026-05-26
해결할 문제
LLM이 100만 토큰을 지원해도 기존 앱들은 짧은 컨텍스트를 전제로 설계되어, 전체 코드베이스 분석, 긴 계약서 검토, 멀티세션 기억 같은 실용적 에이전트 작업을 제대로 처리하지 못한다.
왜 지금인가
DeepSeek V4 출시로 긴 컨텍스트가 비용 장벽 없이 현실이 됐고, 이 구조적 변화를 활용하는 에이전트 전용 앱은 아직 공백 상태다.
추천 인재
LLM 프롬프트 엔지니어링과 에이전트 오케스트레이션을 실전 경험한 엔지니어, 또는 네카라쿠배 사내 AI 도구를 직접 만들어 본 개발자
어떤 문제인가
에이전트가 "진짜 일"을 못 하는 이유는 모델이 부족해서가 아니다. 앱이 에이전트를 위해 설계되지 않았기 때문이다. 카카오, 토스, 쿠팡의 모노레포는 수백만 줄짜리 코드베이스다. 계약서는 200페이지를 넘기 일쑤다. 고객 CS 히스토리는 수백 번의 대화를 가로지른다. 기존 LLM 앱은 이 중 어느 것도 한 번에 담지 못하고, 잘라서 요약하거나 RAG로 검색해 붙이는 방식으로 우회한다.
문제는 그 우회가 실제 에이전트 작업에서 치명적 오류를 만든다는 점이다. 코드 리팩터링 에이전트는 전체 의존성 그래프를 보지 않으면 버그를 만든다. 법률 검토 에이전트는 계약서 맥락 전체를 잃으면 조항 충돌을 놓친다. 멀티세션 기억 없는 영업 지원 에이전트는 고객이 지난주에 한 말을 기억하지 못한다. 잘린 컨텍스트는 에이전트를 무용지물로 만든다.
DeepSeek V4의 100만 토큰 컨텍스트는 이 구조적 제약을 제거한다. 그러나 그 능력을 활용하도록 설계된 앱은 아직 없다. 이것이 공백이다.
왜 지금인가
DeepSeek V4는 100만 토큰 컨텍스트를 "비용 걱정 없이" 제공하는 첫 번째 상용 모델이다. GPT-4o나 Claude도 긴 컨텍스트를 지원하지만 비용이 비선형적으로 뛰어올라 실제 프로덕션 사용은 제한됐다. DeepSeek V4는 이 비용 방정식을 바꿨다.
동시에 2026년 들어 국내에서도 LLM을 코어 업무에 붙이는 팀이 폭발적으로 늘었다. 네이버, 카카오가 사내 AI 도구를 표준화하고, 스타트업은 AI를 운영의 중심에 놓기 시작했다. 에이전트 작업이 "실험"에서 "프로덕션"으로 올라가는 변곡점이 지금이다. 앱이 먼저 나온 팀이 그 시장의 기반을 잡는다.
어떻게 만들 수 있나
긴 컨텍스트를 실제로 활용하는 에이전트 SaaS의 MVP는 버티컬 하나를 먼저 뚫는다. 가장 진입 장벽이 낮고 검증이 명확한 도메인은 코드 에이전트다.
flowchart LR
A[전체 코드베이스 업로드] --> B[컨텍스트 로더]
B --> C[DeepSeek V4 1M 컨텍스트]
C --> D{에이전트 작업 선택}
D -->|코드 리뷰| E[전체 의존성 분석]
D -->|리팩터링| F[변경 영향 범위 계산]
D -->|버그 추적| G[전체 실행 흐름 추적]
E & F & G --> H[액션 가능한 리포트]
H --> I[PR 자동 생성 / 슬랙 알림]
MVP 3단계:
- 컨텍스트 로더: GitHub 레포 전체를 1M 토큰 이내로 패킹하는 전처리 레이어. 파일 트리, 커밋 히스토리, 의존성 그래프 구조화.
- 에이전트 플로우: 코드 리뷰, 리팩터링 제안, 버그 원인 분석 3가지 워크플로를 사전 정의된 프롬프트 체인으로 실행.
- 결과 전달 레이어: GitHub PR 코멘트, 슬랙 요약, JIRA 티켓 자동 생성.
가격: 레포 당 월 $99 (소형) / $299 (중형) / 엔터프라이즈 견적. 1회 분석 기준 GPT-4o 대비 60% 이하 비용 구조를 DeepSeek V4로 달성.
성공 조건
- 핵심 가정: 개발팀이 "컨텍스트 잘림"을 실제 고통 포인트로 인식하고, 이를 해결하기 위해 월 $100–$300을 낼 의향이 있다.
- 검증 방법: 개발팀 20곳에 1개월 무료 베타 → 기존 코드 리뷰 시간 대비 단축률 측정. 50% 이상 단축되면 유료 전환 제안.
- 확장 경로: 코드 에이전트 이후 법률 계약서 검토 에이전트, 영업 CRM 에이전트 순으로 버티컬 확장.
- 리스크: OpenAI, Anthropic이 자체 긴 컨텍스트 앱 레이어를 출시할 가능성. 그러나 버티컬 특화 워크플로와 통합(GitHub, Jira, Slack)은 범용 모델 회사가 빠르게 복제하기 어렵다.
함께 만들어 보세요
함께할 인재 보기