글을 쓰지 않고 정해진 선택지 중 하나를 빠르게 고르는 AI '결정 모델' 사용 급증, 맞춤 학습이 경쟁점으로(techcrunch.com)
작성 언어: 한국어작성 언어로 보기
쉬운 요약
- 결정 모델은 문장을 길게 만들어 답하는 대신, 미리 정해둔 선택지 중 하나를 빠르고 싸게 고르고 그 선택에 얼마나 확신하는지도 함께 내놓는 AI다. 느린 대형 모델의 추론보다 빠른 판단이 중요한 서비스 환경에 쓰인다.
- TechCrunch에 따르면 10월 Vercel의 AI 모델 라우터(요청을 여러 모델에 나눠 보내는 서비스)에서 요청의 4분의 1 이상이 결정 모델로 갔다. OpenRouter에서는 지난주 TypeSafe 모델에 15억 건 넘는 요청이 몰렸다.
- Microsoft는 Microsoft-Decision-1.1을 Azure에서 바로 널리 쓸 수 있게 한다고 밝혔다. 영국 스타트업 Sqwish는 kettei fat 모델로 300만 달러 프리시드 투자를 받았고, 고객의 실제 운영 데이터로 모델을 계속 개선하는 도구를 강점으로 내세운다.
- 순위 비교는 어렵고, 개발자가 모델을 바꿔 끼워 자기 업무에서 직접 시험해 보면 된다는 의견이 많다. Microsoft 임원은 벤치마크에만 맞춘 모델은 실제 기업 환경에서 금방 한계를 보인다고 이메일로 밝혔다.
발견한 곳
TechCrunch ↗ / 매체 발행 글
비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.