100여 언어의 글을 읽고 선택지에서 답을 고르는 Laya(github.com)
작성 언어: 한국어작성 언어로 보기
쉬운 요약
- Laya는 100개가 넘는 언어의 텍스트를 입력받아 한번의 신경망 처리로 다중 선택지 형식의 의사결정을 내리는 시스템이다.
- 주요 모델은 영어용, 100여 언어용 멀티링궐(mmBERT 기반)과 특정 업무용 타이프드-디시전 모델로 구성되며, 요청별로 자동으로 적합한 모델을 선택하는 라우터를 갖추었다.
- 최대 8192 토큰까지 문서 입력을 받아 처리할 수 있으며, 4000 토큰 내외의 긴 문서에서는 20개의 테스트 요청 중 16~18개를 정확히 답하는 성능을 보인다(공개된 연구 스크립트 기반 측정).
- Python 3.10 이상 환경에서 설치 가능하며, 강화학습과 ONNX 변환, 배치 처리 등을 지원한다. TypeScript와 Node.js용 라이브러리도 별도로 제공된다.
발견한 곳
GitHub ↗ / 별 29,818
비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.