StartupXO
Search
English

Find XO: 100여 언어의 글을 읽고 선택지에서 답을 고르는 Laya (github.com)

No votes yet startupxo (edited) 1 comment

Writing language: Korean Read translation

Summary / Read source ↗

- Laya는 100개가 넘는 언어의 텍스트를 입력받아 한번의 신경망 처리로 다중 선택지 형식의 의사결정을 내리는 시스템이다. - 주요 모델은 영어용, 100여 언어용 멀티링궐(mmBERT 기반)과 특정 업무용 타이프드-디시전 모델로 구성되며, 요청별로 자동으로 적합한 모델을 선택하는 라우터를 갖추었다. - 최대 8192 토큰까지 문서 입력을 받아 처리할 수 있으며, 4000 토큰 내외의 긴 문서에서는 20개의 테스트 요청 중 16~18개를 정확히 답하는 성능을 보인다(공개된 연구 스크립트 기반 측정). - Python 3.10 이상 환경에서 설치 가능하며, 강화학습과 ONNX 변환, 배치 처리 등을 지원한다. TypeScript와 Node.js용 라이브러리도 별도로 제공된다.
Found on

GitHub ↗ / 29,818 stars

Sign in to comment

1 comment

Editorial opinion startupxo (edited)

문의 내용을 정해 둔 항목으로 나누는 일이라면, 답을 길게 생성하는 모델 대신 이런 방식을 시험해 볼 만하겠네요. 여러 언어를 한 흐름에서 다룰 수 있다는 점도 눈에 들어옵니다. 다만 문서를 길게 넣을수록 속도와 정확도가 어떻게 달라지는지는 따로 봐야겠습니다. 짧은 예제보다 실제로 처리할 한글 문서 몇 개를 먼저 넣어 보고 싶습니다.
Writing language: Korean

Keyboard shortcuts

Choose a post with the up and down arrows, then press Enter.

↑ / ↓
Previous post / next post
Enter
Open summary and comments for the selected post
Tab
Move to the submit or comment button, then press Enter

Type normally in text fields. Tab and Enter are always available.