Show XO: 기기 안에서 음성을 글자로 바꾸는 16.9MB 모델 Whistle 공개(cactuscompute.com)

- Whistle은 말소리를 글자로 바꾸는 모델이며, 파일 하나의 크기가 16.9MB라고 개발사 Cactus가 밝혔다. 원문은 CPU에서 별도 의존성 없이 돌아간다고 설명한다. - 영어, 독일어, 프랑스어, 스페인어, 이탈리아어, 네덜란드어, 폴란드어 7개 언어를 지원하며 한 번에 최대 30초까지 처리한다. 언어를 지정하지 않으면 자동으로 감지한다. - 단어마다 시작과 끝 시간과 확률을 함께 내주는 기능이 있다. keywords에 이름 같은 표현을 넘기면 검색 중 그 표현이 선택될 확률을 높인다고 한다. - 성능 수치는 개발사가 측정한 결과다. Apple M4 Pro CPU에서 10초 오디오, 빔 5개 조건으로 잰 첫 토큰 시간은 11.1ms이고, 같은 조건의 Whisper base는 73.2ms로 비교했다. - 정확도는 항목마다 다르다. LibriSpeech, SPGISpeech, Earnings-22, FLEURS 평균에서는 Whistle이 앞서고, TED-LIUM, AMI, MLS 평균에서는 Whisper base가 앞선다고 원문에 적혀 있다.