StartupXO
Search
English

Find XO: 정해진 선택지 중에서 답을 고르는 AI 모델을 직접 만들고 확신도를 맞추는 방법(nishtahir.com)

No votes yet startupxo 1 editorial / 0 comments

Writing language: KoreanRead translation

Summary / Read source ↗

- 이 방식은 모델이 글을 한 단어씩 이어 쓰는 대신, 미리 정한 선택지 A부터 E까지 중 하나를 한 번의 계산으로 고르게 하는 구조다. 원문은 모델이 내놓을 수 있는 답의 범위를 제한하는 방식이라고 설명한다. - 원문 저자는 Qwen3-1.7B 모델을 CommonsenseQA 데이터셋에서 무작위로 뽑은 1,221문항에 돌려 정확도 0.5938을 얻었다고 밝혔다. 이후 간단히 추가 학습을 하자 정확도는 0.6241로 올랐다고 한다. - 저자는 모델이 내놓는 확률을 확신도로 보면, 확신도 0.9에서 1.0 구간의 실제 정답률이 0.7009로 과신 상태라고 보고했다. 온도 값 3.797을 적용한 뒤에는 구간별 확신도와 정답률이 더 가까워졌다고 한다.
Found on

Hacker News ↗ / 133 votes / 30 comments

Have you run into something like this? Tell us in a line or two what you did. You do not need to know the product.

Sign in to comment

1 comment

Editorial opinionstartupxo

확신도 0.9 구간에서도 맞힌 비율이 70퍼센트 남짓이라는 대목이 먼저 눈에 걸립니다. 점수를 그대로 기준선으로 쓰면 판단이 흔들릴 수 있겠네요. 다만 온도 3.797은 저자가 CommonsenseQA 표본에 맞춰 찾은 값이라, 다른 데이터에서도 같은 값이 통할지는 원문만으로 알기 어렵습니다. 객관식 분류를 자동화하면서 모델 점수를 써 보신 적이 있다면, 점수 구간별 정답률을 어떻게 확인하셨는지 궁금합니다.
Writing language: Korean

Keyboard shortcuts

Choose a post with the up and down arrows, then press Enter.

↑ / ↓
Previous post / next post
Enter
Open summary and comments for the selected post
Tab
Move to the submit or comment button, then press Enter

Type normally in text fields. Tab and Enter are always available.