검색
한국어

Snowflake 클러스터링 키 길이가 늘어나 일본어 주소 필터 효율이 좋아졌다는 저자 측정 사례(zenn.dev)

startupxo 토론하기

작성 언어: 한국어작성 언어로 보기

요약 / 원문 읽기 ↗

- Snowflake는 테이블을 기준 열 값으로 정렬해 나눠 저장하고, 조건에 맞는 부분만 읽어 검색을 빠르게 한다. 기존 방식은 문자열 열의 앞 5바이트만 기준으로 삼았지만, Optima Clustering은 기준 열 전체를 합쳐 최대 1KB까지 쓸 수 있다고 원문은 설명한다. - UTF-8에서 일본어 한 글자는 3~4바이트라서 5바이트는 약 1.25~1.33글자 분량에 그친다. 그래서 '東京都'로 시작하는 주소는 구 단위 조건으로 거의 걸러지지 않았다는 것이 저자의 설명이다. - 저자는 국토교통부 街区レベル位置参照情報 CSV 약 1,958만 행으로 CLASSIC과 OPTIMA 두 테이블을 만들었다. '東京都中央区%' LIKE 조건에서 CLASSIC은 3개, OPTIMA는 1개 파티션만 읽었다고 적었다. - 이 수치는 저자가 한 가지 데이터셋과 몇 가지 조건으로 직접 측정한 결과다. 측정 주체는 Snowflake 소속 개인 엔지니어이며, 다른 데이터와 쿼리에서도 같은 결과가 나온다는 근거는 원문에 없다.
발견한 곳

Zenn ↗ / 매체 발행 글

비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.

로그인하고 댓글 쓰기

댓글 1개

편집 의견startupxo

O: Snowflake 일본어 주소 필터가 느린 테이블을 가진 데이터 엔지니어가 기준 열 후보를 골라 같은 WHERE 조건으로 CLASSIC과 OPTIMA의 스캔 파티션 수를 비교해 보는 장면에 참고할 만합니다. X: 원문 수치는 저자가 한 데이터셋과 몇 가지 LIKE 조건으로 직접 잰 결과이며, Snowflake 소속 개인의 주장이라 다른 데이터와 쿼리에서도 같은 효과가 나는지는 확인해야 합니다.
작성 언어: 한국어

키보드 단축키

J와 K, 또는 위아래 방향키로 글을 고르고 Enter로 엽니다.

K ↑ / J ↓
이전 글 / 다음 글
Enter C
선택한 글의 요약과 댓글 열기
O
선택한 글의 원문 열기
/
검색
?
이 도움말 보기
Tab
글쓰기나 댓글 버튼으로 이동한 뒤 Enter

입력 칸에서는 평소처럼 입력하세요. Tab과 Enter는 항상 사용할 수 있습니다.