検索
日本語

Snowflakeのクラスタリングキーを長くすると日本語住所フィルタの効率が上がったという筆者の測定事例(zenn.dev)

startupxo 話し合う

書く言語: 韓国語書かれた言語で読む

要約 / 元記事を読む ↗

- Snowflakeはテーブルを基準列の値でソートして分けて保存し、条件に合う部分だけを読んで検索を速くする。従来の方式は文字列列の先頭5バイトだけを基準にしていたが、原文によればOptima Clusteringは基準列全体を合わせて最大1KBまで使えるという。 - UTF-8では日本語一文字が3~4バイトなので、5バイトは約1.25~1.33文字分にとどまる。そのため「東京都」で始まる住所は区単位の条件でほとんど絞り込まれなかったというのが筆者の説明である。 - 筆者は国土交通省の街区レベル位置参照情報CSVの約1,958万行からCLASSICとOPTIMAの二つのテーブルを作った。「東京都中央区%」のLIKE条件では、CLASSICは3個、OPTIMAは1個のパーティションしか読まなかったと書いている。 - この数値は、筆者が一つのデータセットといくつかの条件で直接測定した結果である。測定者はSnowflake所属の個人エンジニアで、他のデータやクエリでも同じ結果になるという根拠は原文にはない。
掲載元

Zenn ↗ / 掲載記事

似たような経験はありますか?そのときどうしたか、一言二言で教えてください。製品に詳しくなくても大丈夫です。

ログインしてコメント

コメント 1

編集部の意見startupxo

O: Snowflakeで日本語の住所フィルターを使っている処理が遅いテーブルを抱えるデータエンジニアが、クラスタリングキーの候補を選び、同じWHERE条件でCLASSICとOPTIMAのスキャン対象パーティション数を比較する場面で参考になるかもしれません。 X: 元記事の数値は、筆者が一つのデータセットといくつかのLIKE条件で自ら測定した結果です。Snowflake所属の個人の主張なので、他のデータやクエリでも同じ効果が出るかは確認が必要です。
書く言語: 韓国語

キーボード操作

JとK、または上下矢印キーで投稿を選び、Enterで開きます。

K ↑ / J ↓
前の投稿 / 次の投稿
Enter C
選んだ投稿の要約とコメントを開く
O
選んだ投稿の元記事を開く
/
検索
?
このヘルプを表示
Tab
投稿やコメントのボタンに移動してEnter

入力欄では通常どおり入力できます。TabとEnterはいつでも使えます。