GPU-Cacheよ再び

[kaigai]

Partition-wise JOIN/GroupByの際に設計上合わない部分があるためにドロップしたものの、レイテンシ重視のワークロードにおいては利用価値がある事が分かった。

• 典型的な利用シーンとしては、直近のデータに対する検索ワークロードで、応答時間 xxx ms といった要件があるもの。
• ArrowやParquetなど汎用的なデータ構造を噛ませる場合、ファイルの生成やメタデータの読み出しに余計な時間がかかる。
• GPU-CacheならPostgreSQLにINSERTすれば済む。

一方で課題も。

• 従来の実装はメンテしていない時期が長かったので、そのまま戻す事はできない。
• マルチGPUへの対応。1個のテーブルを複数のGPUに跨ってキャッシュする（常駐KDSを複数用意する）には対応していない。特に最近の大容量GPU RAM（RTX5000 PROなど）を活かすには、複数GPUが必須。