Graphzero

概要

GraphZeroは、PyTorch GeometricのOOMを解決するゼロコピーのグラフデータエンジン。巨大グラフデータをSSDから直接メモリマップし、C++20と nanobind で生ポインタをPyTorchへゼロコピーで供給。OSのページフォールトを活用してGPUは計算に専念。OpenMPで近傍サンプリングを並列化。自己完結型データセットとGraphSAGE訓練スクリプトを同梱。これは50GB級モデルをRAMを使わず訓練可能にする、低レベルメモリ管理とC-bindingsの実験作です。