Memopt by Sophisticates

概要

MemoptはAIインフラ向けのメモリファブリック。クラウド依存ゼロでベアメタル運用、百万ノード規模のGPUメモリの壁を解決します。CockroachDBをバックボーンとした高信頼性と階層型AIプリフェッチを備え、Sophisticatesが開発しました。

現状とロードマップ

Phase8完了。Phase9はAMD ROCm対応へ。10kGPU規模以上の設計パートナーを募集します。

価値と課題

メモリ断片化とKVキャッシュ冗長性による計算リソースの損失を削減し、0.1ms級のメモリ借用を実現することを目指します。