Forge CLI logo

Forge CLI

スウォームエージェントが、任意の HF/PyTorch モデルの CUDA/Triton を最適化します

Artificial Intelligence Developer Tools Hardware

Forgeは PyTorch/HuggingFace モデルから最適化済みのGPUカーネルを生成するツールです。32名の並列エージェントが最速のCUDA/Triton実装を競い合い、各レイヤーに対する最適化済みカーネルを提供します。HuggingFaceモデルIDを入力すると、全レイヤー分の最適化カーネルを取得可能。250k tokens/sec の Nemotron 3 Nano 30Bを搭載。torch.compile に勝てなかった場合の全額返金保証付き。

投票数: 123
← 投稿一覧に戻る