Step 5 Preview

概要

• StepFunが公開した600B規模のMoEモデルで、1トークンあたり27Bのパラメータを稼働させながら高い性能を目指します。
• 100万トークンの大規模コンテキストに対応し、長時間にわたる複雑なタスクを処理するAIエージェント向けに設計されています。

主な特徴

• コーディングや金融リサーチに加え、H100 GPUカーネルの最適化やゲーム操作など、長時間継続するタスクに対応します。
• 長大なコンテキストを扱うためのスパースアテンションと、保持すべき情報を学習するコンテキスト圧縮を強化学習に組み込んでいます。
• FP8、BF16、NVFP4のウェイトを利用でき、vLLM、SGLang、Transformersによるデプロイに対応しています。

こんな人におすすめ

• 長時間の自律実行や複雑な推論を必要とするコーディングエージェントを開発・検証したい人に適しています。
• 大規模言語モデルを自社環境で運用し、用途やハードウェアに応じて量子化形式や推論基盤を選びたい人に向いています。