SkyBreak Platform
ストックにはログインが必要です
世界およびアジアの13以上のLLMを対象に、レイテンシーと料金をリアルタイム比較
Artificial Intelligence
Developer Tools
Open Source
Google Cloud Run
概要
- 複数のLLMについて、マーケティング上の公称値ではなく、実環境に近い接続速度や初回トークン生成時間を比較できるベンチマークです。
- エッジゲートウェイから30分ごとに計測し、プロバイダーごとに大きく異なるTTFTやコールドスタート時のレイテンシーを可視化します。
主な特徴
- DeepSeek、Qwen 2.5、Claude、GPT-4oなど13以上のモデルを対象に、TTFTやスループット(TPS)をサブ秒単位で測定します。
- 100万プロンプトトークン・補完トークンあたりのライブ料金を追跡し、プロンプトキャッシュによる割引も考慮した実質的なコストを確認できます。
- Python、Node.js、cURLに対応したコードスニペットをワンクリックで取得でき、OpenAI SDK互換の環境へ導入しやすい設計です。
こんな人におすすめ
- 本番環境で利用するLLMを、応答速度・処理性能・料金のバランスから比較検討したい開発者や技術責任者に適しています。
- 複数モデルを利用した場合の月額請求額を事前に見積もり、用途やトラフィックに合ったモデル選定を行いたいチームに向いています。
投票数: 0