Styx
ストックにはログインが必要です
すべてのリクエストに最適なモデルを自動で選択するAIゲートウェイ
Artificial Intelligence
Developer Tools
GitHub
Open Source
概要
StyxはオープンソースのAIゲートウェイです。リクエストごとにstyx:autoを渡すと、プロンプトの複雑さに応じて最適なモデルを自動選択します。単純な質問は低コストのモデル、複雑なコードは最先端のモデルへ自動割り当て。65以上のモデルをOpenAI/Anthropic/Google/Mistralなどからサポート。Dockerで5分のセルフホスト、対話型セットアップ、コストと遅延を可視化するダッシュボード、プロバイダ間自動フェイルオーバー。
アーキテクチャとライセンス
- Goルータ(<10msオーバーヘッド)+Pythonバックエンド+Next.jsダッシュボード
- Apache 2.0ライセンス
投票数: 0