AnchorShell Relay
ストックにはログインが必要です
エージェントやチームのための、高速で柔軟なスマートAIルーティング
Artificial Intelligence
Developer Tools
GitHub
API
概要
- AnchorShell Relayは、エージェントやアプリとAIモデルの間に入り、リクエストの内容に応じて最適なモデルやプロバイダーへ振り分けるAIゲートウェイです。
- 単なるプロキシではなく、モデル選択からキュー処理、制限管理、障害時の切り替え、利用状況の可視化まで担う運用コントロール層として設計されています。
主な特徴
- 数百種類のモデル経路に対応し、内蔵の超高速分類器やLayaなどのSystem Oneモデルを使って、リクエストを数ミリ秒で分類・ルーティングします。
- RPMを考慮したリクエストペーシングやキュー優先スケジューリング、制御可能なフォールバックにより、プロバイダーの上限超過や障害の影響を抑えます。
- ルーティング判断、レイテンシ、トークン数、コストをリアルタイムに追跡でき、エージェント運用における性能と支出を把握できます。
こんな人におすすめ
- 複数のAIモデルやプロバイダーを使い分け、リクエスト内容・性能・コストに応じて自動的に送信先を切り替えたい開発チームに適しています。
- エージェントの本番運用で、プロバイダーのレート制限、障害時のフォールバック、キュー制御を一元管理したい人に向いています。
- ホステッド版に加えて、Communityエディションをnpxコマンドでローカル実行できるため、自己ホストや公開リポジトリを重視する開発者にも適しています。
投票数: 6