Zero-markup OpenAI-compatible router.

概要

• ユーザー自身のAPIキーと承認済みモデルだけを使い、リクエストごとに最適なモデルを自動選択するルーターです。
• プロンプトを分類し、リアルタイムの料金、成功率、レイテンシーをもとに、要件を満たす最安モデルへ振り分けます。
• モデルのトークン料金への上乗せはなく、プロバイダーへの料金を直接支払う方式で、運用コストを透明化できます。

主な機能と検証結果

• OpenAI SDKなどへ3行で組み込め、コスト優先の自動ルーティングや、実測レイテンシーに基づくフォールバックに対応します。
• SentioGate Armorが破壊的なBash／SQL操作やエージェントの暴走ループを検知し、意図しない処理の実行を抑制します。
• 同一キーで60件の難問を比較したテストでは、59件を正解し、専用の判断モデル方式より推定コスト約62％減、中央値レイテンシー約半分を記録しました。

こんな人におすすめ

• 用途に対して高価すぎるモデルが選ばれがちで、複数プロバイダーやAPIキーの切り替えを自動化したい開発チームに適しています。
• モデル利用料への中間マージンを避け、承認済みモデルと自社キーを前提に、費用とアクセス範囲を管理したい組織に向いています。
• 削減額を検証可能な形で把握しつつ、キャッシュや品質・速度の実測値を活用してFinOpsを改善したいチームに役立ちます。