CustomRouter

概要

複数の LLM を一つの OpenAI 互換エンドポイントに統合し、ルーティングロジックをユーザーが直接制御できるソリューション。英語でのルール記述により、どのモデルをいつ使うかを柔軟に定義できる。

特徴

• 複数モデルを組み合わせて最適なエンジンを選択
• 「高度な推論には強いモデル、単純なタスクには安価なモデル」などのガイドラインを記述可能
• OpenRouter や Vercel Gateway など主要プロバイダをサポート
• スレッド固定機能とすぐ使えるプリセットを同梱
• オープンソース（AGPL-3.0）、Cloudflare でのセルフホスト、BYOK に対応
• 無料プランあり

利用イメージ

• 複数の LLM を一つのエンドポイントで利用し、コストと性能を状況に応じて最適化
• セルフホストや透明性を重視する開発者に適した設計