GitHub
ストックにはログインが必要です
対応可能な最安のモデルへ、すべてのプロンプトをルーティングする
Artificial Intelligence
Developer Tools
Productivity
概要
複雑さを分類して、処理に適した最安のモデルへ自動的にルーティングするテンプレート。難易度の高いタスクは Claude、簡易タスクは Groq に割り当て、リアルタイムのコスト追跡を提供します。Claude、GPT-4o、GPT-4o-mini、Groq にすぐ対応。既存プロジェクトへ10分未満で組み込み可能。完全ソース・テスト・セットアップ解説を同梱。
仕組みと利点
- pydantic-ai による構造化出力で分類
- 最安モデルの選択で費用を抑制
- 実行時コストの可視化で予算管理が容易
導入イメージ
- 既存の API ワークフローに最小の労力で統合
- 明確なカテゴリに基づくルーティングで保守性が向上
投票数: 1