GitHub logo

GitHub

対応可能な最安のモデルへ、すべてのプロンプトをルーティングする

Artificial Intelligence Developer Tools Productivity

概要

複雑さを分類して、処理に適した最安のモデルへ自動的にルーティングするテンプレート。難易度の高いタスクは Claude、簡易タスクは Groq に割り当て、リアルタイムのコスト追跡を提供します。Claude、GPT-4o、GPT-4o-mini、Groq にすぐ対応。既存プロジェクトへ10分未満で組み込み可能。完全ソース・テスト・セットアップ解説を同梱。

仕組みと利点

  • pydantic-ai による構造化出力で分類
  • 最安モデルの選択で費用を抑制
  • 実行時コストの可視化で予算管理が容易

導入イメージ

  • 既存の API ワークフローに最小の労力で統合
  • 明確なカテゴリに基づくルーティングで保守性が向上
投票数: 1
← 投稿一覧に戻る