Agent-Corex – Intelligent Tool Selection logo

Agent-Corex – Intelligent Tool Selection

LLM向けのインテリジェントなツール選択 — コストを50~75%削減

Artificial Intelligence GitHub Open Source Productivity

Agent-Corexは、LLMエージェントが利用するツールを賢く選択することで、文脈肥大化を抑え、APIコストと推論遅延を同時に削減するオープンソースのハイブリッドランキングエンジンです。ハイブリッドランキングエンジンが、<1msのキーワードランキングと50–100msのセマンティック埋め込みを組み合わせ、必要なツールだけをモデルに供給します。これによりAPIコスト削減、推論速度向上、UXの改善を両立。200ツール規模の環境で68%のコスト削減、推論速度4.6xの向上と機能維持の実績が報告されています。Claude、GPT-4、Llamaなど任意のLLMとREST API + Python SDKで連携可能。MITライセンス、Docker/Kubernetes対応。現在v1.0.1で、早期導入者・コントリビューター・ケーススタディを募集。

投票数: 1
← 投稿一覧に戻る