CacheCatch
ストックにはログインが必要です
エージェントのキャッシュ監査
Artificial Intelligence
GitHub
Open Source
Analytics
概要
CacheCatchは、LangSmith・Langfuse・Braintrust・ローカルIDEエージェント間でLLMトークンコストとプロンプトキャッシュの効率を監査します。キャッシュブレーカーを検出し、ムダな支出を見積もり、AIコストを最大90%削減するための正確なプロンプト配置の修正を提示します。さらに、AIエージェントの文脈を分析して繰り返しトークンをキャッシュにヒットさせる移動箇所を示し、文脈の無駄・キャッシュミス・コスト漏れを可視化します。
投票数: 3