Costly

概要

CostlyはオープンソースのTypeScript SDK。AIクライアントをラップして呼び出しを遅延ゼロでログ記録し、7つの自動ムダ検知を実行します。1つのインストールで導入可能。ダッシュボードは「いくら使ったか」だけを示しますが、Costlyは「なぜそうなったのか」「どこを修正すべきか」を教えてくれます。Anthropicを起点に将来的にOpenAIにも対応予定です。

主な特徴

• 2行のコードで導入可能
• 7つのムダ検知（プロンプト肥大化、モデル過剰、重複クエリ、エラーのムダ、暴走する機能、出力の過剰生成、コスト推移の警告など）
• 呼び出しを非同期でログに記録、遅延ゼロ
• 実運用の可視性とコスト最適化のための具体的な修正提案を提供

導入と展望

• セットアップはnpx costly initで完了
• Anthropicから開始、OpenAI対応を順次拡張
• スタックに合わせた最適化案を検討可能