LLMTrace
ストックにはログインが必要です
どのコミットがLLMの請求を引き上げたのかを特定する
Artificial Intelligence
Developer Tools
GitHub
Open Source
LLMTraceは自己ホスト型のGoプロキシで、Anthropic/OpenAIへの呼び出しを前段で監視し、各リクエストにコスト・ユーザー・デプロイSHAを紐付けて自社Postgresへ記録します。既存ツールは費用増加自体を知らせるだけで、原因となるデプロイを特定しません。SaaS依存なし・データは自社インフラ内に留まるためセキュリティ面の安心感が高い。請求が跳ね上がった際には、該当するコミットを正確に指し示せます。導入はdocker-composeを用いるだけで数分、すぐログ収集を開始できます。創業者の経験から生まれた、帰属の因果を解明する設計思想が特徴です。
投票数: 7