LLMTrace logo

LLMTrace

どのコミットがLLMの請求を引き上げたのかを特定する

Artificial Intelligence Developer Tools GitHub Open Source

LLMTraceは自己ホスト型のGoプロキシで、Anthropic/OpenAIへの呼び出しを前段で監視し、各リクエストにコスト・ユーザー・デプロイSHAを紐付けて自社Postgresへ記録します。既存ツールは費用増加自体を知らせるだけで、原因となるデプロイを特定しません。SaaS依存なし・データは自社インフラ内に留まるためセキュリティ面の安心感が高い。請求が跳ね上がった際には、該当するコミットを正確に指し示せます。導入はdocker-composeを用いるだけで数分、すぐログ収集を開始できます。創業者の経験から生まれた、帰属の因果を解明する設計思想が特徴です。

投票数: 7
← 投稿一覧に戻る