Token Forecaster logo

Token Forecaster

Enterを押す前に、LLMの応答がどれくらい続くか予測

Artificial Intelligence Developer Tools GitHub Open Source

概要

  • LLMの応答が生成される前に、通常の長さと最悪ケースの範囲を示し、処理時間や必要なコンテキスト容量を見積もれます。
  • 4,146件の未知の呼び出しで90.6%が最悪ケースの範囲内に収まり、ストリーミング中も応答が長引いているかを確認できます。

主な特徴

  • ターミナル、macOSメニューバー、ローカルダッシュボード、Chrome拡張機能に対応し、利用履歴から個人向けの予測プロファイルを作成します。
  • リクエストや履歴を変更せず、データはローカルで処理されます。max_tokensを設定したり、トークンや費用を自動削減したりするツールではありません。

こんな人におすすめ

  • Claude Codeなどのエージェントを使い、ループが長引く兆候を早期に把握して、コンテキスト容量の確保やタスク分割を判断したい人に適しています。
  • LLM応答の長さを自分の利用履歴に基づいて予測したい開発者や、ローカル処理・オープンソースのツールを重視する人に向いています。
投票数: 0
← 投稿一覧に戻る