Pith

PithはアプリとOpenAI/Anthropicの間に置くプロキシで、送信前にプロンプトを自動最適化してトークンを削減。出力品質を保ちつつコストを抑えます。導入はAPIキーとベースURLを置換するだけで完結。無料プランは平均約18%、Proプランは約35%の節約を謳う。技術スタックはFastAPI/Docker/DuckDB、遅延は約50ms。最適化データベースはAPI呼び出しごとに成長し、節約は時間とともに向上します。