PithToken

概要

PithTokenは、アプリとOpenAI互換APIの間に置くAPIプロキシ。プロンプトを自動最適化して、トークンを平均約48%削減。意味は崩さずトークンを減らす責務を持ち、3層の注入検出機能・19言語対応・セマンティックキャッシュを提供。導入は1行のコード変更だけ。

特徴

• 平均48%のトークン削減
• 97%超のセマンティック忠実度
• 3層のプロンプト注入検出（正規表現・ヒューリスティック・ML）
• 19言語対応
• セマンティックキャッシュ

使い方

1) base_urlをapi.pithtoken.aiに設定
2) 自動最適化
3) 同等の品質を保ちながらコストを削減

対象

開発者向け。ベンダーロックインなしで、複数のOpenAI互換APIと連携可能。