Tokenly

概要

Tokenlyは、すべてのメッセージに対して5段階の最適化パイプラインを実行する軽量なミドルウェアです。バックエンド変更不要、データ保存なし、オーバーヘッドを増やさずに動作します。

主な機能

• プロンプトのクレンジ
• コンテキストの再利用
• 返信長の抑制
• 適切なモデルへのルーティング
• 節約の追跡

セキュリティと導入

• APIキーはブラウザのローカルストレージに保持され、Anthropicへ直接送信。Tokenlyは保存しません。
• 自分のキーを用意すればすぐに利用開始でき、サインアップ不要。

設計の意図

• トーンはプロンプト設計のムダ削減とキャッシュ最適化、質問処理の無駄を減らす点に焦点。