Winnow

Winnow は LLM 前に RAG プロンプトを圧縮し、意味を保ちながらトークンコストを大幅に削減します。質問ガイド付きフィルタリングと LLMLingua-2 で意味の正確性を維持。主な特徴は FastAPI サーバー（OpenAI 互換プロキシ）、バッチ圧縮 API、質問対応フィルタリング、Docker 自己ホスティング、pip SDK、MIT ライセンス。