LLMSlim v0.3.0

概要

LLMSlim はオフライン圧縮を組み合わせたハイブリッドプロンプト圧縮ツールです。オフラインの TF-IDF 抽出と LexRank 中心性を使って文脈を絞り込み、任意の LLM を使った意味的リライトで残りを圧縮します。結果としてトークン課金を削減しつつ、システム指示・コードブロック・JSONスキーマを保持します。

特長

• 依存関係ゼロ、Pure Python、pip install llmslim
• OpenAI、Anthropic、Gemini、LangChain、LlamaIndex、Ollama などに対応
• オフライン処理と任意の LLM リライトの組み合わせ
• 実運用での低遅延と安定性

ユースケース

• RAG/ retrieval augmented generation のコスト削減
• 大量の背景文書のノイズ除去と重要情報の維持

アーキテクチャのポイント

• offline TF-IDF 抽出、LexRank 中心性、生成リライトの二段階