RagLeap
ストックにはログインが必要です
CUDA不要、2GB級の Torch も不要。23MB のリランキングモデル。6つのベクトルデータベース。
Artificial Intelligence
Developer Tools
GitHub
Open Source
概要
- RagLeap のオープンソース中核。文書取り込み、検索、引用を行う self-hosted RAG チャットエンジンを提供。
- CPU 上で動作する 23MB のリランキングモデルを ONNX Runtime で実行。GPU/2GB 以上の依存を回避。
- 6つのベクトルバックエンド、8つの埋め込み提供元、12以上の生成提供元をサポートし、障害時には自動フォールバック。
- 実測ベースのコスト追跡と月次予算管理、CI/テストの徹底、ドキュメントは実稼働検証済みまたは未検証ラベル付き。
- オープンソース公開と透明性。pip install ragleap-rag で導入可能。貢献歓迎。
投票数: 4