VoidLLM

VoidLLM は自己ホスト型の LLM プロキシ/ゲートウェイ。複数の LLM プロバイダへリクエストを分散し、ゼロ知識設計でプロンプトを保存しない。Go 製でオーバーヘッドは 2ms 未満、単一バイナリと Web UI、GDPR 準拠。無料プランは無制限ユーザー。用途として、企業の内部ツールやアプリに組み込み、複数の LLM を安全に切り替え・監視可能。設定は最小限で、すぐデプロイできます。