PrismShine
ストックにはログインが必要です
LLMアプリ向けの自己ホスト型幻覚回避判定エンジン
Artificial Intelligence
Developer Tools
Open Source
製品概要
PrismShineは自己ホスト型の幻覚回避判定エンジンです。実行時の証拠を原因側でフォレンジック分析し、プリロードと根拠を照合して、監査可能な ShineVerdict(決定+名前付き解決ゲート+証拠ハッシュ)を返します。
特徴と意義
- 実行時の証拠に基づく検証
- 名前付き解決ゲートと証拠ハッシュを含む ShineVerdict
- 自己ホスト運用と Apache-2.0ライセンス
- プロンプトインジェクションのファイアウォールではなく、証拠に基づく検証を重視
使い方の要点
- pip install prismshine==0.2.2
- prismshine verify --demo
導入先とデモ
- 公式ページ・デモ・GitHub に公開
投票数: 5