AgentAudit

概要

AgentAuditは、RAG/AIエージェントの出力をリアルタイムに検証するミドルウェアAPIです。取得元コンテキストとLLM回答を厳密に照合し、幻覚や引用エラーを検出して即座にフラグします。

特徴

• TypeScript/Node.jsで堅牢なバックエンド
• PostgreSQL + pgvector を使った意味的比較
• REST APIでフレームワーク依存なし、LangChain/Flowise、独自バックエンドにも対応
• オープンソースでセルフホスト可、RapidAPIの無料プランあり

設計思想

100%の正確性は推奨するが、プロンプトだけに頼らず検証を実施。エージェントとフロントエンドの間に位置し、取得文脈と生成回答を検証。