Promptfoo

Promptfooは、LLMアプリケーション向けの自動レッドチーミング、プロンプト評価、脆弱性スキャンを実行するオープンソースの統合フレームワーク。AIエンジニアやセキュリティチームがエージェントやRAGパイプラインを本番環境で安全に運用するためのツールです。主な機能として、50種類以上の脆弱性タイプを検出する自動レッドチーミング、モデルバージョン間の回帰テスト用プロンプト評価、GitHub/GitLab/JenkinsのCI/CD統合、リアルタイムガードレール、MCPプロキシによる通信保護を提供します。オープンソースとしての継続性と、Fortune 500の25%以上での採用実績が信頼性を示します。買収後もオープンさは維持され、モデル非依存のテストが保証されています。