AI Release Assurance

概要

• AI Release Assuranceは、AIの変更を本番環境へ出す前に、安全性を検証し、リリース可否を判断するための評価プラットフォームです。
• 実際のステージング環境に接続し、チャットボット、AIエージェント、RAGシステム、APIの挙動をリリース前に検証できます。

主な特徴

• 18のリスクカテゴリに対する138種類の敵対的チェックを実行し、指示の乗っ取り、情報漏えい、危険な操作などを体系的に検出します。
• 過去のリリースをベースラインとして比較し、特定リスクの再テストや、理由を確認できるマスキング済み証拠の出力に対応します。
• CIに「承認」「ブロック」「要確認」の判定を組み込めます。Enterprise Runnerでは顧客環境内で実行し、プロンプトや認証情報などを管理下に置けます。

こんな人におすすめ

• 生成AIアプリやエージェントを開発し、通常の機能テストだけでは把握しにくい安全性や悪用リスクを確認したいチームに適しています。
• AIのリリースごとに評価結果を比較し、再現可能な検証プロセスをCIへ組み込みたい開発・セキュリティ担当者に向いています。
• コンプライアンス認証やファイアウォールではなく、顧客提供前に危険なAI挙動を具体的な証拠とともに発見したい組織に役立ちます。