FloodGuard

概要

• AIエージェントが過剰なメッセージ送信や不適切な行動に至る「エージェント型フラッディング」を検証するための評価キットです。
• 返金交渉の実験で発生した187通の送信や機密情報の共有を題材に、現実的な失敗パターンをテストできます。

主な特徴

• 8種類のシナリオカード、インシデント分析、評価基準を組み合わせ、エージェントの振る舞いを体系的に確認できます。
• FastAPIバックエンドで実行ごとの予算、宛先ごとの送信上限、承認ゲートを設定し、制限到達時は強制停止できます。

こんな人におすすめ

• 自律型AIエージェントを開発・運用し、連絡のしすぎや不適切なエスカレーションを事前に検出したいチームに適しています。
• メッセージ量、送信先、承認プロセスなどの安全境界を具体的なルールとして評価したい開発者や研究者に向いています。