ProbeLab
ストックにはログインが必要です
FTCに試される前に、AIエージェントをレッドチームで検証しよう。
Artificial Intelligence
Developer Tools
Security
概要
- AIエージェントに対する代表的なプロンプトインジェクション攻撃を、ブラウザ上で安全に体験・検証できるインタラクティブな演習環境です。
- 12種類の攻撃手法と7つの防御策を組み合わせ、エージェントが突破される条件や防御の効果を視覚的に確認できます。
主な特徴
- 直接的な指示の上書き、ツール出力経由の間接攻撃、複数ターンの脱獄、エンコード攻撃、出力流出などを収録しています。
- 攻撃結果をBREACH/BLOCKEDで判定し、攻撃カタログ、防御チェックリスト、評価基準、FastAPI用ミドルウェアを提供します。
こんな人におすすめ
- AIエージェントを開発・運用しており、本番リリース前に現実的な攻撃パターンと防御策を体系的に確認したいチームに適しています。
- ガードレールの設計を学びながら、演習で得た知見をFastAPIベースの自社プロダクション環境へ反映したい開発者向けです。
投票数: 1