ProbeLab logo

ProbeLab

FTCに試される前に、AIエージェントをレッドチームで検証しよう。

Artificial Intelligence Developer Tools Security

概要

  • AIエージェントに対する代表的なプロンプトインジェクション攻撃を、ブラウザ上で安全に体験・検証できるインタラクティブな演習環境です。
  • 12種類の攻撃手法と7つの防御策を組み合わせ、エージェントが突破される条件や防御の効果を視覚的に確認できます。

主な特徴

  • 直接的な指示の上書き、ツール出力経由の間接攻撃、複数ターンの脱獄、エンコード攻撃、出力流出などを収録しています。
  • 攻撃結果をBREACH/BLOCKEDで判定し、攻撃カタログ、防御チェックリスト、評価基準、FastAPI用ミドルウェアを提供します。

こんな人におすすめ

  • AIエージェントを開発・運用しており、本番リリース前に現実的な攻撃パターンと防御策を体系的に確認したいチームに適しています。
  • ガードレールの設計を学びながら、演習で得た知見をFastAPIベースの自社プロダクション環境へ反映したい開発者向けです。
投票数: 1
← 投稿一覧に戻る