ZeroLeaks

ZeroLeaks は、AIエージェントのセキュリティを自動検証するオープンソースの検査ツールです。エージェントが外部内容を読み込み、ツールを呼び出せる状況を前提に、プロンプトインジェクションやツールの誤用などの脆弱性を production 前に洗い出します。主な機能として、プロンプトインジェクションの試みの検査、システムプロンプ露出の検知、敵対的指示のシミュレーション、ツール誤用リスクの分析があります。開発は個人で進めつつ研究結果を公開しており、AIエージェントやLLMワークフローを活用する開発者にとって、現在のセキュリティ課題や関心のある攻撃種別、検出してほしいポイントの意見を募る形を取っています。