Agentwall

概要

• AIエージェントのモデル出力と実際のツール実行の間に、リスクを判定・制御するための中間レイヤーを追加します。
• ツール呼び出しを安全、要注意、破壊的の3段階に分類し、危険な操作が自動で実行される事態を防ぎます。

主な特徴

• 破壊的と判定された呼び出しには実行前の承認を要求し、データ削除やシステム変更などを人が確認できます。
• すべての実行試行をJSONLで記録し、失敗時にはロールバック用フックによる補償処理にも対応します。
• PythonとTypeScriptで利用でき、Anthropic、OpenAI、LangChainと連携可能。実行時の追加依存関係はありません。

こんな人におすすめ

• 本番環境でAIエージェントを動かしており、モデルの判断だけでデータ変更や危険な操作が実行されることを防ぎたいチーム。
• ツール呼び出しの監査ログや承認フローを導入し、エージェントの操作を追跡可能かつ制御可能にしたい開発者。