RedForge

概要

RedForgeは、AI機能を簡単に展開できる一方で、それらが安全であることを証明するためのオープンソースツールです。47種類のOWASP LLM攻撃を自動で実行し、結果をNIST AI-RMFおよびEU AI法に基づいてレポートとして取得できます。

主な機能

• ワンクリックスキャン: APIやモデルを簡単にスキャン
• 自動攻撃: プロンプトインジェクションやデータ漏洩、DoS攻撃など47種類
• 多様なレポート形式: PDF、HTML、JSONで出力が可能

プラン

• 無料プラン: 1回の透かし付きクラウドスキャン
• スターター版: 月額29ドルで無制限スキャン、クリーンレポートを提供

オープンコアの理由

CLIは完全にオープンソースで、料金プランにより、フルアタックパックやコンプライアンス文書を提供し、研究の資金を確保しています。

このように、RedForgeはAIセキュリティを強化するための強力なプラットフォームを提供しています。ぜひお試しください。