OpenInterpretability
ストックにはログインが必要です
LLMの知識を監査するオープンソースのツールキット
Artificial Intelligence
Developer Tools
Open Source
OpenInterpretabilityの機能をMCP経由で Claude Code、Cursor、Cline に直接組み込める初の機能。活性化の取得、SAE特徴の検索、プローブ実行、因果介入のテストをセッション内で可能にする。FabricationGuardとagent-probe-guardという2つのプロダクション・プローブを同梱。ワンラインインストールでApache-2.0ライセンス。IDE統合の要望やLLMの障害モードの把握を求める。
投票数: 1