OpenInterpretability logo

OpenInterpretability

LLMの知識を監査するオープンソースのツールキット

Artificial Intelligence Developer Tools Open Source

OpenInterpretabilityの機能をMCP経由で Claude Code、Cursor、Cline に直接組み込める初の機能。活性化の取得、SAE特徴の検索、プローブ実行、因果介入のテストをセッション内で可能にする。FabricationGuardとagent-probe-guardという2つのプロダクション・プローブを同梱。ワンラインインストールでApache-2.0ライセンス。IDE統合の要望やLLMの障害モードの把握を求める。

投票数: 1
← 投稿一覧に戻る