TruLayer

概要

TruLayer は本番環境の LLM 運用を支える信頼性プラットフォーム。Tracing は OTLP ネイティブ対応で主要 SDK をサポート。Evals は 25 種類の評価をインライン提供（幻覚、忠実性、ツール呼び出しの正確性、PII、引用密度など）。Control loop（v0.1）では評価発火 → クラスター → プロンプト差分 → A/B → 自動デプロイ → 回帰時ロールバックを自動化。HITL ゲート可。無料枠は月1M スパン、カード不要。

強み

• 使い勝手の良い観測性と信頼性の統合
• 自動化の意思決定は人間介入を経由して安全性を維持

今後の展望

• リメディエーション後の再評価はリトライ時のみ自動化。プロンプト変更・フォールバックモデルの自動再評価は未実装だがロードマップ上