Noryen
ストックにはログインが必要です
リスクのあるAI出力を監視・比較・検出する
Artificial Intelligence
Developer Tools
Tech
概要
- ヘルスケア領域の AI 出力を生産環境で監視・比較・検出する、シンプルで使いやすいツールです。
- 出力のリスクを早期に把握し、薬の処方や用量の推奨などの不適切な発言を抑制することを目指します。
- 開発者が自分の AI の挙動を visibility を高め、信頼性を検証できるよう設計されています。
- 手動テストだけでは見えづらい挙動を可視化し、運用時の予測不能性を低減します。
- ユーザーの安全性と信頼を重視した実装方針で、今後の機能拡張の土台となります。
投票数: 5