VernLLM logo

VernLLM

LLMアプリの本番運用を支える信頼性レイヤー

Artificial Intelligence Developer Tools Open Source OpenAI Day

VernLLMは、複数のLLMプロバイダに対応する、軽量な本番用信頼性レイヤー。リトライ・タイムアウト・サーキットブレーカ・キャッシュ・構造化出力・型検証を1つの型付きインターフェースで提供。依存ゼロ・TypeScript中心設計。

投票数: 2
← 投稿一覧に戻る