abliteration.ai

概要

abliteration.aiは、開発者が挙動を制御できるOpenAI互換のLLM APIと、企業向けAIガバナンスを実現するPolicy Gatewayを提供します。プロンプト・出力の保持なし、従量課金。OpenAI互換で既存SDKを使い続けられ、/v1/chat/completionsの置換えが可能です。

特長

• OpenAI互換でベースURLを切替えるだけ
• Policy Gatewayをオプションで有効化、rewrite/redact/escalate/refuseをコード化
• 監査ログ、クォータ、Canary/Shadow/Canary/rollbackの運用機能
• データプライバシー: プロンプト/出力は保持せず、運用テレメトリのみ保存

使い方

• APIキー取得
• エンドポイントをhttps://api.abliteration.ai/v1に設定
• model abliterated-model で chat.completionsを呼ぶ
• ガバナンス評価時はpolicy_idを付与

学びたいこと

• policy gatewayへの信頼を高める要件
• 次に優先すべき統合（Vercel AI SDK / LiteLLM / LangChain / LlamaIndex など）
• ページ/ドキュメント離脱の最大要因