NobodyWho

概要

• llama.cppを基盤に、LLMをクラウドへ送信せずデバイス上で動かせる、無料のオープンソース推論エンジンです。
• Swift、Kotlin、Flutter、React Native、Python、Godotに対応し、複数のOSや開発環境へ組み込みやすく設計されています。

主な特徴

• GemmaやQwenなどのオープンウェイトモデルを使った文章生成に加え、画像・音声の解析、Whisperによる音声文字起こしにも対応します。
• Supertonic、Pocket TTS、Kokoroによる自然な音声生成や、Vulkan・Metalを活用したGPUアクセラレーションを利用できます。
• 関数シグネチャから文法を自動生成し、壊れたJSONを返しにくいスキーマ準拠のツール呼び出しを実現。長い会話にも対応します。

こんな人におすすめ

• APIキーやクラウド依存を避け、プライバシーを保ちながらAI機能をアプリへ組み込みたい開発者に適しています。
• モバイル、デスクトップ、ウェアラブル、Vision Proなど、幅広いデバイスでローカルAIの実装を試したい人に向いています。
• チャット、画像・音声処理、音声入出力、関数呼び出しまでを一つの推論基盤で検証したいチームに便利です。