Nyth AI

Nyth AIはiPhoneとiPad上で動作するローカルAI。クラウドAPIに依存せず、推論を端末内で完結させるため100%オフライン、データは端末内にとどまりプライバシーを保つ。MLC-LLMとApache TVMを活用して1Bおよび2Bパラメータのモデルをネイティブに動作させ、機内モードや圏外でも機能する。対応モデルはQwen 2.5、Llama 3.2、Gemma 2。アカウント・データログなし、GPUメモリ管理を最適化。高速な応答(Flash)と高度なロジック(Sage)を両立する点を強調。著者はクラウド依存を避け、デバイス上の“脳”を活用する設計と推論最適化の意図を述べ、速度とプライバシーの両立を訴えています。