Llama Windows

概要

• llama.cppをWindows 11のシステムトレイで動かし、ローカル環境でAIモデルを手軽に利用できるアプリです。
• Hugging Faceのモデルをワンクリックで取得でき、PCに適したモデルの提案から実行までをアプリが支援します。

主な特徴

• Alt+Spaceを押すだけで、どの画面からでもローカルモデルとのチャットをすぐに開始できます。
• localhost:9931/v1のOpenAI互換APIを、コーディングエージェントやエディター、スクリプトから共通利用できます。
• モデルはHugging Faceの共通キャッシュに保存されるため、アプリごとに大容量モデルを重複してダウンロードする必要がありません。

こんな人におすすめ

• クラウドにデータを送らず、Windows PC上でプライバシーを保ちながらAIを使いたい人に向いています。
• ターミナル操作や管理者権限なしで、複数の開発ツールから同じローカルAI環境を利用したい人に適しています。