Soup CLI
ストックにはログインが必要です
4GBのノートPCGPUで8BのLLMをファインチューニング
Artificial Intelligence
Developer Tools
GitHub
Open Source
概要
- 4GBノートPCのGPU上で8BパラメータのLLMをLoRAでファインチューニング
- ベースモデルは凍結、RAM上に置きGPUには層ごとにストリーム供給
- YAML1つとコマンド1つでSFT/DPO/GRPO/KTO、評価・ゲーティング・エクスポートを実行
- すべての数値を公開、検証はストリーム版と居住版のロジット一致を厳密に要求
- 透明性を重視し、8台H100検証でのバグ報告など実例を公開
投票数: 0