选择 1：LLaMA Factory（中文生态首选，QLoRA 开箱即用）

核心定位

目前国内最火的大模型微调一站式框架，专为 LoRA/QLoRA 设计，完美适配国产超小模型，中文社区友好。

优势

1. QLoRA+CPU 适配拉满：内置 CPU 微调超小模型的预设脚本，无需手动优化参数，一键启动 Qwen2.5-1.8B 的 QLoRA 微调，内存占用控制在 8G 以内；
2. 中文友好度第一：完美兼容 Qwen、Baichuan、Zhipu 等国产模型，文档 / 教程全是中文，遇到问题能快速找到中文解答；
3. 一站式流程：集成数据清洗、微调、评估、导出全环节，不用拼接多个工具，微调后可直接导出 Ollama / 本地部署格式；
4. 双模式操作：支持命令行（专业）+ 可视化 Web 界面（新手），兼顾你的技术背景和快速验证需求。

劣势

1. 灵活性稍弱：高度封装的代码结构，自定义复杂微调策略（如多阶段训练、DPO 对齐）需改源码；
2. 依赖冲突：对 PyTorch/Torchvision 版本要求严格，偶尔出现环境适配问题；
3. 应用延伸弱：仅聚焦微调，后续做智能体 / RAG 需对接 Haystack/LangChain 等框架。

适配场景

✅ 优先选：想快速跑通 CPU-QLoRA 微调、聚焦国产超小模型、需要中文社区支持。

选择 2：Hugging Face Transformers + PEFT（通用型王者，生态最全）

核心定位

行业标准框架，PEFT 库（Parameter-Efficient Fine-Tuning）是 LoRA/QLoRA 的「官方实现」，通用性无出其右。

优势

1. 极致灵活：可自定义 QLoRA 的每一个细节（量化精度、低秩矩阵维度、学习率策略），适合深度定制微调逻辑；
2. 生态无缝衔接：微调后可直接对接 Hugging Face 部署工具、Haystack/LangChain 等应用框架，从微调→落地全链路打通；
3. 全模型兼容：支持所有开源超小模型（包括冷门的端侧模型），CPU/GPU/TPU 环境都能适配；
4. 长期价值高：掌握后可适配所有 AI 开发场景，是深耕 AI 领域的「基本功」。

劣势

1. 上手门槛高：需手动编写完整训练脚本（数据加载、训练循环、显存优化），CPU 微调时要手动调参避免内存溢出；
2. 中文适配弱：教程以英文为主，国产模型（如 Qwen）的 QLoRA 适配需手动调整代码；
3. 无可视化：全代码操作，调试成本比 LLaMA Factory 高。

适配场景

✅ 进阶选：想掌握微调底层逻辑、需要自定义策略、计划长期深耕 AI 开发。

选择 3：Axolotl（轻量化极致，专注 QLoRA 低算力微调）

核心定位

专为 QLoRA 设计的极简框架，代码量少、无冗余依赖，极致优化 CPU / 低配 GPU 环境。

优势

1. CPU 内存占用最低：比 LLaMA Factory 节省 10%-20% 内存，微调 Qwen2.5-1.8B 仅需 6G 内存，是超小模型的最优解；
2. 配置驱动：通过 YAML 文件定义微调参数，无需改代码就能调整策略，兼顾易用性和灵活性；
3. 部署链路短：微调后一键导出为 Ollama/vLLM 兼容格式，直接对接你熟悉的本地部署场景。

劣势

1. 功能单一：仅聚焦微调，无数据处理、模型评估工具，需自己对接其他库；
2. 社区极小：中文资源几乎为 0，遇到问题只能查英文文档或源码；
3. 国产模型适配差：Qwen2.5 的部分特性（如分词器）需手动适配。

适配场景

✅ 小众优选：想极致优化 CPU 资源、仅做基础 QLoRA 微调、能接受英文文档。

总结

1. 首选 LLaMA Factory：最快跑通 CPU-QLoRA 微调，中文生态 + 国产模型适配；
2. 次选 Transformers+PEFT：掌握后能应对所有微调场景，适合往 AI 方向长期发展；
3. 备选 Axolotl：仅当需要极致压缩 CPU 内存时选择。