微调方法

1. Prefix Tuning

• 核心：在每个Transformer层前插入虚拟token作为任务前缀。
• 特点：
  • 占用序列长度，计算开销较高。
  • 线性插值逻辑复杂，实现难度较大。

2. Prompt Tuning

• 核心：仅在输入层添加可学习的虚拟token（软提示）。
• 特点：
  • 参数量小，显存消耗低。
  • 适合简单文本理解任务（如分类），但对序列标注任务（如实体识别）效果有限。

3. P-Tuning

• 核心：将Prompt转化为可学习的Embedding层，通过双向LSTM + MLP建模token依赖关系。
• 特点：
  • 虚拟token位置灵活（非固定前缀）。
  • 引入Prompt编码器加速收敛，效果优于Prompt Tuning。

4. P-Tuning v2

• 核心：在每层Transformer中加入任务专属prompt token，支持多任务学习与动态提示长度。
• 特点：
  • 支持复杂序列标注任务（如机器翻译）。
  • 移除冗余结构（如LSTM/MLP），提升效率。
  • 解决小模型微调效果差的问题。

5. Adapter Tuning

• 核心：在每层Transformer中嵌入Adapter模块，仅微调新增参数。
• 特点：
  • 原模型参数固定，训练稳定性高。
  • 推理时增加额外计算延迟。

6. LoRA

• 核心：通过低秩矩阵分解模拟参数变化，间接训练大模型。
• 特点：
  • 参数量极小（如0.1%原始参数量）。
  • 推理延迟可忽略，支持任务间快速切换。
  • 实现简单，效果稳定。

7. QLoRA

• 核心：将预训练模型量化至4bit，添加低秩适配器进行微调。
• 特点：
  • 显存需求极低（适合消费级GPU）。
  • 训练速度略慢于LoRA，但精度损失可控。

总结对比