监督微调与参数高效微调（LoRA）

监督微调做什么

监督微调（SFT）给模型看成对的「输入—理想输出」示范，让它在这些示范上继续训练。它不太教模型新的世界知识，主要改变的是行为：遵循指令的方式、输出格式、在某类任务上的判断习惯。基础模型变成对话模型、通用模型变成决策或代码审查专用模型，第一步通常都是它。

全参数微调与参数高效微调

• 全参数微调更新模型的全部权重。效果上限最高，但显存需求接近训练本身，每个版本都要存一份完整模型。
• 参数高效微调（PEFT）冻结原模型，只训练少量新增参数。最常用的 LoRA 在权重矩阵旁边加一对低秩小矩阵，要训练的参数常常不到原模型的百分之一。训出来的适配器只有几十到几百 MB，可以和原模型分开存放；推理引擎能在同一份基础权重上同时挂多个适配器，按请求切换。

常见的坑

1. 遗忘：在窄任务上训练过度，模型在其他任务上的能力下降。把一部分通用数据混进训练集是常用对策。
2. 副作用：安全方向的微调容易让模型对看起来危险、其实无害的请求也拒绝回答。
3. 评测：微调后的分数要在没参与训练的数据上量，并且和基础模型放在一起比，才知道提升来自微调。

什么时候值得做

提示词和检索能解决的，先不微调。需要稳定的输出格式、特定领域的判断习惯，或者想把大模型的能力搬到一个更便宜的小模型上时，微调才划算。开放权重的许可是否允许微调和再分发，也要先看清。