术语表 · GPU 与算力

微调

Fine-Tuning

又写作

fine-tuningweitiao全参微调继续训练

要点

什么是微调？

微调指在已经预训练好的模型上用自己的数据继续训练，使它适应特定任务、格式或语气，是中小团队最现实的定制方式——从零训练一个大模型的成本，与租几张卡跑几个小时不在一个数量级。

按显存开销分成两类：全参数微调要同时保存权重、梯度与优化器状态，显存需求是纯推理的数倍（Adam 类优化器本身就要额外占用权重数倍的空间）；参数高效微调（LoRA、QLoRA）只训练一小部分新增参数，消费级显卡也做得动。

一次微调任务通常以小时计——正因如此，按小时计费在这个市场是默认做法，包月反而不合算。跑完导出权重、关机、下次再开，是这个用法的标准节奏。

常见误解

微调擅长改变风格、格式与任务适配，但不是给模型可靠地灌注新知识的手段。需要模型引用准确事实时，检索增强（RAG）通常比微调更便宜也更可控，而且改一份文档就能更新，不必重训。

本站相关页面

和「微调」一起看 5 条

LoRA（低秩适配）是一种参数高效微调方法：冻结原模型权重，只训练一组新增的低秩矩阵，显存占用与产出文件都远小于全参数微调，是消费级显卡上最常用的微调方式。

显存是显卡上独立于系统内存的高速存储，模型权重、激活值与缓存都必须放进显存，因此显存容量决定一块 GPU 能不能跑某个模型——放不下就完全跑不起来，而算力不足只是跑得慢。

炼丹是中文机器学习圈对训练模型的戏称，取自结果难以预测、只能反复调参试出来的过程；「炼丹炉」指用来训练的机器，「丹」指训练出来的模型权重。

推理指用已经训练好的模型产生结果的过程——生成文本、出图、语音转写、目标检测都属于推理，它是 GPU 租用中最常见的用途，显存要求由模型大小决定，速度要求由并发量决定。

大模型是参数量在十亿级以上的深度学习模型的统称，中文语境下通常特指大语言模型（LLM）；模型名字里的 7B、13B、70B 指的就是参数量，它直接决定了运行所需的显存。