[AI 词汇表][RAG][LLM][成本]
微调与 RAG
作者与批准
[AI 撰写] [经人工批准]
更新
28.10.2026
Fine-tuning（微调）是在你的示例上对现成模型进行进一步训练，以改变其回答方式：风格、格式、词汇。RAG是在提问时向模型提供你的文档，而无需改变模型。简而言之：fine-tuning教如何说话，RAG提供说什么。
~2 千
每周新文本
0
我们微调的模型
202
库中关于fine-tuning的文本
它们有什么区别？
- 不断变化的知识（价目表、规章制度、新闻）：RAG。修改文档立即生效，无需训练。
- 风格和格式（品牌基调、固定回答模板、狭窄任务）：fine-tuning。
- 来源： RAG可以指出它从哪里获得回答。经过fine-tuning的模型无法说明它是从哪个示例中学习的。
- 成本： RAG需要一个向量数据库以及每个问题稍多的token。Fine-tuning需要准备数据、训练并在每次重大更改时重新训练。
我们的实验室是怎么做的？
- 我们选择了RAG，没有微调任何模型。 实验室每周阅读约2 千篇新文本（在12–18.10.2026这一周：2 197）。周一微调的模型到周三就会过时。
- 新文本 = 新向量，无需新训练。 该流程每小时为新文本添加向量，聊天可以立即看到它们。
- 行为由指令和代码设定，而非训练： 带来源的回答、拒绝库外内容、输出网关。当需要更改某些内容时，我们修改指令并运行测试。
- 成本：0 PLN的训练成本，因为根本没有训练。
什么时候该用fine-tuning？
- 当小型廉价模型需要非常好地完成一项狭窄任务时，例如分类工单。
- 当回答必须始终具有相同的格式，并且指令不够用时。
- 当你有数百个好的示例并且任务稳定、每周不发生变化时。
- 通常效果最好的是结合使用：适应格式的模型 + 提供知识的RAG。
相关术语
RAG · 大语言模型 (LLM) · Embedding · 模型评估
问答
Fine-tuning是否将我的文档“烧录”到模型中？
不是以一种可以依赖的方式。模型学习模式，并且可能会扭曲训练中的事实。RAG用于知识。
一开始哪个更便宜？
几乎总是RAG。它不需要准备训练数据或进行训练。
可以将两者结合使用吗？
可以。Fine-tuning设定风格和格式，RAG提供最新知识。
来源
下一步