大模型面试必知：微调问题全解析，助你通关拿 offer！（非常详细）从零基础到精通，收藏这篇就够了！-CSDN博客

本文链接：https://blog.csdn.net/Python_0011/article/details/149065430

在如今竞争激烈的 AI 领域求职市场中，大模型相关岗位备受瞩目。无论是算法工程师、数据科学家还是 AI 研究员，对大模型的理解和掌握程度都是面试中的关键考察点。而大模型微调作为大模型应用与优化的核心环节，更是面试官们青睐的提问重点。今天，我们为大家深度剖析大模型微调面试中常见的问题，助力大家在面试中脱颖而出，顺利拿下心仪的 offer！

一、基础概念与显存问题

（一）全参数微调的显存需求

在面试中，经常会被问到：“如果想要在某个模型基础上做全参数微调，究竟需要多少显存？” 这可不是个简单的问题。一般来说，n B 的模型，在不开 cpu offload 的情况下，最低需要 16 - 20 n G 的显存。就拿 vicuna - 7B 举例，官方样例配置为 4 * A100 40G，在 global batch size 128、max length 2048 的条件下，就能占满显存。不过别担心，我们可以通过 FSDP、梯度累积、梯度检查点等技术来降低显存消耗。了解这些知识，能让面试官看到你对技术细节的掌握和解决实际问题的能力。

（二）SFT 后模型表现异常

面试时可能会遇到：“为什么 SFT 之后感觉 LLM 傻了？” 这背后涉及到 SFT 的核心目的。SFT 重点在于激发大模型的能力，而非单纯灌输领域知识。由于 SFT 的数据量相比预训练数据少很多，比如 alpaca 数据集的 52k 量级，如果在 SFT 时过于侧重灌注知识，就可能导致模型出现这种异常。指令微调的真正作用，是让大语言模型在泛化能力上有出色表现，在多语言场景下也能应对自如。能清晰阐述这一点，会让你在面试中展现出对大模型微调原理的深刻理解。

二、数据处理与模型训练要点

（一）SFT 指令微调数据构建

构建 SFT 指令微调数据是大模型微调的关键步骤，面试中也常被提及：“SFT 指令微调数据如何构建？” 数据要具备代表性，涵盖多种不同任务；每个任务的实例数量不能太多，几百个较为合适，不然容易引发过拟合，影响模型性能；还要平衡不同任务数据量的占比，将数据集容量控制在几千或几万，避免某个大数据集主导分布。掌握这些要点，能体现你在数据处理方面的专业性。

（二）领域模型训练的数据选择

对于领域模型的训练，数据选取十分关键。像 “领域模型 Continue PreTrain 数据选取？” 这样的问题，答案在于技术标准文档或领域相关数据是重中之重，因为领域相关的网站和资讯在知识密度和重要性上，比不上书籍和技术标准。清晰回答此类问题，能让面试官知道你懂得如何为领域模型选择优质的数据来源。

（三）缓解模型遗忘通用能力

在领域数据训练后，模型可能会遗忘通用能力，这也是面试中的常见考点：“领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力？” 我们可以在领域训练过程中加入通用数据集。虽然目前没有一个绝对精准的比例，但当领域数据量较少时，领域数据与通用数据的比例保持在 1:5 到 1:10 之间较为合适。能给出这样的答案，说明你对模型训练中的问题有深入研究和应对策略。

三、模型选择与训练策略

（一）基座模型的抉择

面试中可能会问：“进行 SFT 操作的时候，基座模型选用 Chat 还是 Base？” 这需要根据资源情况来判断。资源有限时，在 Chat 模型基础上训练是个不错的选择；资源充足的话，Base 模型更有利于拟合自己的数据。具体而言，数据量小于 10k 时，选用 Chat 模型微调；数据量达到 100k 时，则选择 Base 模型。能根据不同情况做出合理选择，展示了你对模型应用的灵活性和判断力。

（二）多轮对话任务微调

多轮对话任务的微调也是面试热点：“多轮对话任务如何微调模型？” 以 ChatGLM - 6B 为例，它把上一轮对话直接放入下一轮 input 的方式虽然简单，但存在爆显问题。我们可以通过对历史对话做文本摘要、将其转化为 embedding，或者针对任务型对话传递用户意图和槽位等方法来解决。熟悉这些方法，能体现你在实际项目中解决复杂问题的能力。

（三）训练配置的考量

训练配置相关问题在面试中也屡见不鲜，比如不同 batch size 设置的影响以及优化器的选择等。batch size 设置太小，更新方向方差大，梯度更新噪声多；设置太大，无法有效改进梯度预测，还会增加计算资源消耗。在优化器方面，除了常见的 Adam 和 AdamW，Sophia 等新型优化器也值得关注，它使用梯度曲率归一化，可能提升训练效率和模型性能。对这些训练配置细节的了解，能展现你在模型训练方面的专业素养。

四、大模型训练问题及应对

（一）样本量增大引发的 OOM 问题

当模型训练样本量大幅增加时，可能出现 OOM 错误。如果面试官问到：“样本量规模增大，训练出现 OOM 错，如何解决？” 你可以回答通过数据并行处理来解决，具体包括将完整数据集均分到所有进程，每个 epoch 训练时数据分片 shuffle，且每个进程同一时间只加载单个分段大小数据集，重新训练时直接加载向量化后的数据。这显示了你具备解决实际工程问题的能力。

（二）loss 突刺问题及解决

大模型训练中的 loss 突刺问题同样重要：“大模型训练 loss 突刺原因和解决办法是什么？”loss spike 是指大模型预训练时 loss 突然暴涨，主要由 Adam 优化器导致，与梯度更新幅度、e 大小、batch 大小密切相关。解决方法有更换 batch 样本（但成本高）、减小 learning rate（治标不治本）、减小 e 大小或设为 0 并重新定义相关公式等。掌握这些内容，会让面试官对你的技术能力刮目相看。

大模型微调相关知识在面试中占据重要地位。通过对这些常见面试问题的深入理解和掌握，大家在面试中就能更加自信从容，精准回答面试官的问题，大大增加获得理想工作的机会。希望大家都能做好充分准备，在大模型面试中顺利通关，开启自己在 AI 领域的精彩职业生涯！

五、如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享**