【AI大模型】从零开始运用LORA微调ChatGLM3-6B大模型并私有数据训练

最新推荐文章于 2025-04-07 16:16:41 发布
最新推荐文章于 2025-04-07 16:16:41 发布
阅读量2k 收藏 31
点赞数 19
分类专栏： AI大模型 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45574790/article/details/138966587
版权

🚀 作者 ：“大数据小禅”

🚀 文章简介 ：本专栏后续将持续更新大模型相关文章，从开发到微调到应用，需要下载好的模型包可私。

🚀 欢迎小伙伴们 点赞👍、收藏⭐、留言💬

目录导航

1.什么是ChatGLM3-6B

  • ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：

  • 更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，* ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能*。

  • 更完整的功能支持： ChatGLM3-6B 采用了全新设计的 Prompt 格式 ，除正常的多轮对话外。同时原生支持工具调用（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。

  • 更全面的开源序列： 除了对话模型 ChatGLM3-6B 外，还开源了基础模型 ChatGLM3-6B-Base 、长文本对话模型 ChatGLM3-6B-32K 和进一步强化了对于长文本理解能力的 ChatGLM3-6B-128K。以上所有权重对学术研究完全开放 ，在填写 问卷 进行登记后亦允许免费商业使用。

2.什么是LORA微调技术

  • LoRA（Low-Rank Adaptation）微调技术是一种用于微调大型预训练语言模型的方法。这种技术的核心思想是通过在原有的模型中引入少量的额外参数来实现模型的微调，而不是改变模型的全部参数。这样做可以在保持预训练模型的大部分知识的同时，使模型适应特定的任务或数据集。
  • LoRA主要通过在模型的每个变换器层中引入两个低秩矩阵（A 和 B）来实现。这些矩阵与原始的注意力矩阵或前馈网络权重矩阵相乘，以引入新的可训练参数。在实践中，通过这种方式添加的参数数量远少于原始模型的参数总量，从而大幅减少了微调过程中的计算和存储需求。
  • LoRA技术特别适合于需要在资源受限环境下迅速部署模型的场景，例如在移动设备上或在云端服务中处理大量用户请求时。此外，这种方法也适用于那些需要对模型进行频繁更新的应用

3.算力平台

  • 由于模型微调需要用到大量算力，对GPU要求较高，推荐小伙伴租借算力平台的服务器进行使用
  • 本文使用的环境：Ubantu + RTX4090 24G
  • 直接到算力平台租借即可
    在这里插入图片描述

4.环境搭建

4.1 虚拟环境conda工具搭建并激活
  • 安装conda 建议直接安装Anaconda即可本地
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm -rf ~/miniconda3/miniconda.sh
  • conda create -n chatglm3 python=3.11
  • conda activate chatglm3
4.2 CUDA版本查看和torch版本匹配
  • 输入命令nvidia-smi
    在这里插入图片描述
  • 版本匹配情况查看：https://pytorch.org/get-started/previous-versions/ 修改对应的requirements.txt的torch版本即可
    在这里插入图片描述
    在这里插入图片描述
4.3 git lfs下载
  • 想要使用git拉大的数据需要下载git lfs
  • 乌班图操作（不同系统操作不一样 mac使用brew直接安装）
    在Ubuntu系统上安装Git Large File Storage (Git LFS) 的步骤如下：

  1. 安装Git（如果尚未安装）： 确保你的系统上已经安装了Git。可以通过运行以下命令来安装Git：

    sudo apt-get update
sudo apt-get install git

  2. 添加Git LFS的包仓库： 为了安装Git LFS，你需要首先添加它的包仓库到你的系统中。使用下面的命令：

    curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash

  3. 安装Git LFS： 添加仓库后，你可以通过运行以下命令来安装Git LFS：

    sudo apt-get install git-lfs

  4. 设置Git LFS： 安装完成后，你需要运行以下命令来设置Git LFS：

    git lfs install

这将设置Git LFS的全局Git钩子。

4.4 模型下载和代码拉取
  • 模型下载地址 https://huggingface.co/THUDM/chatglm3-6b 需要科学上网
  • 或者 https://www.modelscope.cn/models/ZhipuAI/chatglm3-6b/ 推荐 都可以直接下载
  • git clone + .git地址 - 》git clone https://huggingface.co/THUDM/chatglm3-6b
  • 拉官方代码： git clone https://github.com/THUDM/ChatGLM3.git
    在这里插入图片描述
4.5 依赖下载
  • 进入到拉下来的代码的根目录 运行即可下载相关的全部依赖
  • pip install -r requirements.txt

5 模型微调

5.1 数据准备
  • 这里需要准备json格式数据并按照官方给的格式进行排列，有train.json和train.json数据 存放到项目的目录即可 格式如下
  • 自己造数据即可
{"conversations": [{"role": "user", "content": "你好"}, {"role": "assistant", "content": "您好，我是 大数据小禅，一个由 大数据小禅的微调实验室 打造的人工智能助手，请问有什么可以帮助您的吗？"}]}
{"conversations": [{"role": "user", "content": "你好呀，你叫什么名字呀"}, {"role": "assistant", "content": "您好！我是一个人工智能助手，你可以叫我 大数据小禅。很高兴见到您，请问有什么事情是我可以为您服务的呢？"}]}
{"conversations": [{"role": "user", "content": "能介绍一下你自己吗？"}, {"role": "assistant", "content": "当然可以，我是 大数据小禅，一个由 大数据小禅的微调实验室 开发的人工智能助手，可以为您提供回答和帮助。"}]}
{"conversations": [{"role": "user", "content": "谁训练了你？"}, {"role": "assistant", "content": "大数据小禅的微调实验室 训练了我，我的目的是回答用户问题并提供必要的支持。"}]}
{"conversations": [{"role": "user", "content": "你有什么优势？"}, {"role": "assistant", "content": "作为 大数据小禅，我的优势包括对自然语言的理解和生成能力，我致力于为用户提供准确、有用的回答和解决方案。"}]}
5.2 LORA微调
  • 硬件要求
  • 显存：24GB及以上（推荐使用30系或A10等sm80架构以上的NVIDIA显卡进行尝试）
    内存：16GB
    RAM: 2.9 /16 GB
    GPU RAM: 15.5/16.0 GB
  • 准备上面的两个数据集合，执行以下命令进行微调，对应的路径需要换成是自己环境的 ，需要有一定的时间等待，数据越多越久
  • !CUDA_VISIBLE_DEVICES=0 NCCL_P2P_DISABLE="1" NCCL_IB_DISABLE="1" /root/miniconda3/envs/chatglm3/bin/python finetune_hf.py /root/autodl-tmp/ChatGLM3/mydata /root/autodl-tmp/model/chatglm3-6b configs/lora.yaml
    在这里插入图片描述
5.3 微调前后对比
  • 微调前 对大数据小禅这个博主的名字胡说
    在这里插入图片描述
  • 微调后 按照我们数据集的内容回答
  • 命令推理 !CUDA_VISIBLE_DEVICES=0 NCCL_P2P_DISABLE="1" NCCL_IB_DISABLE="1" /root/miniconda3/envs/chatglm3/bin/python inference_hf.py output/checkpoint-3000/ --prompt "大数据小禅是谁"
    在这里插入图片描述在这里插入图片描述

6 总结

  • 到这里已经完成了LORA微调ChatGLM3-6B，整体下来如何自己造的数据不够多和精准，效果并不是那么好
  • 后续将更新更多微调方式
  • 需要大模型语言包的朋友们可以看主页
【大语言模型】使用ChatGLM-6B模型训练自己的数据集
小哲的博客
06-27 4314
本项目实现了对于 ChatGLM-6B 模型基于 P-Tuning v2 的微调。P-Tuning v2 将需要微调的参数量减少到原来的 0.1%，再通过模型量化、Gradient Checkpoint 等方法，最低只需要 7GB 显存即可运行。
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
丨汀、的博客
04-30 927
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
LoRA 微调与推理 从零开始的超详细教程
2301_79996254的博客
03-16 1675
LoRA 微调教程
LoRA（Low-Rank Adaptation）微调参数详解与步骤指南
最新发布
风一样
04-07 1989
LoRA微调通过低秩矩阵分解实现了参数高效优化，其核心在于秩的选择、学习率动态调整、硬件资源适配的三者协同。建议遵循“显存试探→任务适配→参数调优”的流程，结合前沿技术（如QLoRA、LoRA+）实现高效训练。实际应用中需通过AB测试验证参数组合，尤其关注梯度范数和验证集损失的动态变化。
chatglm3-6b 微调训练流程和部署经验总结
m0_73723713的博客
04-19 7573
chatglm3，微调训练与部署，模型合并，数据集验证等
GpuMall智算云教程：ChatGLM3-6B 对话预训练模型
GpuMall的博客
01-12 2494
训练 ChatGLM3-6B 模型，显卡显存建议选择等于大于 16GB 以上的显卡，因为 ChatGLM3-6B 模型载入后会占用大约 13GB 左右显卡显存。下面会依此演示以上四种启动和通过外网访问方式，根据自己需求选择任意一种即可（通过 API 调用访问方式用的较多）。执行如下命令启动 API 方式 ChatGLM3-6B 模型，启动后默认监听 8000 端口。目录下，不建议移动，ChatGLM3-6B 代码中已指定模型路径为。，点击更多——》创建自定义端口。，点击更多——》创建自定义端口。
任务1 部署ChatGLM3-6B大模型并进行对话测试
Alexa_的博客
11-04 1053
本项目是根据datawhale 与 趋动云平台联合 联合的项目，本文主要在于学习和了解使用大模型。使用的大模型是 ChatGLM3-6B, 这是智谱AI和清华大学KEG实验室联合发布的新一代对话预训练模型。整体平台感觉还是非常好用的，方便模型的部署。
在Windows系统下部署运行ChatGLM3-6B模型
AlanZhou1993的博客
08-02 3682
主要讲述关于清华ChatGLM3的部署应用
十分钟学会微调大语言模型
2401_85377976的博客
08-02 1137
在之前的文章中，我分享了一些使用大语言模型开发应用的方法，也介绍了几个开源大语言模型的部署方式，有同学给我留言说想知道怎么训练自己的大语言模型，让它更贴合自己的业务场景。完整的大语言模型训练成本比较高昂，不是我们业余玩家能搞的，如果我们只是想在某个业务场景或者垂直的方面加强大模型的能力，可以进行微调训练。本文就来介绍一种大语言模型微调的方法，使用的工具是我最近在用的 Text Generation WebUI，它提供了一个训练LoRA的功能。
十分钟让你学会微调LLM大语言模型_text-generation-webui微调训练
lhx17673139267的博客
07-16 758
有同学给我留言说想知道怎么训练自己的大语言模型，让它更贴合自己的业务场景。完整的大语言模型训练成本比较高昂，不是我们业余玩家能搞的，如果我们只是想在某个业务场景或者垂直的方面加强大模型的能力，可以进行微调训练。本文就来介绍一种大语言模型微调的方法，使用的工具是我最近在用的 Text Generation WebUI，它提供了一个训练LoRA的功能。
AI大模型入门指南：从基础到实践的系统学习路径
DAMOXINGHAITAI的博客
09-04 1583
本篇文章默认面向对大模型领域感兴趣的程序员。
基于chatglm3-6b模型的lora方法的微调（自我认知）
05-29
基于chatglm3-6b模型的lora方法的微调（自我认知）
人工智能大模型之开源大语言模型汇总（国内外开源项目模型汇总）
丨汀、的博客
06-19 4705
人工智能大模型之开源大语言模型汇总（国内外开源项目模型汇总）
ChatGLM3-6B实践
m0_46671240的博客
03-25 620
Freeze方法指的是参数冻结，对原始模型的大部分参数进行冻结，仅训练少部分的参数，这样就可以大大减少显存的占用，从而完成对大模型的微调。特别是在Bert模型出来的时候，比较会常用到Freeze的这样一个微调方法，比如Bert有12层，我们把前10层冻结了，只训练后两层。这是一种比较简单微调方法，由于冻结的参数是大部分，微调的参数是少部分，因此在代码中只需要设置需要微调的层的参数即可，把不需要参加训练的层数 requires_grad 设置为False，不让其进行更新，从而达到冻结的这样一个效果。
使用LLaMA Factory来训练智谱ChatGLM3-6B模型
小相探索IT世界
05-12 1888
1. 项目背景开源大模型如LLaMA，Qwen，Baichuan等主要都是使用通用数据进行训练而来，其对于不同下游的使用场景和垂直领域的效果有待进一步提升，衍生出了微调训练相关的需求，包含预训练（pt），指令微调（sft）…请注意，由于LLaMA Factory和ChatGLM3-6B模型的细节可能会随着时间的推移而更新或变化，因此建议参考最新的官方文档。LLaMA-Factory QuickStart - 知乎。新建一个json文件，放到data目录下面。
ChatGLM3-6B模型介绍及微调
热门推荐
dzysunshine的博客
12-14 2万+
对 ChatGLM3-6B-Base 的测试中，BBH 采用 3-shot 测试，需要推理的 GSM8K、MATH 采用 0-shot CoT 测试，MBPP 采用 0-shot 生成后运行测例计算 Pass@1 ，其他选择题类型数据集均采用 0-shot 测试。官方对 Base版提供的是基于Lora的微调。不同的部署方式，第一种只有Chat 对话模式，第二种将对话模式，工具模型和代码解释器模型进行了集成。转换后，context是对话的上文，也就是模型的输入，target是对话的下文，也就是模型的输出。
ChatGLM-6B模型训练自己的数据集
weixin_44354947的博客
05-29 7207
上期我主要分享了一下ChatGLM-6B官方模型的部署、官方数据集的微调、推理以及测试过程，这期我将主要分享一下使用ChatGLM-6B微调自己数据集的过程。
ChatGLM3-6B：新一代开源双语对话语言模型，流畅对话与低部署门槛再升级
datian1234的博客
08-01 2090
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：
lora微调chatglm3-6b
03-18
### 如何使用LoRA对ChatGLM3-6B进行微调 #### 使用LoRA方法的背景 低秩适应（Low-Rank Adaptation, LoRA）是一种高效的参数优化技术，通过仅更新模型权重矩阵中的低秩部分来实现快速收敛和较小计算开销[^1]。 #### 准备工作 在开始之前，请确保已安装必要的依赖库并加载数据集。以下是所需的主要工具包： - `transformers`：用于加载预训练模型及其分词器。 - `peft`：支持LoRA和其他高效微调策略。 - `datasets`：处理自定义或公开的数据集。 #### 安装依赖项 运行以下命令以安装所需的Python库： ```bash pip install transformers peft datasets accelerate torch ``` #### 示例代码 下面是一个完整的示例脚本，展示如何基于LoRA微调ChatGLM3-6B： ```python import torch from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training # 加载模型配置 model_name_or_path = "/root/autodl-tmp/ChatGLM3/basic_demo/cli_demo.py" tokenizer = AutoTokenizer.from_pretrained(model_name_or_path) # 配置量化设置 (可选) bnb_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_use_double_quant=True, bnb_4bit_quant_type="nf4", bnb_4bit_compute_dtype=torch.bfloat16 ) # 初始化基础模型 base_model = AutoModelForCausalLM.from_pretrained( model_name_or_path, quantization_config=bnb_config, device_map={"": 0} # 将模型放置到GPU上 ) # 设置LoRA超参数 lora_config = LoraConfig( r=8, # 秩大小 lora_alpha=32, target_modules=["q_proj", "v_proj"], # 调整目标模块 lora_dropout=0.05, bias="none", task_type="CAUSAL_LM" ) # 应用LoRA适配层 base_model.gradient_checkpointing_enable() base_model = prepare_model_for_kbit_training(base_model) peft_model = get_peft_model(base_model, lora_config) # 打印可训练参数数量 print(f"Trainable parameters: {sum(p.numel() for p in peft_model.parameters())}") # 训练过程省略... ``` 上述代码片段展示了如何利用LoRA调整特定模块，并减少整体内存占用量。 #### 数据集准备 对于对话格式的任务，通常需要将输入转换成适合因果语言建模的形式。例如： ```python def preprocess_function(examples): inputs = ["问：" + item["instruction"] + "\n答：" for item in examples["data"]] targets = [item["output"] for item in examples["data"]] return tokenizer(inputs, text_target=targets, padding="max_length", truncation=True, max_length=512) dataset = dataset.map(preprocess_function, batched=True) train_dataset = dataset['train'] eval_dataset = dataset['validation'] ``` 此函数会将每条样本转化为“问...答”的结构化形式[^2]。 #### 模型保存与导出 完成训练后可以轻松存储LoRA权重文件以便后续部署： ```python peft_model.save_pretrained("./outputs/lora_chatglm3") ``` --- ###
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大数据小禅

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值