- 博客(6)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 深度学习强力助手：Docker入门 （第二章：更改docker镜像下载路径）
第一章介绍了几个常用命令，第二章介绍一下如何更改镜像下载路径。因为docker默认的路径一般在系统盘上面，但是系统盘内存有限，因此我们把docker的下载路径更改到机械硬盘上。
2024-03-21 19:16:42
502
2
原创 基于vscode调试deepspeed，以及使用zeros3_offload
使用其他优化器可能会报错，因此需要使用DeepSpeedCPUAdam针对cpu的优化器。这里只给出了zero-3的使用方式，deepspeed还包括zero-1和zero-2等方法。首先按照下图所示，新建lauch.json文件。主要需要更改以下三行。
2023-12-12 21:46:15
1689
3
原创 使用deepspeed并行训练模型的简单入门例程
deepspeed不仅可以并行训练模型，而且可以解决大模型训练过程中，显卡内存不够用的问题。和DDP这种并行训练模型的方式的主要区别在于，deepspeed有zerosoffload技术，可以将参数部署到cpu上，和gpu一起训练，从而解决显卡内存不够的问题。本文章主要是介绍如何使用deepspeed简单使用，并没有考虑zerosoffload的技术，后面有时间再介绍一下如何使用。基于上述流程和deepspeed官方公布的使用代码，笔者提供了一个简单的deepspeed代码供参考。
2023-10-16 17:11:46
6654
5
原创 基于聚合标签学习算法的目标分类（aggregate-label learning）
目录引言学习预测性线索构建神经元模型生成训练集学习识别线索预测性线索学习结果训练结果分析引言上一节介绍了聚合标签学习算法的目标，就是通过更新突触权重可以实现输出神经元激发的脉冲数目达到预期值。那么这个算法是如何通过自监督的方式来分类目标的呢？通过一个简单的例子来说明一下，实现分类是基于输出神经元激发的脉冲数目和输入信息中出现的特征数目成正比这一理论。比如有ａ，ｂ，ｃ，ｄ，ｅ五类特征，我们希望每类特征都会使得输出神经元激发一个脉冲。那么如果输入信号中包括ａ，ｂ，ｃ三个...
2021-09-24 21:30:16
656
原创 聚合标签算法简介
聚合标签学习算法（multi-spikes tempotron）简介引言STS（Spike-Threshold-Surface）函数功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入引言在介绍聚合标签算法前，先通过一个简单的例子介
2021-06-17 16:29:33
1824
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人