PyTorch 深度学习实践 第6讲

文章目录1 梯度下降引入2 计算图3 链式求导 写在前面：之前学习的都是简单的预测问题，涉及的函数是一维线性函数，在本节内容中，要开始介绍稍微复杂一点的神经网络了，参数w不再是1个，而是很多个！ 1 梯度下降引入 在第一列的五个圆圈和六个圆圈之间，我们可以看到有30条线。第一列的五个圆圈表示51的输入x，第二列表示第一层的61输出，那么中间 很显然是一个6*5的权重矩阵。也就是说，这里一共有30个参数。 是否能做这样一个算法，将整个网络看成一个计算图，可以在计算图上传播梯度，最后根据链式法则把梯

五、逻辑斯蒂回归(Logistic Regression) 课程链接：Pytorch 深度学习实践——逻辑斯蒂回归 1、分类问题与回归问题的区别 分类与回归最主要的区别是输出变量的类型：连续变量的预测叫回归，离散变量的预测是分类。 回归的主要作用是了解两个或多个变量之间是否相关，相关的方向，相关的强度，并利用数学模型以便观察特定变量来预测研究者感兴趣的变量。分类模型是将回归模型输出离散化，分类和回归模型之间存在重要差异。 根本上来说：分类是关于预测标签——输出属于某个标签的概率值，而回归是关于预测数量。 2

二元交叉熵

pytorch深度学习实践——刘二大人

完全使用PyTorch框架的工具来构建模型，输入数据等。 完成最简单的y=w∗x+by=w*x+by=w∗x+b模型的构建过程 数据集不再使用列表数据，使用Tensor对象来保存，一次输入一个3∗13*13∗1的数据矩阵。 x y 1.0 2.0 2.0 4,0 3.0 6.0 4.0 ？ 将数据集批量送入模型中，实现代码如下： # Author:gt # CreatTime:2021/10/31 # FileName:lesson4.py #用PyTorch来构建线性模型y

之前基于rule的系统是通过人工设定规则实现，到了传统的机器学习方法则是通过手动设计特征（如把一段语音变成向量），最后通过一个mapping函数对应到输出。表示学习则希望feature的提取也是通过学习的方法来得到（而不是手工获取），但是其中feature的提取和mapping映射是分开完成的。深度学习是一种端到端的（end2end）的算法

第8讲 加载数据集源代码 B站 刘二大人，传送门PyTorch深度学习实践——加载数据集 说明：1、DataSet 是抽象类，不能实例化对象，主要是用于构造我们的数据集 2、DataLoader 需要获取DataSet提供的索引[i]和len;用来帮助我们加载数据，比如说做shuffle(提高数据集的随机性)，batch_size,能拿出Mini-Batch进行训练。它帮我们自动完成这些工作。DataLoader可实例化对象。 代码说明： 1、需要mini_batch...

记录B站视频 PyTorch 深度学习实践 的学习习题、 以下为习题解答： PyTorch 深度学习实践习题解答

首先定义前馈线性模型forward，然后定义了损失函数loss，接着用for循环穷举参数w，最后根据所得的数据绘制图像，可以观察到当w等于2时loss最小。前面的线性模型只有一个参数w，可以在合适的区间使用穷举的方法搜索参数w，但当模型有很多参数时，这种方法就不合适了。和线性回归相比多了sigmoid函数，损失函数也变成了BCE（交叉熵损失函数）。于是便引入了一个更好的方法——梯度下降算法来找到最优的参数w。这里的for循环是循环的训练次数。上图公式是梯度下降算法的核心公式。这个叫回归实际上是个分类问题。

合适的算法需要不断调整：设置模型->利用数据集训练->验证prediction：将视觉接受的信息转化为抽象概念机器学习与人工智能的关系。

课程链接 《PyTorch深度学习实践》完结合集 PyTorch版本：0.4，目前最新1.5，跟着课程可以用1.0,1.2,1.5的应该也行（重点：要会看文档） 大学学的课程为何普遍与企业脱轨 如上图，一门技术需要经历发展期，下降期，冰河期，应用期，一门技术的出现在使用过程中，会出现个各种各样的问题和缺陷，就会陷入下降期，冰河期，很多技术在冰河期就会死掉，而熬过了冰河期，就是一门成熟的技术，达到了应用期，我们在大学所学的技术都是处于应用期的技术，已经非常稳定，实用，如果去学处于发展期的技术，这门技术如果在冰