【DeepLearning.AI】使用numpy搭建卷积神经网络

最新推荐文章于 2024-05-31 09:39:31 发布
最新推荐文章于 2024-05-31 09:39:31 发布
阅读量1.6k 收藏 11
点赞数 1
分类专栏： DL 文章标签： 卷积 神经网络 python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/csdn0006/article/details/106088207
版权
本文详细介绍了如何使用numpy搭建卷积神经网络，涵盖了卷积层的0值边界填充、单步卷积、前向传播，以及池化层的前向传播和反向传播过程，同时涉及反向传播中卷积层和池化层的梯度计算。内容基于DeepLearning.AI的课程，旨在帮助理解卷积神经网络的工作原理。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

使用numpy搭建卷积神经网络

主要内容来自DeepLearning.AI的卷积神经网络

本文使用numpy实现卷积层和池化层，包括前向传播和反向传播过程。

在具体描述之前，先对使用符号做定义。

  • 上标[I]表示神经网络的第Ith层。
    • a [ 4 ] a^{[4]} a[4]表示第4层神经网络的激活值； W [ 5 ] W^{[5]} W[5]和 b [ 5 ] b^{[5]} b[5]表示神经网络第5层的参数；
  • 上标(i)表示第i个数据样本
    • x ( i ) x^{(i)} x(i)表示第i个输入样本
  • 下标i表示向量的第i个元素
    • a i [ l ] a_i^{[l]} ai[l]​表示神经网络第l层的激活向量的第i个元素。
  • n H , n W , n C n_H,n_W,n_C nH​,nW​,nC​表示当前层神经网络的高度、宽度和通道数。
  • n H p r e v ， n W p r e v ， n C p r e v n_{H_{prev}}，n_{W_{prev}}，n_{C_{prev}} nHprev​​，nWprev​​，nCprev​​表示上一层神经网络的高度、宽度和通道数。

1. 导入包

首先，导入需要使用的工具包。

import numpy as np
import h5py
import matplotlib.pyplot as plt

%matplotlib inline
plt.rcParams['figure.figsize'] = (5.0, 4.0) # set default size of plots
plt.rcParams['image.interpolation'] = 'nearest'
plt.rcParams['image.cmap'] = 'gray'

%load_ext autoreload
%autoreload 2

np.random.seed(1) # 指定随机数种子

2. 大纲

本文要实现的卷积神经网络的几个网络块，每个网络包含的功能模块如下。

  • 卷积函数Convolution

    • 0填充边界
    • 卷积窗口
    • 卷积运算前向传播
    • 卷积运算反向传播

  • 池化函数Pooling

    • 池化函数前向传播
    • 掩码创建
    • 值分配
    • 池化的反向传播

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-WdueA44q-1589298710418)(https://dijvuftadtswhbvbrhckte.coursera-apps.org/notebooks/week1/images/model.png)]

在每个前向传播的函数中，在参数更新时会有一个反向传播过程；此外，在前向传播过程会缓存一个参数，用于在反向传播过程中计算梯度。

3. 卷积神经网络

尽管当下存在很多深度学习框架使得卷积网络使用更为便捷，但是卷积网络在深度学习中仍然是一个难以理解的运算。卷积层能将输入转换为具有不同维度的输出，如下图所示。

image-20200512164859913

接下来，我们自己实现卷积运算。首先，实现两个辅助函数：0填充边界和计算卷积。

3.1 0值边界填充

0值边界填充顾名思义，使用0填充在图片的边界周围。

PAD

使用边界填充的优点：

  • 可以保证使用上一层的输出结果经过卷积运算后，其高度和宽度不会发生变化。这个特性对于构建深层网络非常重要，否则随着网络深度的增加，计算结果会逐步缩水，直至降为1。一种特殊的的“Same”卷积，可以保证计算结果的宽度和高度不发生变化
  • 可以在图像边界保留更多的信息。不适用填充的情况下，图像的边缘像素对下一层结果的影响小（图像的中间像素使用滑动窗口时会遍历多次，而边界元素则比较少，有可能只使用1次）。
# GRADED FUNCTION: zero_pad

def zero_pad(X, pad):
    """
    把数据集X的图像边界用0值填充。填充情况发生在每张图像的宽度和高度上。
    
    参数:
    X -- 图像数据集 (m, n_H, n_W, n_C)，分别表示样本数、图像高度、图像宽度、通道数 
    pad -- 整数，每个图像在垂直和水平方向上的填充量
    
    返回:
    X_pad -- 填充后的图像数据集 (m, n_H + 2*pad, n_W + 2*pad, n_C)
    """
    # X数据集有4个维度，填充发生在第2个维度和第三个维度上；填充方式为0值填充
    X_pad = np.pad(X, (
        			(0, 0),# 样本数维度，不填充
        			(pad, pad), #n_H维度，上下各填充pad个像素
        			(pad, pad), #n_W维度，上下各填充pad个像素
        			(0, 0))
最低0.47元/天 解锁文章
使用Numpy从头构建卷积神经网络
深度学习与计算机视觉
02-07 625
使用该网络对手写数字进行分类。所获得的结果不是最先进的水平，但仍然令人满意。现在想更进一步，我们的目标是开发一个仅使用Numpy的卷积神经网络(CNN)。这项任务背后的动机与创建全连接的网络的动机相同：尽管Python深度学习库是强大的工具，但它阻止从业者理解底层正在发生的事情。对于CNNs来说，这一点尤其正确，因为该过程不如经典深度网络执行的过程直观。解决这一问题的唯一办法是尝试自己实现这些网络...
卷积神经网络常用模型,卷积神经网络数学建模
super339的博客
08-12 1990
目前经常使用的深度神经网络模型主要有卷积神经网络(CNN)、递归神经网络(RNN)、深信度网络(DBN)、深度自动编码器(AutoEncoder)和生成对抗网络(GAN)等。递归神经网络实际.上包含了两种神经网络。一种是循环神经网络(RecurrentNeuralNetwork);另一种是结构递归神经网络(RecursiveNeuralNetwork)，它使用相似的网络结构递归形成更加复杂的深度网络。RNN它们都可以处理有序列的问题，比如时间序列等且RNN有“记忆”能力，可以“模拟”数据间的依赖关系。卷积网
python numpy 从零实现卷积神经网络
yaoxunji的博客
11-24 4887
1.卷积层 这里，我们要实现一个拥有卷积层（CONV）和池化层（POOL）的网络，它包含了前向和反向传播。 1.1 边界扩充 首先实现两个辅助函数：一个用于零填充，另一个用于计算卷积。 边界填充将会在图像边界周围添加值为0的像素点，如下图 使用0填充边界有以下好处： （1）卷积了上一层之后的CONV层，没有缩小高度和宽度。 这对于建立更深的网络非常重要，否则在更深层时，高度/宽度会缩小。 一个...
仅使用NumPy完成卷积神经网络CNN的搭建（附Python代码）
云栖社区
04-28 4586
云栖君导读：现有的Caffe、TensorFlow等工具箱已经很好地实现CNN模型，但这些工具箱需要的硬件资源比较多，不利于初学者实践和理解。因此，本文教大家如何仅使用N...
深度学习笔记11：利用numpy搭建一个卷积神经网络
weixin_37737254的博客
07-12 608
前两个笔记笔者集中探讨了卷积神经网络中的卷积原理，对于二维卷积和三维卷积的原理进行了深入的剖析，对 CNN 的卷积、池化、全连接、滤波器、感受野等关键概念进行...
探索深度学习的基石：Numpy-CNN——纯NumPy实现的卷积神经网络
最新发布
gitblog_00009的博客
05-31 436
探索深度学习的基石：Numpy-CNN——纯NumPy实现的卷积神经网络 去发现同类优质开源项目:https://gitcode.com/ 在深度学习的浩瀚宇宙中，理解每一层的运作如同揭开神秘面纱的一角。今天，我们要介绍一个特别的开源项目——Numpy-CNN，这是一个完全基于NumPy实现的卷积神经网络（CNN），它不仅仅是一个工具，更是一扇通向深度学习原理的大门。 项目介绍 Numpy-CNN...
使用NumPy建立卷积神经网络进行数据分类
资源摘要信息: NumPyCNN 是一个深度学习项目，专注于使用Python编程语言和NumPy库构建卷积神经网络（Convolutional Neural Networks, CNNs），旨在解决数据分类识别问题。卷积神经网络是一种特殊类型的深度神经网络...
吴恩达老师deeplearning.ai-第一课作业
06-21
【标签】"deeplearning"提示我们，本课内容将深入探讨深度学习的各个方面，包括但不限于卷积神经网络（CNN）、循环神经网络（RNN）、长短期记忆（LSTM）以及生成对抗网络（GAN）等高级主题，但基于描述，这些可能在...
Numpy实现卷积神经网络(CNN)的示例
12-16
import numpy as np import sys def conv_(img, conv_filter): filter_size = conv_filter.shape[1] result = np.zeros((img.shape)) # 循环遍历图像以应用卷积运算 for r in np.uint16(np.arange(filter_size/2.0, img.shape[0]-filter_size/2.0+1)): for c in np.uint16(np.arange(filter_size/2.0, img.shape[1]-filter_s
Numpy实现卷积神经网络前向运算
qq_43680142的博客
04-30 467
首先是卷积运算 在numpy中通过im2col算法实现。 通过将输入，卷积核拉平做矩阵乘法，得到输出。 import numpy as np def im2col(image, size, stride=1): N, H, W, C = image.shape out_h = (H - size) // stride + 1 out_w = (W - s...
基于numpy的卷积神经网络实现
01-16
基于numpy的卷积神经网络实现
python卷积神经网络实现
05-22
卷积神经网络python实现。 卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积或相关计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一 [1-2] 。由于卷积神经网络能够进行平移不变分类（shift-invariant classification），因此也被称为“平移不变人工神经网络（Shift-Invariant Artificial
基于Python的卷积神经网络的分类
01-14
基于Python的卷积神经网络的图像分类，很适合初学者的学习使用
使用Numpy实现卷积神经网络(CNN)
aliexie2869的博客
02-15 1376
import numpy as np import sys def conv_(img, conv_filter): filter_size = conv_filter.shape[1] result = np.zeros((img.shape)) # 循环遍历图像以应用卷积运算 for r in np.uint16(np.arange(filter_...
卷积的过程
qq_42794767的博客
10-29 487
#!/usr?bin/env/ python # -*- coding:utf-8 -*- # author: lai zheng laing # datetime: 2020/10/29 15:27 # software: PyCharm import torch in_channels,out_channels = 5 , 10 # 输入通道，输出通道 width, height = 100,100 # 图片大小 kernel_size = 3
深度学习基础-基于Numpy的卷积神经网络实现和反向传播训练
SHIDACSDN的博客
06-09 412
本文是深度学习入门： 基于Python的实现、神经网络与深度学习(NNDL)以及动手学深度学习的读书笔记。本文将介绍基于Numpy的卷积神经网络(Convolutional Networks，CNN)的实现，本文主要重在理解原理和底层实现。 一、概述 1.1卷积神经网络(CNN) 卷积神经网络(CNN)是一种具有局部连接、权重共享和平移不变特性的深层前馈神经网络...
卷积神经网络（1）
weixin_63364660的博客
11-13 185
定义类的构造函数。当创建一个Conv2D类的实例时，需要传入一个参数，表示卷积核的大小。W这行代码创建了一个二维卷积核。这个卷积核是一个2x2的矩阵，其值是由numpy数组重新调整尺寸得到的。这个卷积核可以看作是对输入数据进行卷积操作的权重矩阵。根据输入数据和卷积核的大小，创建一个输出矩阵output，其大小为输入数据减去卷积核大小加1后的结果。两层循环遍历输出矩阵的每一个元素，对应每一个位置进行卷积操作。这行代码实现了卷积操作。它将输入数据X与卷积核。
深度学习之CNN入门基础——1.卷积及numpy实现
weixin_60368327的博客
06-02 855
本文转载自AIHIA盟友公众号：所向披靡的张大刀卷积神经网络（ConvNets或CNNs）作为人工智能的入门神经网络，已被广泛用于图像识别和分类等领域。除了为机器人和自动驾驶汽车提供视觉之外，ConvNets 在识别人脸、物体和交通标志方面也应用广泛。其中卷积操作作为cnn的灵魂，其出现加快了人工智能的发展。卷积一词一开始出现在数学中，为了表示一个函数对另外一个函数所有微量的响应的总叠加效应；其本质上是一种过滤器，在一维信号上完成对信号的过滤，在二维图像上完成为图像的一种过滤，过滤掉其不重要部分，提取主要特
深度学习 ｜ 实战：逐步实现卷积神经网络
qq_39172059的博客
03-11 1937
我们将使用numpy实现卷积（CONV）和池化（POOL）层，包括正向传播和反向传播。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值