- 博客(13)
- 收藏
- 关注
RSS订阅原创 生成对抗网络GAN
生成对抗网络（Generative Adversarial Network），主要包括一个生成器G（Generator）和一个判别器D（Discriminator）生成器：输入一个向量，输出一个固定大小的像素图片判别器：用于判别图片是真实图片还是生成的图片（真伪），输入图片（训练的数据或是生成的图片）
2024-12-10 15:13:46
447
原创 GRU与LSTM
LSTM和RNN主要的不同是使用了信息传输带（Ct），使得信息非常容易输入到下一时刻，以便当前节点决定对历史信息的保留程度，这样就有了更长的记忆。而且LSTM的表现总是比纯RNN好，所以想用RNN时就用LSTM，大概率没错。这里还有一个点要注意，对LSTM使用Dropout方法很大可能效果并不会好，因为对于一般的LSTM网络，在LSTM层的参数数量相对于输出端embding层来说，往往很少，可能时几个数量级的差距。
2024-11-20 19:36:37
676
原创 循环神经网路RNN
Xt ：每一个时刻的输入Ot ：每一个时刻的输出St ：每一个时刻的隐层输出 ，它会传递到不同的时刻每个圆圈代表一个隐层的神经单元U，V，W 是网络的参数，所有神经元共享参数参数传递公式其中ba，by是偏置参数，g1,g2表示激活函数。由此公式可以看出，每一个节点的隐层输出为：本时刻的输入与权重参数 W 相乘后，再加上，上一时刻的输出与权重参数 U 的乘积，再加上偏置，经过激活函数后，即为输出。那么由此可知，将会有一个输入贯穿网络，每个节点的输出将包含历史的所有信息（加权后）。
2024-11-18 19:02:30
918
原创 模型训练之迁移学习
定义：迁移学习（Transfer learning）就是利用数据，任务或模型的相似性，将再旧的领域学习过的或训练好的模型，应用于新的领域，两个任务的输入要属于同一类型，如同为图像或语音等。使用迁移学习主要是因为，对于许多的学习任务，尤其是计算机视觉类的任务，每次都从头开始学习是非常费时费力且并非必要的。
2024-11-16 00:32:50
498
原创 经典分类网络结构
本文主要概述了一些较早的且非常具有代表性的网络结构，但并未细致的讲解每一个网络，主要的目的是对比各个网络的优缺点，以及各自之间的差异，以作启发，例如有的人通过加深深度提高正确率，有的人通过缩小卷积核提高正确率，减少参数量，有的人引入1*1卷积核减少参数量，又或者是在每层之间都加入标准化操作，或是训练时随机抛弃一些神经元（分别对应Batch Normally和Dropout算法）来提高模型的效率与泛用性，借此对比来给读者包括我自己一些思绪和启发。
2024-11-14 21:08:38
887
原创 超参数调整策略与BN批标准化
显然BN也起到了一些正则化的作用，但是并不可将BN视为正则化的手段，主要还是起到了加速学习的效果，解决反向传播过程中梯度消失和梯度爆照问题。
2024-11-05 19:21:44
765
原创 深度学习之模型正则化
由名字不难看出，Dropout的思想就是在训练过程中直接丢弃一些神经元和与其相连的权重参数对于网络的每一层会进行设置保留概率，即keep_prob。假设keep_prob为0.8，那么也就是在每一层所有神经元有20% 的概率直接失效，可以理解为0.在实际的操作过程中（代码实现），通过设置一个保活参数keep_prob,以及一个随机的bool型矩阵，来实现此方法。注意这个Dropout算法一定是在训练过程中执行的，预测时所有节点均参与计算）#设置保活概率。
2024-11-03 22:33:35
722
2原创 同余方程
求关于 x 的同余方程 ax ≡1(modb)的最小正整数解。输入格式输入只有一行，包含两个正整数 a,b，用一个空格隔开。输出格式输出只有一行，包含一个正整数 x0，即最小正整数解。输入数据保证一定有解。数据范围对于 40% 的数据，2≤b≤1,000；对于 60% 的数据，2≤b≤50,000,000；对于 100% 的数据，2≤a,b≤2,000,000,000。Sample Input3 10Sample Output7------------
2022-01-18 14:19:40
529
原创 Prime Ring Problem
题目描述：输入正整数 n，把整数 1,2,…,n 排成一个环，使得相邻两个整数之和均为素数。输出时，从整数 1 开始逆时针排列。同一个环恰好输出一次。n≤16，保证一定有解。多组数据，读入到EOF结束。第 i 组数据输出前加上一行Case i:相邻两组输出中间加上一个空行。输入样例68输出样例Case 1:1 4 3 2 5 61 6 5 2 3 4Case 2:1 2 3 8 5 6 7 41 2 5 8 3 4 7 61 4 7 6 5 8 3 21 6
2022-01-14 13:26:07
333
原创 L - 最长回文子串
题目描述：输入一个字符串Str，输出Str里最长回文子串的长度。回文串：指aba、abba、cccbccc、aaaa这种左右对称的字符串。串的子串：一个串的子串指此（字符）串中连续的一部分字符构成的子（字符）串例如 abc 这个串的子串：空串、a、b、c、ab、bc、abcInput输入Str（Str的长度 <= 1000)Output输出最长回文子串的长度L。Sample InputdaabaacSample Output5-----------
2022-01-10 14:33:23
142
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人