
深度学习
心之所向丶7
这个作者很懒,什么都没留下…
展开
-
CVR预估建模中样本的问题
1.样本选择 传统的cvr建模往往选择点击后的转化和未转化样本,这样训练出来的模型用在全量样本上进行预估,而非只对点击样本进行预估。即是说,训练数据与实际要预测的数据来自不同分布,这个偏差对模型的泛化能力构成了很大挑战,会导致样本选择偏差; 通过加入一些未点击样本作为label为0的负样本,可以缓解样本选择偏差; 选择全量样本作为训练样本,在这种策略下我们假设未点击的样本肯定不会转化,但是我们不知道当未点击用户点击了之后是否会转化,如果直接使用0作为它们...原创 2021-10-25 21:06:56 · 660 阅读 · 0 评论 -
房产行业聊天问答匹配 -pytorch方案
房产行业聊天问答匹配竞赛地址:https://www.datafountain.cn/competitions/474问题描述方案首先将该问题归结为NLP中的NSP任务(预测下一个句子),然后采用目前较为先进的基于chinese预训练的bert系的相关算法。在transformer库中这些算法的使用方式变得更为简单便捷,所以我们使用pytorch + transformer进行建模代码详细代码可见https://github.com/1JasonZhang/Q-A-matching-of-r原创 2020-11-17 10:08:45 · 837 阅读 · 0 评论 -
Keras防止程序占满GPU显存
在模型建立前加上即可 config = tf.ConfigProto() config.gpu_options.allow_growth=True #按需分配显存 keras.backend.set_session(tf.Session(config=config))...原创 2019-10-11 15:33:20 · 1367 阅读 · 2 评论 -
不同数据循环使用同一模型tensorflow-gpu计算图后自动释放显存
https://stackoverflow.com/questions/39758094/clearing-tensorflow-gpu-memory-after-model-execution由于tensorflow中使用完gpu后并不会自动释放显存,所以在循环利用同一个计算图时会不停的累加显存,无法释放显存。然后从网上仅发现一种可行方案,即每次执行完计算图后都关闭当前进程,然后用其他进...原创 2019-08-21 10:40:51 · 2282 阅读 · 4 评论 -
机器学习中关于正则化防止过拟合的原理解析
作者:邓子明链接:https://www.zhihu.com/question/20700829/answer/119314862来源:知乎著作权归作者所有,转载请联系作者获得授权。网易云也有免费视频的,另外 coursera 有很多课程都挺不错,可以学习。The Problem of Overfitting1.What is Overfitting看预...原创 2019-04-03 15:27:13 · 1442 阅读 · 0 评论 -
循环神经网络(rnn)讲解
• 循环神经网络(rnn)• RNN简介• Rnn基本结构• 双向rnn基本结构• rnn梯度消失问题• RNN应用举例 • RNN简介• 循环神经网络(RNN)能够从序列和时序数据中学习特征和长期依赖关系。• 循环神经网络(RNN)近几年在语言模型与文本生成,机器翻译,语音识别,图像描述生成等领域都取得了不错的效果。 • Rnn基本结构• 回顾一下...原创 2018-06-12 20:59:00 · 3346 阅读 · 0 评论 -
一文读懂卷积神经网络!
转载:本文作者:七月在线科技创始人兼CEO,结构之法算法之道blog之博主,原文链接:http://blog.csdn.net/v_july_v/article/details/51812459#comments)1 前言 2012年我在北京组织过8期machine learning读书会,那时“机器学习”非常火,很多人都对其抱有巨大的热情。当我2013年再次来到北京时,有一个词似乎比“机器...转载 2018-04-19 20:05:46 · 1425 阅读 · 0 评论 -
tensorflow入门(一)
使用Tensorflow必须要明白Tensorflow1.使用图(graph)来表示计算任务2.在被称之为会话(Session)中的上下文(context)中执行图3.使用tensor(张量)表示数据4.通过遍历(Variable)维护状态5.使用feed和fetch可以为任意的操作(arbitary operation)赋值或者从其中获取数据Tensorflow 是一个编程系统,使用图来表示计算...原创 2018-04-11 16:43:10 · 219 阅读 · 0 评论