A_ACM的博客

完整代码见Github 上一篇文章讲解了练习嵌入相关的代码，这篇文章将会讲解学生嵌入相关的代码，编写学生嵌入时遇到了很多难点 1、模型的理解（模型的label是什么） 2、中间层的数据如何进行改变 3、如何自己编写loss函数 一、首先是模型理解 我们先看看作者给我们的模型图： 第一眼看到整个模型的时候，总感觉很怪，因为它预测输入的维度和练习输入的维度不一样，就感觉没法进行预测，于是我按我的理解对这模型进行了修改，修改如图： 产生这个想法的原因是，作者给出的损失函数，他的损失函数并不是计算最后一个状态

由于科研要求，本小白需要这篇论文的代码，但是由于大量搜索未果，于是本小白打算复现一下。 本文主要讲解模型细节，详细代码见GitHub 通过阅读论文和查阅讲解，对论文有所了解。 首先是练习嵌入，分为以下几步 1. word2vec(这篇讲解只讲原理不讲推导，清晰明了，这位作者还写了一篇关于word2vec的实战训练，并且提供了数据集)，word2vec将练习ei中每个单词w转化为预训练的单词向量。 2、文本生成(文本生成主要参考了这篇文章)，为什么说第二步是文本生成呢？因为论文中并没有明确说明双向LSTM