十、编码器-解码器模型(Encoder-Decoder)

参考 Encoder-Decoder 模型架构详解

  • 编码,就是将输入序列转化成一个固定长度向量。
  • 解码,就是将之前生成的固定长度向量再转化出输出序列。 

编码器-解码器有 2 点需要注意:

  • 不管输入序列和输出序列长度是多少,中间的向量长度都是固定的。
  • 不同的任务可以选择不同的编码器和解码器 (如RNN,CNN,LSTM,GRU)。

1 序列到序列模型(Seq2Seq)

Encoder-Decoder 有一个比较显著的特征就是它是一个 End-to-End 的学习算法,以机器翻译为例,将英语翻译成汉语这样的模型叫做 Seq2Seq。

什么是端到端 End-to-End 的学习? 

端到端的学习其实就是不做其他任何额外的处理,直接从原始数据输入到任务结果输出,整个训练和预测过程,都是在模型里完成的。参考NLP基础之sequence2sequence

  • 比如:我们想磨豆浆,那么普通料理机就不是端到端的(因为料理机的输
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

瑞雪兆我心

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值