一、背景
自从Attention机制在提出之后，加入Attention的Seq2Seq模型在各个任务上都有了提升，所以现在的seq2seq模型指的都是结合rnn和attention的模型。传统的基于RNN的Seq2Seq模型难以处理长序列的句子，无法实现并行，并且面临对齐的问题。自从Attention机制在提出之后，加入Attention的Seq2Seq模型
阅读背景：
Attention is all you need 论文详解（转）
来源：互联网
分享到：
