引言
前面已经介绍过RNN的基本结构，最基本的RNN在传统的BP神经网络上，增加了时序信息，也使得神经网络不再局限于固定维度的输入和输出这个束缚，但是从RNN的BPTT推导过程中，可以看到，传统RNN在求解梯度的过程中对long-term会产生梯度消失或者梯度爆炸的现象，这个在已经介绍过RNN的基本结构，最基本的RNN在传统的BP神经网络上，增加
阅读背景：
深度学习之六，基于RNN(GRU,LSTM)的语言模型分析与theano代码实现
来源：互联网
分享到：
