RNN（Recurrent Neural Network）循环神经网络

**RNN（Recurrent Neural Network）
  在传统的全连接神经网络中，从输入层到隐藏层再到输出层，每一层之间的节点是无连接的，因为输入和输出是独立的，所以这种普通的神经网络对于序列数据的处理是无能为力的。而现实中，绝大多数的数据都是序列数据，比如音频、视频、文本等，都存在时间线，想要挖掘数据中的序列信息和语义信息，就需要神经网有更加特殊的结构，比如对于序列信息每一时刻的信息记忆能力。因此，RNN（Recurrent Neural Network）循环神经网络就应运而生，RNN循环神经网络相对于普通的全连接神经网络，其隐藏层多了一个信息记忆功能，即每一时刻隐藏层的输入不仅是输入层的输出，还包含上一时刻隐藏层的输出。所以，输出层每一时刻的输出都会考虑序列数据之前的信息。RNN在自然语言处理、图片描述、语音识别等领域有着广泛的应用。   在传统的全连接神