阅读背景：

Deep Learning读书笔记（三）：Greedy Layer-Wise Training of Deep Networks

来源：互联网 
          首先对DBN做一些简单的介绍。DBN的结构如下图所示：         从图中可以看出，整个模型的下层是一个有向图。而模型的最上两层是无向图，其实就是一个限制玻尔兹曼机，我们通常称之为联想记忆层。不知道大家有没有想过这样一个问题，这里权值连接的方向是向下的，但是网络中数值的传播是向上的。这样的话，传播的方向与连接权值的方向相反，我们应该如何训练连接的权值呢？其实在DBN的训练中还是将每一层视作是一个RBM，利用对比分歧算法来进行训练。最后来对整个模型进行调参，无监督的学习算法包括wake-sleep算法、BP算法，监督型学习算法就会有mean-field approximation算法。        从图中

你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到：
你可能喜欢:
相关阅读:
随便看看: