阅读背景：

神经网络参数更新

来源：互联网 
引入了一个初始化为0的变量v和一个超参数mu,这个mu就是被看做动量（一般设0.9）,但其物理意义与摩擦系数更一致，这个变量有效地抑制了速度，降低了系统的动能，不然质点在山底永远不会停下来。通过交叉验证，这个参数通常设[0.5,0.9,0.95,0.99]中的一个，通过动量更新，参数向量会在任何有持续梯度的方向上增加速度。引入了一个初始化为0的变量v和一个超参数mu,这个mu就是被看做动量（一般设0.9）,但其物理意义与

你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到：
你可能喜欢:
相关阅读:
随便看看: