前言
上一篇我们说通过mini batch的方式来为梯度下降算法增速。 这次说一说指数加权平均。 它同样是用来给梯度下降增速的。 在我们的正常的梯度下降中,不论是mini batch还是 full batch,梯度下降的效果大概是下面这个样子的。上一篇我们说通过mini batch的方式来为梯度下降算法增速。 这次
上一篇我们说通过mini batch的方式来为梯度下降算法增速。 这次说一说指数加权平均。 它同样是用来给梯度下降增速的。 在我们的正常的梯度下降中,不论是mini batch还是 full batch,梯度下降的效果大概是下面这个样子的。上一篇我们说通过mini batch的方式来为梯度下降算法增速。 这次