（1）梯度下降模型
梯度下降算法主要用于优化单个参数的取值，而反向传播算法给出了一个高效的方式在所有的参数上使用梯度下降算法，从而使得神经网络模型在训练数据上的损失函数尽可能小。反向传播算法是训练神经网络的核心算法，它可以根据定义好的损失函数优化神经网络中参数的取值，从而使神经网络的模型在训练数据集上的损失函数达到一个较小值。梯度下降算法主要用于优化单个参数的取值，而反向传播算法给出了一个高效的
阅读背景：
TensorFlow 深度学习框架（5）-- 神经网络优化算法（梯度下降、学习率设置、正则化、滑动平均模型）
来源：互联网
分享到：
