最速下降法的缺陷
上一节中已经提到了最速下降法容易走出“之”字形的路线,这些路线方向虽然都是梯度,但非常类似。如果每次的路线都是彼此正交的,那么即使没有选择局部变化率最大的梯度,也能够很快收敛到正解,如下图。上一节中已经提到了最速下降法容易走出“之”字形的路线,这些路线方
上一节中已经提到了最速下降法容易走出“之”字形的路线,这些路线方向虽然都是梯度,但非常类似。如果每次的路线都是彼此正交的,那么即使没有选择局部变化率最大的梯度,也能够很快收敛到正解,如下图。上一节中已经提到了最速下降法容易走出“之”字形的路线,这些路线方