ReLU
为什么引入非线性激励函数？
如果不用激励函数（其实相当于激励函数是f(x) = x），在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的激励函数（其实相当于激励函数
阅读背景：
[tensorflow 入门]ReLU 与MNIST卷积
来源：互联网
分享到：
