sigmoid和tanh是“饱和激活函数”，而ReLU及其变体则是“非饱和激活函数”。使用“非饱和激活函数”的优势在于两点：是“饱和激活函数”，而ReLU及其变体则是“非饱和激活函数
阅读背景：
激活函数特点分类_撒旦即可的博客_激活函数的特点
来源：互联网
分享到：
