常用初始化方法
权值初始化，不良的权值初始化会导致输出层的输出值过大或者过小，从而引发梯度的消失或爆炸，最终导致我们的模型无法训练和使用。为了防止这种情况的发送，我们需要保证网络输出层的输出在一个合理的范围，就是要保证每一网络层的输出值的方差是1 ，遵循方差一致性原则，保证网络输出层的输出值不大不小。权值初始化，不良的权值初始化会导致输出层的输出值过大或者过小
阅读背景：
常用初始化方法_Major_S的博客
来源：互联网
分享到：
