阅读背景:

NPU的量化处理原理分析

来源:互联网 

量化带来的好处有很多,首先,由于神经网络对数据精度的不敏感,通过量化将 参数从4byte float转换位1byte,减少了数据量,可以使用容量更小的存储设备,节省了成本;其次,量化带来计算效率的提升,单位时间,单位能效内的计算成果多了,或者说,同样的算力需求的模型,所消费的时间和能量少了,结果就是又快又省电,现在的移动终端都是用电池供电的,也就意味着更久的续航和更好的体验,量化的好处很多很多,但是在那时只能想到这么多,后面有时间再补充。 量化带来的好处有很多,首先,由于神经网络对数据精度的不敏感,通过量化将 参数从4byte




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: