阅读背景:

MegEngine 使用小技巧:量化

来源:互联网 

常见神经网络模型所用的 Tensor 数据类型 一般是 float32 类型, 而工业界出于对特定场景的需求(极少的计算资源,极致的推理速度),需要把模型的权重和或激活值转换为位数更少的数值类型(比 int8, float16) —— 整个过程被称为量化(Quantization)。常见神经网络模型所用的 Tensor 数据类型 一般是 float32 类型, 而工业界出于对特定场




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: