可用于轻量级神经网络的纯整型量化方法

发布者：技术转移办公室发布时间：2021-10-15浏览次数：10

技术主题：后摩尔器件与集成系统

发明名称：可用于轻量级神经网络的纯整型量化方法

申请时间：2021-04-20

申请号：CN202110421738.5

摘要：本发明提供了一种可用于轻量级神经网络的纯整型量化方法，其特征在于，包括以下步骤：获得当前一层特征图各通道的像素值的最大值；将特征图每个通道的每一个像素的像素值除以最大值的t次方，t∈[0, 1]；将权重各通道的值乘以对应特征图通道的像素值的最大值；经过处理的特征图与经过处理的权值卷积后得到下一层特征图。在SkyNet和MobileNet上分别验证了本发明提供的算法，在SkyNet上取得了INT8无损量化，在MobileNetv2上取得了迄今最高的量化精度。