热门标签
更多>
搜索结果
查询Tags标签： quantization，共有 3条记录-
TVM 模型量化
TVM 模型量化 [RFC] Search-based Automated QuantizationI proposed a new quantization framework, which brings hardware and learning method in the loop. Brought the idea from some existing quantization frameworks, I choose to adopt the annotation-calibra…
2022/5/30 23:20:18 人评论 次浏览 -
一些量化(quantization)技巧
一些量化(quantization)技巧 对象：对权重量化，对特征图量化(神经元输出)，对梯度量化(训练过程中) 过程：在inference网络前传，在训练过程(反传) 一步量化(仅对权重量化)， 两步量化(对神经元与特征图量化，第一步先对feature map进行量化，第二步再对权重量化)。 32位…
2021/10/4 6:40:55 人评论 次浏览 -
一些量化(quantization)技巧
一些量化(quantization)技巧 对象：对权重量化，对特征图量化(神经元输出)，对梯度量化(训练过程中) 过程：在inference网络前传，在训练过程(反传) 一步量化(仅对权重量化)， 两步量化(对神经元与特征图量化，第一步先对feature map进行量化，第二步再对权重量化)。 32位…
2021/10/4 6:40:55 人评论 次浏览
