加入 Gitee

与超过 1200万开发者一起发现、参与优秀开源项目，私有仓库也完全免费：）

该仓库未声明开源许可证文件（LICENSE），使用请关注具体项目描述及其代码上游依赖。

克隆/下载

test file a6d5ccf

cifar10_nolinear.py

mnist_nolinear.py

Loading...

README

非均匀量化测试

运行环境：

python3.7
tensorflow 2.0.0
numpy 1.19.2

MNIST

MNIST预训练模型位于 models/mnist_tf2_fw.h5 修改 mnist_nolinear.py的level数，如16、8、4等，运行程序，获得三种量化方式的推理准确率。

量化方式	全精度	32	16	8	4
逆采样	98.18	97.88	97.75	96.83	85.11
Lloyd	98.18	98.05	97.62	95.87	93.47
normal	98.18	97.90	96.70	92.33	56.82

cifar10

cifar10预训练模型位于 models/cifar10_tf2_fw.h5 修改 cifar10_nolinear.py的level数，如16、8、4等，运行程序，获得三种量化方式的推理准确率。

量化方式	全精度	32	16	8	4
逆采样	69.74	67.76	61.41	44.65	46.09
Lloyd	69.74	67.66	67.65	58.89	44.52
normal	69.74	67.66	63.00	44.82	10.82

nonlinear quantization test

取消

暂无发行版

1

https://gitee.com/he_zhifan/nonlinear.git

git@gitee.com:he_zhifan/nonlinear.git

he_zhifan

nonlinear

nonlinear

master