代码拉取完成,页面将自动刷新
模型准备
请下载 ResNet-101 模型文件到 model 目录。
数据集准备
使用昇腾模型压缩工具对模型完成量化后,需要对模型进行推理,以测试量化数据的精度。推理过程中需要使用和模型相匹配的数据集。请下载测试图片,解压后将 “images” 文件夹放到 data 目录下。
校准集准备
校准集用来产生量化因子,保证精度。本 sample 校准集与数据集相同。
执行量化示例前,请先检查当前目录下是否包含以下文件及目录,其中 images 文件夹内部包含有 160 张用于校准和测试的图片:
请在当前目录执行如下命令运行示例程序:
CUDA_VISIBLE_DEVICES=0 python ./src/resnet-101_calibration.py
其中
CUDA_VISIBLE_DEVICES
是必填参数,表示使用 CPU 还是 GPU 进行量化,参数取值为:
- -1:使用 CPU 进行量化。
- 其他 Device ID使用 GPU 进行量化,具体 ID 请以用户实际环境为准。当前仅支持配置单 Device。
若出现如下信息,则说明量化成功:
INFO - [AMCT]:[Utils]: The model file is saved in ./outputs/calibration/resnet-101_deploy_model.onnx
INFO - [AMCT]:[Utils]: The model file is saved in ./outputs/calibration/resnet-101_fake_quant_model.onnx
[INFO] ResNet101 before quantize top1: 0.8875 top5: 0.9625
[INFO] ResNet101 after quantize top1: 0.875 top5: 0.9625
量化成功后,在当前目录会生成量化日志文件 ./amct_log/amct_pytorch.log 和 ./outputs/calibration 文件夹,该文件夹内包含以下内容:
如果量化脚本所在目录下已经存在量化配置文件,则再次调用
create_quant_config
接口时,如果新生成的量化配置文件与已有的文件同名,则会覆盖已有的量化配置文件,否则生成新的量化配置文件。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。