代码拉取完成,页面将自动刷新
LeNet是1998年提出的一种典型的卷积神经网络。它被用于数字识别并取得了巨大的成功。
论文: Y.Lecun, L.Bottou, Y.Bengio, P.Haffner.Gradient-Based Learning Applied to Document Recognition.Proceedings of the IEEE.1998.
这是LeNet的量化网络。
LeNet非常简单,包含5层,由2个卷积层和3个全连接层组成。
使用的数据集:MNIST
数据集大小:52.4M,共10个类,6万张 28*28图像
数据格式:二进制文件
目录结构如下:
└─Data
├─test
│ t10k-images.idx3-ubyte
│ t10k-labels.idx1-ubyte
│
└─train
train-images.idx3-ubyte
train-labels.idx1-ubyte
通过官方网站安装MindSpore后,您可以按照如下步骤进行训练和评估:
# 进入../lenet目录,训练lenet网络,生成'.ckpt'文件作为lenet-quant预训练文件
bash run_standalone_train_ascend.sh [DATA_PATH] [CKPT_PATH]
# example: bash run_standalone_train_ascend.sh /home/DataSet/MNIST/ ./ckpt/
# 进入lenet-quant目录,训练lenet-quant
python train.py --device_target=Ascend --data_path=[DATA_PATH] --ckpt_path=[CKPT_PATH] --dataset_sink_mode=True
# example: python train.py --device_target=Ascend --data_path=/home/DataSet/MNIST/ --ckpt_path=/home/model/lenet/checkpoint_lenet-10_1875.ckpt --dataset_sink_mode=True
# 评估lenet-quant
python eval.py --device_target=Ascend --data_path=[DATA_PATH] --ckpt_path=[CKPT_PATH] --dataset_sink_mode=True
# example: python eval.py --device_target=Ascend --data_path=/home/DataSet/MNIST/ --ckpt_path=/home/model/lenet_quant/checkpoint_lenet-10_937.ckpt --dataset_sink_mode=True
├── model_zoo
├── README.md // 所有型号的描述
├── lenet_quant
├── README.md // LeNet-Quant描述
├── ascend310_infer //实现310推理源代码
├── scripts
├── run_infer_310.sh // Ascend推理shell脚本
├──src
│ ├── config.py // 参数配置
│ ├── dataset.py // 创建数据集
│ ├── lenet_fusion.py // 自动构建LeNet-Quant的定量网络模型
│ ├── lenet_quant.py // 手动构建的LeNet-Quant定量网络模型
│ ├── loss_monitor.py // 监控网络损失和其他数据
├── requirements.txt // 需要的包
├── train.py // 使用Ascend训练LeNet-Quant网络
├── eval.py // 使用Ascend评估LeNet-Quant网络
├── export_bin_file.py // 导出MNIST数据集的bin文件用于310推理
├── postprocess.py // 310推理后处理脚本
train.py和config.py中主要参数如下:
--data_path:到训练和评估数据集的绝对全路径
--epoch_size:训练轮次数
--batch_size:训练批次大小
--image_height:输入到模型的图像高度
--image_width:输入到模型的图像宽度
--device_target:代码实施的设备可选值为"Ascend","GPU", "CPU",目前只支持"Ascend"
--ckpt_path:训练后保存的检查点文件的绝对全路径
--data_path:数据集所在路径
python train.py --device_target=Ascend --dataset_path=/home/datasets/MNIST --dataset_sink_mode=True > log.txt 2>&1 &
训练结束,损失值如下:
# grep "Epoch " log.txt
Epoch:[ 1/ 10], step:[ 937/ 937], loss:[0.0081], avg loss:[0.0081], time:[11268.6832ms]
Epoch time:11269.352, per step time:12.027, avg loss:0.008
Epoch:[ 2/ 10], step:[ 937/ 937], loss:[0.0496], avg loss:[0.0496], time:[3085.2389ms]
Epoch time:3085.641, per step time:3.293, avg loss:0.050
Epoch:[ 3/ 10], step:[ 937/ 937], loss:[0.0017], avg loss:[0.0017], time:[3085.3510ms]
...
...
模型检查点保存在当前目录下。
在运行以下命令之前,请检查用于评估的检查点路径。
python eval.py --data_path Data --ckpt_path ckpt/checkpoint_lenet-1_937.ckpt > log.txt 2>&1 &
您可以通过log.txt文件查看结果。测试数据集的准确性如下:
# grep "Accuracy:" log.txt
'Accuracy':0.9842
python export.py --ckpt_path [CKPT_PATH] --data_path [DATA_PATH] --device_target [PLATFORM]
在推理之前需要在昇腾910环境上完成AIR模型的导出。 并使用export_bin_file.py导出MNIST数据集的bin文件和对应的label文件:
python export_bin_file.py --dataset_dir [DATASET_PATH] --save_dir [SAVE_PATH]
执行推理并得到推理精度:
# Ascend310 inference
bash run_infer_310.sh [AIR_PATH] [DATA_PATH] [LABEL_PATH] [DEVICE_ID]
您可以通过acc.log文件查看结果。推理准确性如下:
'Accuracy':0.9883
参数 | LeNet |
---|---|
资源 | Ascend 910;CPU 2.60GHz,192核;内存 755G;系统 Euler2.8 |
上传日期 | 2021-07-05 |
MindSpore版本 | 1.3.0 |
数据集 | MNIST |
训练参数 | epoch=10, steps=937, batch_size = 64, lr=0.01 |
优化器 | Momentum |
损失函数 | Softmax交叉熵 |
输出 | 概率 |
损失 | 0.002 |
速度 | 3.29毫秒/步 |
总时长 | 40秒 |
微调检查点 | 482k (.ckpt文件) |
脚本 | 脚本 |
在dataset.py中,我们设置了“create_dataset”函数内的种子。
请浏览官网主页。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。