74 Star 572 Fork 1.1K

Ascend/pytorch

 / 详情

YOLOV8的face_n模型,onnx转om后精度下降

DONE
缺陷
创建于  
2025-02-27 09:52

一、问题现象(附报错日志上下文):
YOLOV8的face_n模型,onnx转om后精度下降,
使用msit工具验证存在精度下降
二、软件版本:
-- CANN 版本 (e.g., CANN 3.0.x,5.x.x): cann8.0.RC2
--Tensorflow/Pytorch/MindSpore 版本:
--Python 版本 (e.g., Python 3.7.5):3.10
-- MindStudio版本 (e.g., MindStudio 2.0.0 (beta3)):
--操作系统版本 (e.g., Ubuntu 18.04):ubantu20.04

三、测试步骤:
1.onnx转om
atc --model=/home/projects/facefusion-onnxrun-main/weights/yoloface_8n.onnx --framework=5 --output=yoloface_8n --input_format=NCHW --input_shape="images:1,3,640,640" --enable_small_channel=1 --log=error --soc_version=Ascend310P3
2.MSIT工具验证精度
输入图片说明

评论 (1)

dsdda 创建了缺陷 2个月前

请到对应组件处咨询

huangyunlong 任务状态TODO 修改为WIP 2个月前
huangyunlong 任务状态WIP 修改为DONE 2个月前

登录 后才可以发表评论

状态
负责人
项目
里程碑
Pull Requests
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
开始日期   -   截止日期
-
置顶选项
优先级
预计工期 (小时)
参与者(2)
huangyunlong-huangyunlong2022 dsdda-dsdda
Python
1
https://gitee.com/ascend/pytorch.git
git@gitee.com:ascend/pytorch.git
ascend
pytorch
pytorch

搜索帮助