76 Star 588 Fork 1.1K

Ascend/pytorch

报错out of memory

DONE
需求
创建于  
2023-04-06 09:55

执行在线推理时发现此报错:LLVM ERROR: out of memory,具体报错信息如下图所示:
输入图片说明

评论 (10)

iriswu18 创建了需求 2年前

Please add labels , also you can visit https://gitee.com/ascend/community/blob/master/labels.md to find more.
为了让代码尽快被审核,请您为Issue打上标签,打上标签的Issue可以直接推送给责任人进行审核。
更多的标签可以查看https://gitee.com/ascend/community/blob/master/labels.md
以模型训练相关代码提交为例,如果你提交的是模型训练代码,你可以这样评论:
//train/model
另外你还可以给这个Issue标记类型,例如是bugfix或者是特性需求:
//kind/bug or //kind/feature
恭喜你,你已经学会了使用命令来打标签,接下来就在下面的评论里打上标签吧!

你好,使用的什么框架跑的在线推理,它的版本号是多少,如何操作的以及相应日志麻烦提供下

Destiny 任务状态TODO 修改为WIP 2年前

使用的是直接拉取的docker镜像pytorch-modelzoo-22.0.RC3-1.8.1
用django封装了一个接口接收文本并做在线推理,django版本3.1.14
试了几次请求,前几次推理没有问题,到某一次突然报错

能提供复现脚本么

补充:报错的请求又用相同的样本单独试了一次,这回没有报错,感觉和输入文本无关;试了上一篇推理未完成时发送新的推理请求,果然报错了,是不支持同时处理多个请求吗?
请问这种情况是否有解决方案呢?

用的什么模型呢,是自己找的模型还是modelzoo仓库的模型呢

用的自己搞的uie模型

自己找的模型的话,需要联系你的PAE或者FAE来帮忙支撑哦

好的谢谢

Destiny 任务状态WIP 修改为DONE 2年前

登录 后才可以发表评论

状态
负责人
项目
里程碑
Pull Requests
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
优先级
预计工期 (小时)
开始日期   -   截止日期
-
置顶选项
参与者(3)
ascend-robot-ascend-robot Destiny-wx1103340 iriswu18-iriswu18
Python
1
https://gitee.com/ascend/pytorch.git
git@gitee.com:ascend/pytorch.git
ascend
pytorch
pytorch

搜索帮助