MindSpore Serving当前仅支持Ascend 310、Ascend 910和Nvidia GPU环境。
MindSpore Serving依赖MindSpore训练推理框架,安装完MindSpore,再安装MindSpore Serving。可以采用pip安装或者源码编译安装两种方式。
使用pip命令安装,请从MindSpore Serving下载页面下载并安装whl包。
pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/{version}/Serving/{arch}/mindspore_serving-{version}-{python_version}-linux_{arch}.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple
{version}
表示MindSpore Serving版本号,例如下载1.1.0版本MindSpore Serving时,{version}
应写为1.1.0。{arch}
表示系统架构,例如使用的Linux系统是x86架构64位时,{arch}
应写为x86_64
。如果系统是ARM架构64位,则写为aarch64
。{python_version}
表示用户的Python版本,Python版本为3.7.5时,{python_version}
应写为cp37-cp37m
。Python版本为3.9.0时,则写为cp39-cp39
。请和当前安装的MindSpore使用的Python环境保持一致。
下载源码,下载后进入serving
目录。
方式一,指定Serving依赖的已安装或编译的MindSpore包路径,安装Serving:
sh build.sh -p $MINDSPORE_LIB_PATH
其中,build.sh
为serving
目录下的编译脚本文件,$MINDSPORE_LIB_PATH
为MindSpore软件包的安装路径下的lib
路径,例如,softwarepath/mindspore/lib
,该路径包含MindSpore运行依赖的库文件。
方式二,直接编译Serving,编译时会配套编译MindSpore的包,需要配置MindSpore编译时的环境变量 :
# GPU
sh build.sh -e gpu
# Ascend 310 and Ascend 910
sh build.sh -e ascend
其中,build.sh
为serving
目录下的编译脚本文件,编译完后,在serving/third_party/mindspore/build/package/
目录下找到MindSpore的whl安装包进行安装:
pip install mindspore_ascend-{version}-{python_version}-linux_{arch}.whl
同时在serving/build/package/
目录下找到Serving的whl安装包进行安装:
pip install mindspore_serving-{version}-{python_version}-linux_{arch}.whl
执行以下命令,验证安装结果。导入Python模块不报错即安装成功:
from mindspore_serving import server
MindSpore Serving运行需要配置以下环境变量:
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。