English | 简体中文

预编译库安装

FastDeploy提供各平台预编译库，供开发者直接下载安装使用。当然FastDeploy编译也非常容易，开发者也可根据自身需求编译FastDeploy。

本文分为两部分：

• 1.GPU部署环境
• 2.CPU部署环境

GPU部署环境

环境要求

• CUDA >= 11.2
• cuDNN >= 8.0
• python >= 3.6
• OS: Linux(x64)/Windows 10(x64)

支持CPU和Nvidia GPU的部署，默认集成Paddle Inference、ONNX Runtime、OpenVINO以及TensorRT推理后端，Vision视觉模型模块，Text文本NLP模型模块

版本信息：Paddle Inference==2.4-dev5，ONNXRuntime==1.12.0，OpenVINO==2022.2.0.dev20220829，TensorRT==8.5.2.2

Python安装

Release版本（当前最新1.0.7）安装

pip install fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本（Nightly build）安装

pip install fastdeploy-gpu-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

其中推荐使用Conda配置开发环境

conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2

C++ SDK安装

Release版本

Develop版本（Nightly build）

CPU部署环境

环境要求

• python >= 3.6
• OS: Linux(x64/aarch64)/Windows 10 x64/Mac OSX(x86/aarm64)

仅支持CPU部署，默认集成Paddle Inference、ONNX Runtime、OpenVINO, Vision视觉模型模块(Linux aarch64和Mac OSX下仅集成ONNX Runtime模块)， Text文本NLP模型模块。

版本信息：Paddle Inference==2.4-dev5，ONNXRuntime==1.12.0，OpenVINO==2022.2.0.dev20220829

Python安装

Release版本（当前最新1.0.7）安装

pip install fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本（Nightly build）安装

pip install fastdeploy-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

C++ SDK安装

Release版本

Java SDK安装

Release版本（Java SDK 目前仅支持Android，版本为1.0.7）

Develop版本（Nightly build）