5月24日 | Gitee Talk 模力方舟 AI 应用沙龙合肥站，多个 AI+ 项目实践分享，跨行业 AI 场景落地，报名现已开启~

开源项目 > 人工智能 > 机器学习/深度学习 &&

加入 Gitee

与超过 1200万开发者一起发现、参与优秀开源项目，私有仓库也完全免费：）

文件

.github

benchmark

c_api

cmake

cpack

csharp

docs

api/vision_results

api_docs

cn

build_and_install

README.md

a311d.md

android.md

cpu.md

directml.md

download_prebuilt_libraries.md

gpu.md

horizon.md

huawei_ascend.md

ipu.md

jetson.md

kunlunxin.md

rknpu2.md

rv1126.md

sophgo.md

third_libraries.md

faq

quick_start

quantize.md

docs_i18n

en

README.md

README_CN.md

README_EN.md

examples

fastdeploy

java/android

paddle2onnx

poros

python

scripts

serving

streamer

tests

third_party

tools

tutorials

.clang-format

.clang_format.hook

.cpplint_pre_commit.hook

.gitignore

.pre-commit-config.yaml

CMakeLists.txt

CODE_OF_CONDUCT.md

FastDeploy.cmake.in

FastDeployCSharp.cmake.in

LICENSE

README.md

README_CN.md

README_EN.md

ThirdPartyNotices.txt

VERSION_NUMBER

commit-prepare.sh

克隆/下载

[Backend] Update RKNN Runtime libs to vers... 4e9bcc3 2年前

download_prebuilt_libraries.md

huawei_ascend.md

third_libraries.md

Loading...

README

FastDeploy安装

English | 中文

FastDeploy安装

FastDeploy预编译库安装

FastDeploy预编译库下载安装

注意：FastDeploy目前只提供部分环境的预编译库，其他环境需要参考下方文档自行编译

自行编译安装

FastDeploy编译选项说明

选项	说明
ENABLE_ORT_BACKEND	默认OFF, 是否编译集成ONNX Runtime后端(CPU/GPU上推荐打开)
ENABLE_PADDLE_BACKEND	默认OFF，是否编译集成Paddle Inference后端(CPU/GPU上推荐打开)
ENABLE_LITE_BACKEND	默认OFF，是否编译集成Paddle Lite后端(编译Android库时需要设置为ON)
ENABLE_RKNPU2_BACKEND	默认OFF，是否编译集成RKNPU2后端(RK3588/RK3568/RK3566上推荐打开)
ENABLE_SOPHGO_BACKEND	默认OFF，是否编译集成SOPHGO后端, 当在SOPHGO TPU上部署时，需要设置为ON
WITH_ASCEND	默认OFF，当在华为昇腾NPU上部署时, 需要设置为ON
WITH_KUNLUNXIN	默认OFF，当在昆仑芯XPU上部署时，需设置为ON
WITH_TIMVX	默认OFF，需要在RV1126/RV1109/A311D上部署时，需设置为ON
ENABLE_TRT_BACKEND	默认OFF，是否编译集成TensorRT后端(GPU上推荐打开)
ENABLE_OPENVINO_BACKEND	默认OFF，是否编译集成OpenVINO后端(CPU上推荐打开)
ENABLE_VISION	默认OFF，是否编译集成视觉模型的部署模块
ENABLE_TEXT	默认OFF，是否编译集成文本NLP模型的部署模块
WITH_GPU	默认OFF, 当需要在GPU上部署时，需设置为ON
RKNN2_TARGET_SOC	ENABLE_RKNPU2_BACKEND时才需要使用这个编译选项。无默认值, 可输入值为RK3588/RK356X, 必须填入，否则将编译失败
CUDA_DIRECTORY	默认/usr/local/cuda, 当需要在GPU上部署时，用于指定CUDA(>=11.2)的路径
TRT_DIRECTORY	当开启TensorRT后端时，必须通过此开关指定TensorRT(>=8.4)的路径
ORT_DIRECTORY	当开启ONNX Runtime后端时，用于指定用户本地的ONNX Runtime库路径；如果不指定，编译过程会自动下载ONNX Runtime库
OPENCV_DIRECTORY	当ENABLE_VISION=ON时，用于指定用户本地的OpenCV库路径；如果不指定，编译过程会自动下载OpenCV库
OPENVINO_DIRECTORY	当开启OpenVINO后端时, 用于指定用户本地的OpenVINO库路径；如果不指定，编译过程会自动下载OpenVINO库

马建仓 AI 助手

尝试更多

代码解读

代码找茬

代码优化

Python

1

https://gitee.com/paddlepaddle/FastDeploy.git

git@gitee.com:paddlepaddle/FastDeploy.git

paddlepaddle

FastDeploy

FastDeploy

develop