Driving SDK

简介

Driving SDK是基于昇腾NPU平台开发的适用于自动驾驶场景的算子和模型加速库，提供了一系列高性能的算子和模型加速接口，支持PyTorch框架。

安装

前提条件

1. 本项目依赖昇腾提供的pytorch_npu包和CANN包，需要先安装对应版本的pytorch_npu和CANN软件包，具体配套关系见pytorch仓README。 请参考昇腾官方文档Pytorch框架训练环境准备。
2. 使用pip3 install -r requirements.txt 安装python依赖，requirements.txt文件位于项目根目录下。
3. 如果您需要编译ONNX插件，请安装protobuf-devel-3.14.0, 在centos 系统上可以执行yum install protobuf-devel-3-14.0，否则请将CMakePresets.json中的ENABLE_ONNX选项改为FALSE，CMakePresets.json文件位于项目根目录下。
4. 建议您在准备好环境后，使用umask 0027将umask调整为0027，以保证文件权限正确。
5. 建议您以非root用户身份执行以下操作。

从发布包安装

当前并未正式发布whl包 ，请参考源码安装方式。

从源码安装

1. 克隆原始仓。

git clone https://gitee.com/ascend/DrivingSDK.git -b branch_v7.0.RC1

2. 编译Driving SDK。

注意：请在仓库根目录下执行编译命令

bash ci/build.sh --python=3.8

生成的whl包在DrivingSDK/dist目录下, 命名规则为mx_driving-1.0.0+git{commit_id}-cp{python_version}-linux_{arch}.whl。 请参考编译指导获取更多编译细节。 参数--python指定编译过程中使用的python版本，支持3.8及以上：

支持的CPU架构，Python，PyTorch和torch_npu版本对应关系如下：

3. 安装Driving SDK。

cd DrivingSDK/dist
pip3 install mx_driving-1.0.0+git{commit_id}-cp{python_version}-linux_{arch}.whl

如需要保存安装日志，可在pip3 install命令后添加--log <PATH>参数，并对您指定的目录做好权限控制。

卸载

Pytorch 框架训练环境的卸载请参考昇腾官方文档Pytorch框架训练环境卸载。 Driving SDK的卸载只需执行以下命令：

pip3 uninstall mx_driving

快速上手

import torch, torch_npu
from mx_driving.common import scatter_max
updates = torch.tensor([[2, 0, 1, 3, 1, 0, 0, 4], [0, 2, 1, 3, 0, 3, 4, 2], [1, 2, 3, 4, 4, 3, 2, 1]], dtype=torch.float32).npu()
indices = torch.tensor([0, 2, 0], dtype=torch.int32).npu()
out = updates.new_zeros((3, 8))
out, argmax = scatter_max(updates, indices, out)

特性介绍

目录结构及说明

.
├── kernels                     # 算子实现
│  ├── op_host
│  ├── op_kernel
│  └── CMakeLists.txt
├── onnx_plugin                 # onnx框架适配层
├── mx_driving
│  ├── __init__.py
│  ├── csrc                     # 加速库API适配层
│  └── ...
├── model_examples              # 自动驾驶模型示例
│  └── BEVFormer                # BEVFormer模型示例
├── ci                          # ci脚本
├── cmake                       # cmake脚本
├── CMakeLists.txt              # cmake配置文件
├── CMakePresets.json           # cmake配置文件
├── docs                        # 文档
|  ├── api                      # 算子api调用文档
|  └── ...
├── include                     # 头文件
├── LICENSE                     # 开源协议
├── OWNERS                      # 代码审查
├── README.md                   # 项目说明
├── requirements.txt            # 依赖
├── scripts                     # 工程脚本
├── setup.py                    # whl打包配置
└── tests                       # 测试文件

算子清单

请参见算子清单。

支持特性

• 支持PyTorch 2.1.0，2.3.1，2.4.0
• 支持ONNX模型转换，训推一体
• 支持图模式

模型清单

支持的产品型号

• Atlas A2 训练系列产品

安全声明

系统安全加固

1. 建议您在运行系统配置时开启ASLR（级别2），又称全随机地址空间布局随机化，以提高系统安全性，可参考以下方式进行配置：

   echo 2 > /proc/sys/kernel/randomize_va_space
   
2. 由于Driving SDK需要用户自行编译，建议您对编译后生成的so文件开启strip, 又称移除调试符号信息, 开启方式如下：

   strip -s <so_file>
   
   具体so文件如下：
   • mx_driving/packages/vendors/customize/op_api/lib/libcust_opapi.so
   • mx_driving/packages/vendors/customize/op_proto/lib/linux/aarch64/libcust_opsproto_rt2.0.so
   • mx_driving/packages/vendors/customize/op_impl/ai_core/tbe/op_tiling/lib/linux/aarch64/libcust_opmaster_rt2.0.so

运行用户建议

出于安全性及权限最小化角度考虑，不建议使用root等管理员类型账户使用Driving SDK。

文件权限控制

在使用Driving SDK时，您可能会进行profiling、调试等操作，建议您对相关目录及文件做好权限控制，以保证文件安全。

1. 建议您在使用Driving SDK时，将umask调整为0027及以上，保障新增文件夹默认最高权限为750，文件默认最高权限为640。
2. 建议您对个人数据、商业资产、源文件、训练过程中保存的各类文件等敏感内容做好权限管控，可参考下表设置安全权限。

文件权限参考

构建安全声明

在源码编译安装Driving SDK时，需要您自行编译，编译过程中会生成一些中间文件，建议您在编译完成后，对中间文件做好权限控制，以保证文件安全。

运行安全声明

1. 建议您结合运行环境资源状况编写对应训练脚本。若训练脚本与资源状况不匹配，如数据集加载内存大小超出内存容量限制、训练脚本在本地生成数据超过磁盘空间大小等情况，可能引发错误并导致进程意外退出。
2. Driving SDK在运行异常时(如输入校验异常（请参考api文档说明），环境变量配置错误，算子执行报错等)会退出进程并打印报错信息，属于正常现象。建议用户根据报错提示定位具体错误原因，包括通过设定算子同步执行、查看CANN日志、解析生成的Core Dump文件等方式。

公网地址声明

Driving SDK代码中包含公网地址声明如下表所示：

公网地址

公开接口声明

参考API清单，Driving SDK提供了对外的自定义接口。如果一个函数在文档中有展示，则该接口是公开接口。否则，使用该功能前可以在社区询问该功能是否确实是公开的或意外暴露的接口，因为这些未暴露接口将来可能会被修改或者删除。

通信安全加固

Driving SDK在运行时依赖于PyTorch及torch_npu，您需关注通信安全加固，具体方式请参考torch_npu通信安全加固。

通信矩阵

Driving SDK在运行时依赖于PyTorch及torch_npu，涉及通信矩阵，具体信息请参考torch_npu通信矩阵。

软件生命周期说明

Driving SDK 分支维护策略

Driving SDK版本分支的维护阶段如下：

Driving SDK 版本维护策略：

免责声明

致Driving SDK使用者

1. Driving SDK提供的模型仅供您用于非商业目的。
2. 对于各模型，Driving SDK平台仅提示性地向您建议可用于训练的数据集，华为不提供任何数据集，如您使用这些数据集进行训练，请您特别注意应遵守对应数据集的License，如您因使用数据集而产生侵权纠纷，华为不承担任何责任。
3. 如您在使用Driving SDK模型过程中，发现任何问题（包括但不限于功能问题、合规问题），请在Gitee提交issue，我们将及时审视并解决。

致数据集所有者

如果您不希望您的数据集在Driving SDK中的模型被提及，或希望更新Driving SDK中的模型关于您的数据集的描述，请在Gitee提交issue，我们将根据您的issue要求删除或更新您的数据集描述。衷心感谢您对Driving SDK的理解和贡献。