Matmul自定义算子样例说明

本样例通过Ascend C编程语言实现了Matmul算子，并按照不同的算子调用方式分别给出了对应的端到端实现。

• FrameworkLaunch：使用框架调用Matmul自定义算子。
  按照工程创建->算子实现->编译部署>算子调用的流程完成算子开发。整个过程都依赖于算子工程：基于工程代码框架完成算子核函数的开发和Tiling实现，通过工程编译脚本完成算子的编译部署，继而实现单算子调用或第三方框架中的算子调用。
• KernelLaunch：使用核函数直调Matmul自定义算子。
  核函数的基础调用（Kernel Launch）方式，开发者完成算子核函数的开发和Tiling实现后，即可通过AscendCL运行时接口，完成算子的调用。

本样例中包含如下调用方式：

算子描述

Matmul高阶API实现了快速的Matmul矩阵乘法的运算操作。

MatMul的计算公式为：

C = A * B + Bias

• A、B为源操作数，A为左矩阵，形状为[M, K]；B为右矩阵，形状为[K, N]。
• C为目的操作数，存放矩阵乘结果的矩阵，形状为[M, N]。
• Bias为矩阵乘偏置，形状为[1, N]。对A*B结果矩阵的每一行都采用该bias进行偏置。

算子规格描述

支持的产品型号

本样例支持如下产品型号：

• Atlas 推理系列产品（Ascend 310P处理器）
• Atlas A2训练系列产品

目录结构介绍

│── FrameworkLaunch // 使用框架调用的方式调用Matmul自定义算子。
└── KernelLaunch    // 使用核函数直调的方式调用Matmul自定义算子。

环境要求

编译运行此样例前，请参考《CANN软件安装指南》完成开发运行环境的部署。

编译运行样例算子

1. 准备：获取样例代码

可以使用以下两种方式下载，请选择其中一种进行源码准备。

• 命令行方式下载（下载时间较长，但步骤简单）。

  # 开发环境，非root用户命令行中执行以下命令下载源码仓。git_clone_path为用户自己创建的某个目录。
  cd ${git_clone_path}
  git clone https://gitee.com/ascend/samples.git
  

  注：如果需要切换到其它tag版本，以v0.5.0为例，可执行以下命令。

  git checkout v0.5.0
  

• 压缩包方式下载（下载时间较短，但步骤稍微复杂）。

  注：如果需要下载其它版本代码，请先请根据前置条件说明进行samples仓分支切换。

  # 1. samples仓右上角选择 【克隆/下载】 下拉框并选择 【下载ZIP】。
  # 2. 将ZIP包上传到开发环境中的普通用户某个目录中，【例如：${git_clone_path}/ascend-samples-master.zip】。
  # 3. 开发环境中，执行以下命令，解压zip包。
  cd ${git_clone_path}
  unzip ascend-samples-master.zip
  

2. 编译运行样例工程

• 若使用框架调用的方式，编译运行操作请参见FrameworkLaunch。
• 若使用核函数直调的方式，编译运行操作请参见KernelLaunch。

更新说明