import com.mindspore.config.MSContext;
MSContext类用于配置运行时的上下文配置。
public boolean init()
初始化MSContext,采用默认配置:2线程,不绑核,不开启异构并行。
返回值
初始化是否成功。
public boolean init(int threadNum, int cpuBindMode)
初始化MSContext,设置CPU线程数、CPU绑定模式。不开启异构并行。
参数
threadNum
: 线程数。cpuBindMode
: CPU绑定模式,cpuBindMode
在com.mindspore.config.CpuBindMode中定义。返回值
初始化是否成功。
public boolean init(int threadNum, int cpuBindMode, boolean isEnableParallel)
初始化MSContext,设置CPU线程数、CPU绑定模式、是否开启异构并行。
参数
threadNum
: 线程数。cpuBindMode
: CPU绑定模式,cpuBindMode
在com.mindspore.config.CpuBindMode中定义。isEnableParallel
: 是否开启异构并行。返回值
初始化是否成功。
boolean addDeviceInfo(int deviceType, boolean isEnableFloat16)
添加运行设备信息。
参数
deviceType
: 设备类型,deviceType
在com.mindspore.config.DeviceType中定义。isEnableFloat16
: 是否开启fp16。返回值
设备添加是否成功。
boolean addDeviceInfo(int deviceType, boolean isEnableFloat16, int npuFreq)
添加运行设备信息。
参数
deviceType
: 设备类型,deviceType
在com.mindspore.config.DeviceType中定义。isEnableFloat16
: 是否开启fp16。npuFreq
: NPU运行频率,仅当deviceType为npu才需要。返回值
设备添加是否成功。
public long getMSContextPtr()
获取MSContext底层运行指针。
返回值
MSContext底层运行指针。
public void free()
释放MSContext运行过程中动态分配的内存。
void setThreadNum(int threadNum)
设置运行时的线程数量。 若未初始化 MSContext 则不会做任何操作,并在日志中输出空指针信息。
参数
threadNum
: 运行时的线程数。int getThreadNum()
获取当MSContext的线程数量设置,该选项仅MindSpore Lite有效。 若未初始化 MSContext 则会返回-1,并在日志中输出空指针信息。
返回值
线程数量
void setInterOpParallelNum(int parallelNum)
设置运行时的算子并行推理数目。 若未初始化 MSContext 则不会做任何操作,并在日志中输出空指针信息。
参数
parallelNum
: 运行时的算子并行数。int getInterOpParallelNum()
获取当前算子并行数设置。 若未初始化 MSContext 则会返回-1,并在日志中输出空指针信息。
返回值
当前算子并行数设置。
void setThreadAffinity(int mode)
设置运行时的CPU绑核策略。 若未初始化 MSContext 则不会做任何操作,并在日志中输出空指针信息。
参数
mode
: 绑核的模式,有效值为0-2,0为默认不绑核,1为绑大核,2为绑小核。 int getThreadAffinityMode()
获取当前CPU绑核策略。 若未初始化 MSContext 则返回-1,并在日志中输出空指针信息。
返回值
当前CPU绑核策略,有效值为0-2,0为默认不绑核,1为绑大核,2为绑小核。
void setThreadAffinity(ArrayList<Integer> coreList)
设置运行时的CPU绑核列表,如果同时调用了两个不同的SetThreadAffinity
函数来设置同一个的MSContext,仅coreList
生效,而mode
不生效。该选项仅MindSpore Lite有效。
若未初始化 MSContext 则不会做任何操作,并在日志中输出空指针信息。
参数
coreList
: CPU绑核的列表。ArrayList<Integer> getThreadAffinityCoreList()
获取当前CPU绑核列表。
若未初始化 MSContext 则会返回长度为0的ArrayList
,并在日志中输出空指针信息。
返回值
当前CPU绑核列表
void setEnableParallel(boolean isParallel)
设置运行时是否使能异构并行。 若未初始化 MSContext 则不会做任何操作,并在日志中输出空指针信息。
参数
isParallel
: 为true则使能异构并行。boolean getEnableParallel()
获取当前是否使能异构并行。 若未初始化 MSContext 则会返回false,并在日志中输出空指针信息。
返回值
返回值为为true,代表使能异构并行。
import com.mindspore.config.DeviceType;
设备类型。
public static final int DT_CPU = 0;
public static final int DT_GPU = 1;
public static final int DT_NPU = 2;
DeviceType的值为0,指定设备类型为CPU。
DeviceType的值为1,指定设备类型为GPU。
DeviceType的值为2,指定设备类型为NPU。
import com.mindspore.config.CpuBindMode;
绑核策略。
public static final int MID_CPU = 2;
public static final int HIGHER_CPU = 1;
public static final int NO_BIND = 0;
CpuBindMode的值为2,优先绑定中核。
CpuBindMode的值为1,优先绑定大核。
CpuBindMode的值为0,不绑核。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。