41 Star 143 Fork 451

Ascend/mstt

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
README
Apache-2.0

🚨 重要通知

1. Ascend Training Tools 更名为 MindStudio Training Tools (mstt)。

2. 本代码仓 URL 变更为 https://gitee.com/ascend/mstt,原 URL 仍然可用(2024.07.04 )。


🧰 MindStudio Training Tools

Build Status Commit Activity License: Apache 2.0

分析迁移工具

  1. 脚本分析工具

    脚本分析工具可以帮助用户在执行迁移操作前,分析基于 GPU 平台的 PyTorch 训练脚本中算子、三方库套件、API 亲和性以及动态 shape 的支持情况。

  2. (推荐)自动迁移工具

    自动迁移工具只需在训练脚本中导入库代码即可完成模型脚本的迁移,使用方式简单,且修改内容少。

  3. 脚本迁移工具

    脚本迁移工具通过后端命令行,将 GPU 上训练的 PyTorch 脚本迁移至 NPU 上,得到新的训练脚本用于训练。

  4. 训推一体权重转换工具

    训推一体权重转换工具,支持在 GPU 和 NPU 上训练好的模型转成加速推理支持的格式。

精度工具

MindStudio Probe(msprobe,MindStudio 精度调试工具)

性能工具

  1. compare_tools(性能比对工具)

    提供 NPU 与 GPU 性能拆解功能以及算子、通信、内存性能的比对功能。

  2. cluster_analyse(集群分析工具)

    提供多机多卡的集群分析能力(基于通信域的通信分析和迭代耗时分析), 当前需要配合 MindStudio Insight 的集群分析功能使用。

  3. advisor

    将 Ascend PyTorch Profiler 或者 msprof 采集的 PyTorch 场景性能数据进行分析,并输出性能调优建议。

  4. bind_core

    绑核脚本,支持非侵入修改工程代码,实现一键式绑核功能。

Tensorboard

Tensorboard 支持 NPU 性能数据可视化插件 PyTorch Profiler TensorBoard NPU Plugin。

支持将 Ascend 平台采集、解析的 PyTorch Profiling 数据可视化呈现,也兼容 GPU 数据采集、解析可视化。

分支维护策略

  1. MindStudio Training Tools 工具版本分支的维护阶段如下:

    状态 时间 说明
    计划 1—3 个月 计划特性
    开发 3个月 开发特性
    维护 6—12个月 合入所有已解决的问题并发布版本
    无维护 0—3 个月 合入所有已解决的问题,无专职维护人员,无版本发布
    生命周期终止(EOL) N/A 分支不再接受任何修改
  2. MindStudio Training Tools 分支版本号命名规则如下:

    mstt 仓每年发布 4 个版本,每个版本都将对应一个分支;以 v6.0 为例,其将对应 v6.0.RC1、v6.0.RC2、v6.0.RC3 以及 v6.0.0 四个版本,在仓库中将存在与之对应的分支。

    分支 状态 发布日期 后续状态 EOL日期
    v6.0.0 维护 2023.12.12 预计 2024.12.12 起无维护

空文件

简介

针对训练&大模型场景,提供端到端命令行&可视化调试调优工具,帮助用户快速提高模型开发效率 展开 收起
Apache-2.0
取消

发行版

暂无发行版

贡献者

全部

近期动态

不能加载更多了
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/ascend/mstt.git
git@gitee.com:ascend/mstt.git
ascend
mstt
mstt
c163248136d4350ce4ba70904a818244adf2387b

搜索帮助