AISBench工具配套LLM的精度&性能评测组件,用于全流程大模型评测以及生成式大模型结果多维分析。
TorchAir 支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行训练和推理
欢迎参加 GPU 算子优化挑战赛 🎯!
本比赛旨在通过优化深度学习框架中的核心计算模块,提升大模型的运行效率。在本仓库中,你可以提交你的优化代码、测试样例和使用说明。
基于 PyTorch 的人体参数化模型开源工具箱,通过模块化的框架和统一的数据规范支持多种人体姿态和形状估计算法。
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。
cu-bridge 尝试成为GPU程序员使用一种编程语言进行开发、并且可运行在多种GPU硬件平台的解决方案。
ascendc-api-adv,是昇腾硬件上面向算子开发场景的编程语言Ascend C的高阶类库。
Triton-Ascend面向昇腾平台,旨在让Triton代码能够在昇腾硬件上高效运行。
DeepSparkInference推理模型示例库甄选了216个推理大小模型示例,小模型涵盖计算机视觉,自然语言处理,语音识别等领域;大模型涉及vLLM,TGI等多种框架,并将持续扩展更多、更新的模型示例。