MetaX TVM: Open Deep Learning Compiler Stack
Dify 是一个易用的 LLMOps 平台,旨在让更多人可以创建可持续运营的原生 AI 应用
Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
A KVCache-centric Disaggregated Architecture for LLM Serving
PaddleDetection的目的是为工业界和学术界提供丰富、易用的目标检测模型
基于大模型搭建的聊天机器人,同时支持 微信公众号、企业微信应用、飞书、钉钉 等接入,可选择GPT3.5/GPT-4o/GPT-o1/ DeepSeek/Claude/文心一言/讯飞星火/通义千问/ Gemini/GLM-4/Claude/Kimi/LinkAI,能处理文本、语音和图片,访问操作系统和互联网,支持基于自有知识库进行定制企业智能客服。
cann-ops,是基于昇腾硬件的基础算子库,同时接受外部基础算子贡献。
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。