6854763 mindspore 1604325217
160
MindSpore的vLLM插件,支持基于vLLM框架部署MindSpore模型的推理服务。
Python
17小时前
12 mirrors 1578989292
27
vLLM 是一个快速且易于使用的 LLM 推理和服务库
Python
1天前
12 mirrors 1578989292
8
BentoML 是 AI 应用程序开发人员的平台,提供工具和基础架构来简化整个 AI 产品开发生命周期
Python
1天前
12 mirrors 1578989292
7
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架
Python
1天前

搜索帮助