登录 注册
开源 企业版 高校版 私有云 模力方舟 Gitee AI
人工智能
/
推理框架
开源许可
MulanPSL-2.0 0BSD AFL-3.0 AGPL-3.0 Apache-2.0 Artistic-2.0 BSD-2-Clause BSD-3-Clause BSD-3-Clause-Clear BSD-4-Clause BSL-1.0 CC-BY-4.0 CC-BY-SA-4.0 CC0-1.0 CECILL-2.1 CERN-OHL-P-2.0 CERN-OHL-S-2.0 CERN-OHL-W-2.0 ECL-2.0 EPL-1.0 EPL-2.0 EUPL-1.1 EUPL-1.2 GFDL-1.3 GPL-2.0 GPL-3.0 ISC LGPL-2.1 LGPL-3.0 LPPL-1.3c MIT MIT-0 MPL-2.0 MS-PL MS-RL MulanPSL-1.0 MulanPubL-1.0 MulanPubL-2.0 NCSA ODbL-1.0 OFL-1.1 OSL-3.0 PostgreSQL UPL-1.0 Unlicense Vim WTFPL Zlib
Python
全部语言 Java JavaScript HTML CSS C Shell C++ TypeScript PHP C# Go Objective-C Android Kotlin Ruby Assembly Swift NodeJS Perl Dart Lua Rust Matlab 其他 PowerShell HTML/CSS Scala 微信 Groovy C/C++ XSLT Verilog R QML Pascal Docker CoffeeScript FORTRAN Erlang Emacs Lisp ActionScript SQL Smalltalk VHDL M Delphi TeX/LaTeX ASP Visual Basic Common Lisp Clojure Awk LiveScript Haskell Scheme Elixir Julia 易语言 Pawn YAML AutoHotkey OCaml Ada Puppet D Standard ML Logos XML Arduino Prolog VimL Coq 汇编 Haxe ColdFusion Vala Scilab Crystal Racket Lisp Slash Eiffel eC DOT Zephir Nemerle
Stars
Stars 最新推荐 最近更新
12 mirrors 1578989292

Gitee 极速下载/bentoml

8
BentoML 是 AI 应用程序开发人员的平台，提供工具和基础架构来简化整个 AI 产品开发生命周期
Python
推理框架
|
1年多前
6854763 mindspore 1604325217

MindSpore/vllm-mindspore

5
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
Python
推理框架
|
2天前
12 mirrors 1578989292

Gitee 极速下载/vllm

4
vLLM 是一个快速且易于使用的 LLM 推理和服务库
Python
推理框架
|
1年多前
12 mirrors 1578989292

Gitee 极速下载/KTransformers

2
‌KTransformers‌是由清华大学的KVCache.AI团队与趋境科技联合发布的开源项目
Python
推理框架
|
19天前
12 mirrors 1578989292

Gitee 极速下载/sglang

1
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架
Python
推理框架
|
26天前
12 mirrors 1578989292

Gitee 极速下载/deepgemm

1
DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法（GEMM）设计的库
Python
推理框架
|
19天前
今日热门
本周热门
额，这里啥也没有呢!
MindSpore/vllm-mindspore
5
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
点此查找更多帮助

搜索帮助

Git 命令在线学习 如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
回到顶部