1 Star 0 Fork 0

xastra/TensorRT-LLM

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
.github/ISSUE_TEMPLATE
3rdparty
benchmarks
cpp
docker
docs
examples
scripts
tensorrt_llm
auto_parallel
commands
hlapi
layers
models
baichuan
bert
bloom
chatglm
dbrx
enc_dec
falcon
gemma
gpt
gptj
gptneox
llama
mamba
medusa
mpt
opt
phi
qwen
unet
__init__.py
convert_utils.py
generation_mixin.py
modeling_utils.py
plugin
quantization
runtime
tools
__init__.py
_common.py
_ipc_utils.py
_utils.py
builder.py
executor.py
functional.py
graph_rewriting.py
logger.py
lora_manager.py
mapping.py
module.py
network.py
parameter.py
profiler.py
top_model_mixin.py
version.py
tests
windows
.clang-format
.dockerignore
.gitattributes
.gitignore
.gitmodules
.pre-commit-config.yaml
CHANGELOG.md
LICENSE
README.md
requirements-dev-windows.txt
requirements-dev.txt
requirements-windows.txt
requirements.txt
setup.cfg
setup.py
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/xastra/TensorRT-LLM.git
git@gitee.com:xastra/TensorRT-LLM.git
xastra
TensorRT-LLM
TensorRT-LLM
main

搜索帮助