代码拉取完成,页面将自动刷新
A webui for ChatGLM made by THUDM. chatglm-6b
python3.10
pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117
pip install --upgrade -r requirements.txt
or
bash install.sh
python webui.py
--model-path
: specify model path. If this parameter is not specified manually, the default value is THUDM/chatglm-6b
. Transformers will automatically download model from huggingface.
--listen
: launch gradio with 0.0.0.0 as server name, allowing to respond to network requests
--port
: webui port
--share
: use gradio to share
--precision
: fp32(CPU only), fp16, int4(CUDA GPU only), int8(CUDA GPU only)
--cpu
: use cpu
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。