登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
轻量养虾，开箱即用！低 Token + 稳定算力，Gitee & 模力方舟联合出品的 PocketClaw 正式开售！点击了解详情~
代码拉取完成，页面将自动刷新
开源项目
>
WEB应用开发
>
后台管理框架
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
4.6K
Star
45.7K
Fork
13.4K
GVP
lengleng
/
pig
代码
Issues
54
Pull Requests
1
Wiki
统计
流水线
服务
JavaDoc
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
开发画像分析
我知道了，不再自动展开
申请加入仓库
更新失败，请稍后重试！
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息，仓库外成员不可访问
调用私有推理模型和向量模型不启作用（vllm部署）
已完成
#ICL8YS
Github Action
成员
创建于
2025-07-10 06:59
版本: 5.9 JDK版本: JDK17 部署模式: 单体 老师您好： 1、我们接入本地私有模型qwen的qwq推理模型 模型ID为model id：vllm-qwq-32b-server，配置好了访问推理功能不启作用，但是普通问答功能启作用能正常问答 2、文档聊天窗上传文档，上传不成功，是不是也需要向量模型。举例：我上传一个word文档，期望他帮我总结。调用公有模型没有问题，但是调用私有模型不行（向量私有模型是智普的）。看起来是公有模型和私有模型的入参有出入，导致在调用向量模型和推理模型的时候会报错 以下是向量调用情况 2025-07-09 10:39:53.816 INFO 1449239 --- [ XNIO-1 task-2] d.l.http.client.log.LoggingHttpClient : HTTP request: - method: POST - url: http://11.0.1.20:8010/v3/embeddings - headers: [Authorization: Beare...r ], [User-Agent: langchain4j-openai], [Content-Type: application/json] - body: { "model" : "large-v2", "input" : [ "1、实验室综合管理-待办事项：待办事项（标准物质领用申请待审批、检定校准预警提醒、检定/校验计划待审批、废弃物待审批）有待办数量，但不显示具体内容。如下图：" ] } 
版本: 5.9 JDK版本: JDK17 部署模式: 单体 老师您好： 1、我们接入本地私有模型qwen的qwq推理模型 模型ID为model id：vllm-qwq-32b-server，配置好了访问推理功能不启作用，但是普通问答功能启作用能正常问答 2、文档聊天窗上传文档，上传不成功，是不是也需要向量模型。举例：我上传一个word文档，期望他帮我总结。调用公有模型没有问题，但是调用私有模型不行（向量私有模型是智普的）。看起来是公有模型和私有模型的入参有出入，导致在调用向量模型和推理模型的时候会报错 以下是向量调用情况 2025-07-09 10:39:53.816 INFO 1449239 --- [ XNIO-1 task-2] d.l.http.client.log.LoggingHttpClient : HTTP request: - method: POST - url: http://11.0.1.20:8010/v3/embeddings - headers: [Authorization: Beare...r ], [User-Agent: langchain4j-openai], [Content-Type: application/json] - body: { "model" : "large-v2", "input" : [ "1、实验室综合管理-待办事项：待办事项（标准物质领用申请待审批、检定校准预警提醒、检定/校验计划待审批、废弃物待审批）有待办数量，但不显示具体内容。如下图：" ] } 
评论 (
1
)
登录
后才可以发表评论
状态
已完成
待办的
进行中
已完成
已关闭
负责人
未设置
标签
未设置
标签管理
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (
-
)
标签 (
-
)
开始日期 - 截止日期
-
置顶选项
不置顶
置顶等级：高
置顶等级：中
置顶等级：低
优先级
不指定
严重
主要
次要
不重要
参与者（2）
Java
1
https://gitee.com/log4j/pig.git
git@gitee.com:log4j/pig.git
log4j
pig
pig
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号，请先登录后再操作。
立即登录
没有帐号，去注册
