登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
登录
注册
代码拉取完成,页面将自动刷新
开源项目
>
数据库相关
>
数据库开发包
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
41
Star
102
Fork
131
openGauss
/
openGauss-connector-jdbc
代码
Issues
56
Pull Requests
4
Wiki
统计
流水线
服务
JavaDoc
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
【测试类型:接口功能】【测试版本:5.1.0】 JDBC进行批量插入时,preparedStatementCacheQueries参数不生效,数据库端cachedplan数据上升较快
已验收
#I8AJBK
缺陷
周斌
成员
创建于
2023-10-24 17:02
【标题描述】: JDBC进行批量插入时,preparedStatementCacheQueries参数不生效,数据库端cachedplan数据上升较快 【测试类型:SQL功能/存储功能/接口功能/工具功能/性能/并发/压力长稳/故障注入/安全/资料/编码规范】【测试版本:5.1.0】 问题描述: JDBC进行批量插入时,preparedStatementCacheQueries参数不生效,数据库端cachedplan数据上升较快,远大于preparedStatementCacheQueries数量。 【操作系统和硬件信息】(查询命令: cat /etc/system-release, uname -a): windows 【测试环境】(单机/1主x备x级联备): 单机 【被测功能】: jdbc批量插入 【测试类型】: 不涉及 【数据库版本】(查询命令: gaussdb -V): 5.1.0 release 【预置条件】: 数据库功能正常。 【操作步骤】(请填写详细的操作步骤): 配置batchMode=OFF&&reWriteBatchInserts=true后,单次插入1000条以上数据: ```java Properties props = new Properties(); props.put("preparedStatementCacheQueries", "2"); props.put("prepareThreshold", "1"); props.put("fetchSize", "5"); props.put("batchMode", "OFF"); props.put("reWriteBatchedInserts", "true"); try (Connection conn = TestUtil.openDB(props)) { excuteSql(conn, "set session_timeout = 0;"); excuteSql(conn, "drop table if exists t1"); excuteSql(conn, "create table t1(id int, id1 int, id2 int, id3 int, id4 int, id5 int, data varchar(2048));"); String batchInsert = "insert into t1 values (?,?,?,?,?,?,?)"; ....反复执行批量插入(1000以上/次) ``` 2. 在此过程中通过下面的语句查看cachedplan数量(application_name需要修改), select a.sessid, a.contextname, count(*) as count from gs_session_memory_detail a left join pg_stat_activity b on regexp_replace(sessid, '^[^.]*\.','') = b.sessionid where b.application_name like '%Driver Tests%' and a.contextname='CachedPlan' group by a.sessid, a.contextname order by 3 desc; 3.重复1/2步骤,并且访问不同的表,查看cachedplan是否持续上升 【预期输出】: 步骤2输出的数量应该接近preparedStatementCacheQueries=2,误差在1以内。 步骤3:cachedplan数量不会持续上升。 【实际输出】: 步骤2输出的cachedplan数量远多于preparedStatementCacheQueries数量 步骤3:cachedplan数量持续上升 【原因分析】: 1. 这个问题的根因 batchmode为off和开启rewrite后出现过多cacheplan原因已定位,因为此过程会将批量数据按128到1进行分组,如1000按照128分组成7个128 ,1个 64,1个32,1个8共10条sql,这10条语句不进入lru cache管理,单次批量插入所以只会通过java gc释放。默认的10s gc周期内,有多个大于128的批量插入,那么jdbc会向数据库申请对应数量的cachedplan且不受lru cache数量限制; 解决措施: - 开启batchmode,这样批量插入语句不会改写且纳入lru cache管理,使用后那释放 - batchmode= off但不开启rewrite,这样会增加更多的网络通信开销 - batchmode= off 开启rewrite,减少gc周期。 2. 问题推断过程 3. 还有哪些原因可能造成类似现象 4. 该问题是否有临时规避措施 5. 问题解决方案 6. 预计修复问题时间 【日志信息】(请附上日志文件、截图、coredump信息): 【测试代码】:
【标题描述】: JDBC进行批量插入时,preparedStatementCacheQueries参数不生效,数据库端cachedplan数据上升较快 【测试类型:SQL功能/存储功能/接口功能/工具功能/性能/并发/压力长稳/故障注入/安全/资料/编码规范】【测试版本:5.1.0】 问题描述: JDBC进行批量插入时,preparedStatementCacheQueries参数不生效,数据库端cachedplan数据上升较快,远大于preparedStatementCacheQueries数量。 【操作系统和硬件信息】(查询命令: cat /etc/system-release, uname -a): windows 【测试环境】(单机/1主x备x级联备): 单机 【被测功能】: jdbc批量插入 【测试类型】: 不涉及 【数据库版本】(查询命令: gaussdb -V): 5.1.0 release 【预置条件】: 数据库功能正常。 【操作步骤】(请填写详细的操作步骤): 配置batchMode=OFF&&reWriteBatchInserts=true后,单次插入1000条以上数据: ```java Properties props = new Properties(); props.put("preparedStatementCacheQueries", "2"); props.put("prepareThreshold", "1"); props.put("fetchSize", "5"); props.put("batchMode", "OFF"); props.put("reWriteBatchedInserts", "true"); try (Connection conn = TestUtil.openDB(props)) { excuteSql(conn, "set session_timeout = 0;"); excuteSql(conn, "drop table if exists t1"); excuteSql(conn, "create table t1(id int, id1 int, id2 int, id3 int, id4 int, id5 int, data varchar(2048));"); String batchInsert = "insert into t1 values (?,?,?,?,?,?,?)"; ....反复执行批量插入(1000以上/次) ``` 2. 在此过程中通过下面的语句查看cachedplan数量(application_name需要修改), select a.sessid, a.contextname, count(*) as count from gs_session_memory_detail a left join pg_stat_activity b on regexp_replace(sessid, '^[^.]*\.','') = b.sessionid where b.application_name like '%Driver Tests%' and a.contextname='CachedPlan' group by a.sessid, a.contextname order by 3 desc; 3.重复1/2步骤,并且访问不同的表,查看cachedplan是否持续上升 【预期输出】: 步骤2输出的数量应该接近preparedStatementCacheQueries=2,误差在1以内。 步骤3:cachedplan数量不会持续上升。 【实际输出】: 步骤2输出的cachedplan数量远多于preparedStatementCacheQueries数量 步骤3:cachedplan数量持续上升 【原因分析】: 1. 这个问题的根因 batchmode为off和开启rewrite后出现过多cacheplan原因已定位,因为此过程会将批量数据按128到1进行分组,如1000按照128分组成7个128 ,1个 64,1个32,1个8共10条sql,这10条语句不进入lru cache管理,单次批量插入所以只会通过java gc释放。默认的10s gc周期内,有多个大于128的批量插入,那么jdbc会向数据库申请对应数量的cachedplan且不受lru cache数量限制; 解决措施: - 开启batchmode,这样批量插入语句不会改写且纳入lru cache管理,使用后那释放 - batchmode= off但不开启rewrite,这样会增加更多的网络通信开销 - batchmode= off 开启rewrite,减少gc周期。 2. 问题推断过程 3. 还有哪些原因可能造成类似现象 4. 该问题是否有临时规避措施 5. 问题解决方案 6. 预计修复问题时间 【日志信息】(请附上日志文件、截图、coredump信息): 【测试代码】:
评论 (
4
)
登录
后才可以发表评论
状态
已验收
待办的
已确认
已答复
已取消
挂起
修复中
已完成
待回归
测试中
已验收
负责人
未设置
周斌
justbk
负责人
协作者
+负责人
+协作者
ningyali
ningyali
负责人
协作者
+负责人
+协作者
标签
sig/connectors
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (12)
标签 (20)
master
6.0.0
5.0.0
7.0.0-RC1
3.0.0
5.1.0
2.0.0
3.1.0
2.1.0
1.1.0
1.0.1
1.0.0
v6.0.1
v6.0.0
v5.0.3
v5.0.2
v6.0.0-RC1
v5.0.1-RC1
v5.0.1
v5.1.0
v3.0.5
v5.0.0
v3.0.3
v3.1.1
v3.1.0
v3.0.1
v3.0.0
v2.1.0
v2.0.0
1.1.0
1.0.1
1.0.0
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(2)
Java
1
https://gitee.com/opengauss/openGauss-connector-jdbc.git
git@gitee.com:opengauss/openGauss-connector-jdbc.git
opengauss
openGauss-connector-jdbc
openGauss-connector-jdbc
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册