mod函数结果错误的原因 · Pull Request !1574 · openGauss/Plugin

【标题】mod函数结果错误的原因

【实现内容】:解析mod函数结果错误的原因

【根因分析】:warning：int out of range
出现warning的原因：1.最主要的是因为mod（） 函数需要所有的参数都是有符号整数类型，而这个引起warning的代码中的cast(-2 as unsigned)将-2这个值转换成了无符号整数类型，所以引起了错误。
2.对于有些版本和配置环境来说可以强制转换，结果依然正确，但是这不可靠哇。还是记住mod（） 函数需要所有的参数都是有符号整数类型吧。

【实现方案】:`select mod(cast(-2 as signed), 3);`

【关联需求或issue】:mod函数结果错误

【开发自验报告】:
1. 请附上自验结果(内容或者截图)
![正确结果调试](https://foruda.gitee.com/images/1715844195143718266/4e26c514_14401117.png "1.png")

2. 是否可以添加fastcheck测试用例，如是，请补充fastcheck用例
否
3. 是否涉及资料修改，如是，在docs仓库补充资料
否
4. 是否考虑支撑升级和在线扩容等扩展场景。涉及升级/回滚脚本修改的场景请按如下方式测试验证升级/回滚是否正常，并提供自验截图。注意 `2.0`， `3.0` 为dolphin插件版本，请根据实际情况选择。
```
alter system set upgrade_mode to 2;
select pg_sleep(2);
begin;
set isinplaceupgrade to on;
set dolphin.b_compatibility_mode = off;
alter extension dolphin update to '2.0';
alter extension dolphin update to '3.0';
reset dolphin.b_compatibility_mode;
abort;

alter system set upgrade_mode to 0;
```
5. 是否考虑异常场景/并发场景/前向兼容/性能场景
否
6. 是否对其他模块产生影响

【其他说明】:

openGauss/Plugin .gitee-modal { width: 500px !important; }

Search

openGauss/Plugin