nanf 计算问题

unit test 有如下失败
[ FAILED ] stdio_nofortify.snprintf_sscanf_inf_nan
[ FAILED ] stdio_nofortify.swprintf_swscanf_inf_nan
[ FAILED ] stdio.snprintf_sscanf_inf_nan
[ FAILED ] stdio.swprintf_swscanf_inf_nan

本质上是执行如下代码时，buf 无法得到 “-nan” 
```cpp
char buf[BUFSIZ];
snprintf(buf, sizeof(buf), "[%a]", -nanf(""));
```
编译后生成指令如下, 并添加了 QEMU 单步调试中执行的结果注释（QEMU 我尝试了 6.2 和 7.0 都是同样的结果）
```cpp
0x000000000026967c : auipc   a0,0xffdda
0x0000000000269680 : addi    a0,a0,1388 # 0x43be8
0x0000000000269684 : auipc   ra,0x209
0x0000000000269688 : jalr    226(ra) # 0x472766 <nanf> 
// 跟踪 nanf 函数执行正常，该函数的要求是获得 NaN 的浮点值，并且返回 float 类型
// 可以看到函数返回前 设置 a0 = 0x7fc00000, 即 spec 中定义的 NaN，
// 并且根据 calling conversion，通过 `fmv.w.x fa0,a0` 设置了 fa0，此时 fa0 = 0xfffff7fc00000
0x000000000026968c : fneg.s  ft0,fa0
// 对 single float 执行取反，得到：ft0 = 0xfffffffc00000， 我理解如果看 ft0 的低 32 位，是符合 IEEE-754 要求表达的 -NaN 的。
0x0000000000269690 : fcvt.d.s        ft0,ft0
// 将 single float 转化为 double float，得到 ft0 = 0x8000000000000，这个可能是 gdb 的显示问题，实际寄存器值在 spike 中调试后显示是 7ff8000000000000
0x0000000000269694 : fmv.x.d a3,ft0
// 将 ft0 中保存的 double float 保存到一个 int 寄存器中，并符合 IEEE-754-2008
// 执行后结果为 a3 = 0x7ff8000000000000
0x0000000000269698 : auipc   s0,0xffdd6
0x000000000026969c : addi    s0,s0,-2042 # 0x3ee9e
0x00000000002696a0 : addi    a0,sp,16
0x00000000002696a2 : li      a1,1024
0x00000000002696a6 : mv      a2,s0
0x00000000002696a8 : auipc   ra,0x273
0x00000000002696ac : jalr    -1226(ra) # 0x4dc1de <snprintf(char*, size_t, char const*, ...)>
```
从流程来看，关键是 269690 的 fcvt.d.s 的结果将符号位给改成 0 了，可能是根据规范的如下描述。
我看了一下 RV 的 Spec，有如下说明，感觉 QEMU 也没有问题。
```
Except when otherwise stated, if the result of a floating-point operation is NaN, it is the canonical
NaN. The canonical NaN has a positive sign and all significand bits clear except the MSB, a.k.a.
the quiet bit. For single-precision floating-point, this corresponds to the pattern 0x7fc00000.
```
这个该怎么解决呢，一时没有什么思路

aosp-riscv/working-group

内容风险标识

评论 (9)

aosp-riscv/working-group .gitee-modal { width: 500px !important; }

内容风险标识