[OSPP 2025 project][AArch64] OSPP2025: 面向循环中SVE访存指令的基址+偏移模式的冗余指令消除 · Pull Request !212 · openEuler/llvm-project

本PR为AArch64 SVE引入了一个新的窥孔优化Pass `SVELoopAddressHoisting`，旨在优化循环中gather/scatter类指令的地址计算。

该工作是开源之夏项目 [面向循环中SVE访存指令的基址+偏移模式的冗余指令消除](https://gitee.com/openeuler/open-source-summer/issues/IC3OS2) 的最终实现成果。

#### **优化的模式**

在循环中，SVE的gather/scatter指令的地址通常由一个循环不变的基地址（Base Register）和一个在循环内变化的向量索引（Index Vector）组成。我们观察到一种常见模式：向量索引本身是由一个更基础的归纳变量（Induction Variable）加上一个循环不变量的偏移（Constant or Loop-Invariant Offset）计算得出的。

**优化前模式:**
```cpp
// 在循环的每次迭代中，都需要执行一次向量加法来计算最终地址
for (int i = 0; ...; i += VSCALE) {
    svint32_t index = svindex_s32(i, 1);
    // LoopInvariantOffset可以是一个常量，也可以是一个来自外层循环的变量
    svint32_t final_index = svadd_z(pg, index, LoopInvariantOffset); 
    svld1_gather_index(pg, base_ptr, final_index);
}
```

这种模式在循环体内引入了**冗余**的 `svadd` 指令。

**优化后模式:**
此Pass通过分析地址计算链，将循环不变量的计算部分外提到循环外。

```cpp
// 在循环开始前，预先计算好新的基地址
for (int i = 0; ...; i += VSCALE) {
    svint32_t index = svindex_s32(i, 1);
    char* hoisted_base_ptr = base_ptr + (LoopInvariantOffset * ElementSizeInBytes); // 由MachineLICM决定是否有必要外提
    // 循环内不再需要向量加法，直接使用新的基地址和原始索引
    svld1_gather_index(pg, hoisted_base_ptr, index); 
}
```

**优化收益:**
通过将不变量计算外提，我们消除了循环体内的向量加法指令，从而减少了指令数量和执行开销。

但目前对于部分场景，以[该场景](https://godbolt.org/z/zj5jazv9a)为例，会存在MachineLICM外提失效的情况。
```c
.LBB0_2:                                // %for.body
    index   z6.s, w8, #1
    whilelt p0.s, w8, w0
    ...
    mul     z6.s, p0/m, z6.s, z4.s      // RootIndex = ...
    ld1w    { z7.s }, p0/z, [x1, z6.s, sxtw #2] // Use RootIndex
    ...
    movprfx z6.s, p0/z, z6.s
    add     z6.s, p0/m, z6.s, z5.s      // Redundant ADD: Idx1 = RootIndex + Const1
    ld1w    { z16.s }, p0/z, [x1, z6.s, sxtw #2]
    ...
    movprfx z6.s, p0/z, z6.s
    add     z6.s, p0/m, z6.s, z5.s      // Redundant ADD: Idx2 = Idx1 + Const1
    ld1w    { z6.s }, p0/z, [x1, z6.s, sxtw #2]
```

在当前实现的方案中，两个 `new base 1` 和 `new base 2` 共用一个寄存器 x10，导致MachineLICM无法外提，如下所示
```c
.LBB0_2:                                // %for.body
    index   z5.s, w8, #1
    whilelt p0.s, w8, w0
    add     x10, x1, #4                 // New base for 2nd ld1w
    ...
    mul     z5.s, p0/m, z5.s, z4.s      // RootIndex
    ld1w    { z6.s }, p0/z, [x1, z5.s, sxtw #2] // Use original base
    ...
    ld1w    { z7.s }, p0/z, [x10, z5.s, sxtw #2]// Use new base 1
    ...
    add     x10, x1, #8                 // New base for 3rd ld1w
    ...
    ld1w    { z5.s }, p0/z, [x10, z5.s, sxtw #2]// Use new base 2
```

为了处理这种情况，我们额外实现了一个IR版本[https://gitee.com/openeuler/llvm-project/commit/edf4e21db734846ecc6d8339244c564706d0217b](https://gitee.com/openeuler/llvm-project/commit/edf4e21db734846ecc6d8339244c564706d0217b)，由于IR优化较 MIR 优化更早期，所以LICM可以有效外提 `new base`，如下所示：
```c
// %bb.1:                               // %for.body.lr.ph (Preheader)
    ...
    add     x10, x1, #4                 // Hoisted!
    add     x11, x1, #8                 // Hoisted!
    ...
.LBB0_2:                                // %for.body
    index   z5.s, w8, #1
    whilelt p0.s, w8, w0
    ...
    mul     z5.s, p0/m, z5.s, z4.s      // RootIndex
    ld1w    { z6.s }, p0/z, [x1, z5.s, sxtw #2] // Use original base
    ...
    ld1w    { z16.s }, p0/z, [x10, z5.s, sxtw #2]// Use hoisted base 1
    ...
    ld1w    { z5.s }, p0/z, [x11, z5.s, sxtw #2]// Use hoisted base 2
```

#### **已实现功能**

本Pass实现了以下核心功能：

1.  **广泛的指令支持**：
    优化覆盖了项目要求的SVE的 **gather-load** (`ld1h`, `ld1w`, `ld1d`, `ldff1`等), **scatter-store** (`st1h`, `st1w`, `st1d`等), 和 **prefetch** (`prfw`等) 指令的多种变体。

2.  **处理多种偏移类型**：
    *   **常量偏移**：能够追踪由一或多个 `svadd` 常量构成的计算链，并将累加的常量偏移外提。
    *   **循环不变量偏移**：能够识别出来自循环外GPR寄存器的偏移量，并将其计算外提。这在处理多维数组访问等场景时非常有用。
    *   **混合偏移**：支持同时优化包含常量和循环不变量GPR的混合偏移场景。

3.  **相关的强度削弱优化**：
    额外实现了一个针对SVE `svmul_z` 指令的强度削弱优化 ([`sveMulStrengthReduction`](https://gitee.com/openeuler/llvm-project/blob/95f1dcba1bfde823e7b6f94b208772aa267cf5ef/llvm/lib/Target/AArch64/AArch64MIPeepholeOpt.cpp#L580))。当识别到下面向量乘法模式时：
    ```cpp
    for (int jp = jp_init; jp < loopTime; jp += svcnt[w/d]()) {
        jpsv = svindex_[](jp, IndexStep);
        result = svmul_z(pgNew, jpsv, Mutipilier);
    }
    ``` 
    会将其转换为循环外初始化和循环内累加，进一步减少计算开销
    ```cpp
    new_step = IndexStep * svcnt[w/d]()
    new_offset = svindex_[](0, new_step)
    for (int jp = jp_init, base = jp_init * multipiler; jp < loopTime; jp += svcnt[w/d](), base += new_step) {
        result = svadd_z(pgNew, new_offset, base);
    }
    ```

4.  **全面的测试覆盖**：
    添加了详尽的单元测试 (`llvm/test/CodeGen/AArch64/aarch64-sve-addressing-peephole.ll`)，覆盖了：
    *   验证各种支持的指令（gather/scatter/prefetch(gather)）和偏移模式（常量偏移/循环不变量偏移/混合偏移）能够被正确优化。
    *   验证不同数据类型（svint32_t/svint64_t/svfloat32_t/...）和寻址模式（sxtw/uxtw/lsl）等。
    *   原始代码汇编 [https://godbolt.org/z/r3dx7Keex](https://godbolt.org/z/r3dx7Keex)，优化后代码汇编 [https://godbolt.org/z/sxMK1Pn13](https://godbolt.org/z/sxMK1Pn13)

#### **整体优化实现思路**

1. SVELoopAddressHoisting 的模式匹配和转换思路
![](https://foruda.gitee.com/images/1753836954474978580/80a5345c_13008435.png "屏幕截图")

2. sveMulStrengthReduction 的模式匹配和转换思路
![](https://foruda.gitee.com/images/1753836960105277207/be07864f_13008435.png "屏幕截图")

**Checklist:**
PR格式
- [ ] PR标题简要总结修改内容
- [ ] commit message是否使用模板，请配置`git config commit.template .gitee/commit_message`
- [ ] PR是否关联issue
- [ ] PR是否设置审查人员（主要成员为[@cf-zhao](https://gitee.com/cf-zhao),[@eastb233](https://gitee.com/eastb233),[@liyunfei33](https://gitee.com/liyunfei33),[@wangqiang95](https://gitee.com/wangqiang95)）

功能验证
- 修改涉及后端架构
  - [ ] 架构无关
  - [x] AArch64
  - [ ] X86_64
  - [ ] RISC-V
  - [ ] LoongArch
  - [ ] 其他
- CI门禁
  - [x] （默认触发）基础测试
  - [ ] （可选）质量加固测试，评论关键字触发`/mtestrun`

openEuler/llvm-project .gitee-modal { width: 500px !important; }

搜索帮助

openEuler/llvm-project