Update the shared and local promotion strategy · Pull Request !556 · MindSpore/akg

<!--  Thanks for sending a pull request!  Here are some tips for you:

If this is your first time, please read our contributor guidelines: https://gitee.com/mindspore/akg/blob/master/CONTRIBUTING.md
-->

**What type of PR is this?**
> Uncomment only one ` /kind <>` line, hit enter to put that in a new line, and remove leading whitespaces from that line:
>
> /kind feature

**What does this PR do / why do we need it**:
目前数据搬移策略存在以下几种缺点:

- 根据depth提升的可读性较差,无法直观的从schedule_tree上定位出提升位置,除此之外,matmul算子是按照mark节点来确认提升位置,导致代码中存在多种提升方案,扩展性较差
- 若当前算子存在多个tensor需要被提升,并且每个tensor的提升位置均不相同,目前方案会调用多次提升核心函数,重复进行相同工作
- shared对只读tensor提升,local对既读又写tensor提升,这一策略没有理论支撑,而且对于大部分中间tensor不会被提升,导致结果错误

针对以上缺点,提升逻辑如下:

- 将创建提升tensor和核心提升逻辑拆分: 为了提升代码的可读性和可扩展性,将数据搬移阶段两个核心策略拆分为:CreateCluster和HoistClusters
- 提升tensor优先级: 由于shared内存大小有限,因此一些tensor可能无法被提升,所以需要为所有tensor设置优先级,在确保算子正确性的前提下尽可能的提升算子的性能
- 按照marker提升: 将所有按照depth提升的逻辑删除,替换为按照marker提升
- 核心提升逻辑: shared: 多个thread访问同一块数据或者不满足合并访问;register: 同一个thread多次访问同一块数据,对于中间tensor来说,如果满足shared的提升策略有限提升到shared上,否则提升到local上

![输入图片说明](https://images.gitee.com/uploads/images/2022/0225/180917_f3573a31_7432416.png "屏幕截图.png")

**Which issue(s) this PR fixes**:

Fixes #https://gitee.com/mindspore/akg/issues/I4PPTE

**Special notes for your reviewers**:

MindSpore/akg关闭 .gitee-modal { width: 500px !important; }

搜索帮助

MindSpore/akg
关闭