2.6K Star 8.6K Fork 4.8K

GVPMindSpore/mindspore

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
mindspore.nn.MicroBatchInterleaved.rst 847 Bytes
一键复制 编辑 原始数据 按行查看 历史
冯一航 提交于 2024-11-06 11:01 . 修改了出错的文档

mindspore.nn.MicroBatchInterleaved

.. py:class:: mindspore.nn.MicroBatchInterleaved(network, interleave_num=2)

    这个函数的作用是将输入在第零维度拆成 `interleave_num` 份,然后执行包裹的cell的计算。
    使用场景:当在半自动模式以及网络中存在模型并行时,第1份的切片数据的前向计算同时,第2份的数据将会进行模型并行的通信,以此来达到通信计算并发的性能加速。

    参数:
        - **network** (Cell) - 需要封装的网络。
        - **interleave_num** (int,可选) - batch size的拆分份数,默认值: ``2`` 。

    输入:
        tuple[Tensor],与传入的 `network` 的输入一致。

    输出:
        被封装后的网络。传入的 `network` 的输出只能是单个Tensor。
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/mindspore/mindspore.git
git@gitee.com:mindspore/mindspore.git
mindspore
mindspore
mindspore
master

搜索帮助