2.5K Star 8.3K Fork 4.6K

GVPMindSpore/mindspore

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
mindspore.train.FlopsUtilizationCollector.rst 1.55 KB
一键复制 编辑 原始数据 按行查看 历史
i-robot 提交于 2024-08-21 08:06 . !73983modify docs errors

mindspore.train.FlopsUtilizationCollector

.. py:class:: mindspore.train.FlopsUtilizationCollector(data_size, computility=1, full_flops=True)

    FlopsUtilizationCollector接口统计模型利用率信息MFU,硬件利用率信息HFU。
    当前接口只统计MatMul、BatchMatMul、FlashAttentionScore、Conv2D算子的正反向flops信息。
    只支持静态图静态shape模式。

    参数:
        - **data_size** (int) - 表示每隔多少个step打印一次信息。

        - **computility** (int) - 表示每张计算卡的峰值算力。默认值: ``1`` 。

        - **full_flops** (bool) - 表示是否统计完整的模型信息,如果设置为True,会统计完整的模型信息,如果设置为False,将会统计对应每张卡的分片模型信息。默认值: ``True`` 。

    异常:
        - **TypeError** - `data_size` 不是正整数。
        - **TypeError** - `full_flops` 不是布尔类型。
        - **AssertionError** - 训练模式不是静态图或者不是静态shape。

    .. py:method:: step_begin(run_context)

        在step开始时记录时间。

        参数:
            - **run_context** (RunContext) - 包含模型的相关信息。详情请参考 :class:`mindspore.train.RunContext`。

    .. py:method:: step_end(run_context)

        在step结束时打印模型利用率信息MFU,硬件利用率信息HFU。

        参数:
            - **run_context** (RunContext) - 包含模型的相关信息。详情请参考 :class:`mindspore.train.RunContext`。
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/mindspore/mindspore.git
git@gitee.com:mindspore/mindspore.git
mindspore
mindspore
mindspore
master

搜索帮助