15 Star 59 Fork 82

MindSpore/golden-stick

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
克隆/下载
mindspore_gs.ptq.GPTQQuantConfig.rst 1.20 KB
一键复制 编辑 原始数据 按行查看 历史
huangzhuo 提交于 2025-01-24 16:58 +08:00 . modify ptqconfig docs

mindspore_gs.ptq.GPTQQuantConfig

.. py:class:: mindspore_gs.ptq.GPTQQuantConfig(block_size=128, desc_act=False, damp_percent=0.01, static_groups=False)

    用于配置 GPTQ 量化算法的数据类。

    参数:
        - **block_size** (int,可选) - 表示 GPTQ 算法在补偿时分块的大小。默认值: ``128``。
        - **desc_act** (bool,可选) - 表示是否对海森矩阵进行重要性排序。默认值: ``False``。
        - **damp_percent** (float,可选) - 表示在数值稳定计算时,海森矩阵对角线元素平均值的百分比。默认值: ``0.01``。
        - **static_groups** (bool,可选) - 表示是否在精度补偿之前进行 per_group 计算。默认值: ``False``。

    异常:
        - **TypeError** - `block_size` 输入不是 int 类型。
        - **TypeError** - `desc_act` 输入不是 bool 类型。
        - **TypeError** - `damp_percent` 输入不是 float 类型。
        - **TypeError** - `static_groups` 输入不是 bool 类型。
        - **ValueError** - `block_size` 输入的值小于0。
        - **ValueError** - `damp_percent` 输入的值小于0,或者大于1。
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/mindspore/golden-stick.git
git@gitee.com:mindspore/golden-stick.git
mindspore
golden-stick
golden-stick
master

搜索帮助