代码拉取完成,页面将自动刷新
.. py:class:: mindspore_gs.ptq.GPTQQuantConfig(block_size=128, desc_act=False, damp_percent=0.01, static_groups=False)
用于配置 GPTQ 量化算法的数据类。
参数:
- **block_size** (int,可选) - 表示 GPTQ 算法在补偿时分块的大小。默认值: ``128``。
- **desc_act** (bool,可选) - 表示是否对海森矩阵进行重要性排序。默认值: ``False``。
- **damp_percent** (float,可选) - 表示在数值稳定计算时,海森矩阵对角线元素平均值的百分比。默认值: ``0.01``。
- **static_groups** (bool,可选) - 表示是否在精度补偿之前进行 per_group 计算。默认值: ``False``。
异常:
- **TypeError** - `block_size` 输入不是 int 类型。
- **TypeError** - `desc_act` 输入不是 bool 类型。
- **TypeError** - `damp_percent` 输入不是 float 类型。
- **TypeError** - `static_groups` 输入不是 bool 类型。
- **ValueError** - `block_size` 输入的值小于0。
- **ValueError** - `damp_percent` 输入的值小于0,或者大于1。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。