tools/model_convert/README.md · Ascend/RecSDK

## **模型转换工具使用说明**

-----------------
### **工具简介**：

将基于Rec SDK+NPU训练保存下来的NPU格式的稀疏表，转换为可被GPU、CPU加载使用的格式。

### **环境依赖**

该工具在tf1/tf2环境上进行测试，两种环境配置如下，供用户参考：

> **tf1**
 
tensorflow == 1.15.0 / 1.15.4 
numpy == 1.21.6 
python == 3.7.5

> **tf2**
 
tensorflow == 2.6.5 
numpy == 1.19.5 
python == 3.7.5

### **使用说明**：

**使用范例：**

示例如下： 
`python3 model_convert.py --input_path=./saved_model --output_path=./saved-model-out --rank_size=8 --estimator=1 --ddr=1`

打屏日志输出 `convert model success.` 代表模型成功转换完成。

**参数解释：**

`input_path`:   类型：`str`。 NPU格式的模型保存路径。

特别说明：
    1）estimator模式下，在NPU+Rec SDK训练模型阶段，模型保存路径请设置为：
    model_dir = {路径}/{get_rank_id()} 
    示例如下：
    
    from mx_rec.util.initialize import get_rank_id  
    model_dir = f"{params.model_ckpt_dir}/{get_rank_id()}"

此时在进行模型转换的时候，input_path 填写{param.model_ckpt_dir}即可

2）session run模式下，在NPU+Rec SDK训练模型阶段，模型保存路径请设置为：
    path = {模型路径}/model-{get_rank_id()}
    示例如下：
    
    from mx_rec.utilinitialize import get_rank_id   
    self.saver.save(self.session, f"./saved-model/model-{self.rank_id}", global_step=i)  
    
    此时在进行模型转换的时候，input_path 填写./saved-model即可。

`output_path`:  类型：`str`。 转换后CPU/GPU 格式输出的路径。该参数可以用户自行设置，若该模型输出路径不存在，会新建目录。

`rank_size`: 类型：`int`。 NPU+Rec SDK训练模型时所用的卡数。范围为[1,16]

`estimator`:  类型：`int`。是否使用Tensorflow的estimator模式。默认值为0。0代表不使用estimator模式，1代表使用estimator模式。

estimator 使用参考链接：
    https://www.tensorflow.org/guide/estimator?hl=zh-cn

`ddr`: 类型：`int`。是否采用Rec SDK的ddr模式。默认值为0。0代表使用片上内存模式，1代表使用DDR模式。

`dynamic_expansion`: 类型：`int`。是否采用动态扩容模式进行训练。默认值为0。0代表不使用动态扩容，1代表使用动态扩容。 
Rec SDK的ddr模式使用请参考《Rec SDK用户指南》。

**加载说明：**

由于tf1\tf2接口更迭，故本工具在编码时tf1\tf2采取的接口不同。 在加载的时候根据tf版本情况采用不同的加载接口。示例如下:

- tf1
 
```python
restore_table = tf.contrib.lookup.MutableHashTable(
 key_dtype=tf.int64, 
 value_dtype=tf.float32,  
     default_value=initialize_value,  
 name=args.table_name,  
 checkpoint=True)

with tf.Session() as sess:  
    saver = tf.train.Saver()  
    saver.restore(sess, args.path + "/model.ckpt-0"）  
    lookup_embedding = restore_table.lookup(key)  
```

- tf2
```python
restore_table = tf.lookup.experimental.MutableHashTable(
            key_dtype=tf.int64, 
            value_dtype=tf.float32,  
            default_value=np.zeros((240,)),  
            name="deep_sparse_table")  
 
restore_table1 = tf.lookup.experimental.MutableHashTable(
            key_dtype=tf.int64, 
            value_dtype=tf.float32,  
            default_value=np.zeros((37,)),  
            name="wide_sparse_table")

# 这里restore table的顺序需与保存的顺序保持一致，保存的顺序在模型转换的时候会输出

checkpoint = tf.train.Checkpoint(table_list=[restore_table,restore_table1])  
manager = tf.train.CheckpointManager(checkpoint, directory=args.path, max_to_keep=3)  
checkpoint.restore(manager.latest_checkpoint)  
 
lookup_embedding = restore_table1.lookup(key)  
```

Ascend/RecSDK
暂停

简介

发行版 (6)

贡献者

语言

近期动态

Ascend/RecSDK暂停 .gitee-modal { width: 500px !important; }

简介

发行版 (6)

开源评估指数源自 OSS-Compass 评估体系，评估体系围绕以下三个维度对项目展开评估：

贡献者

语言

近期动态

搜索帮助

Ascend/RecSDK
暂停