中文|English

Siamese TensorFlow离线推理

此存储库提供了推断模型的脚本和方法。原始训练推理实施请遵循以下链接：Siamese_for_Tensorflow and in this repo we trained a model for Phrase Similarity.

注意

此案例仅为您学习Ascend软件栈提供参考，不用于商业目的。

在开始之前，请注意以下适配条件。如果不匹配，可能导致运行失败。

快速指南

1. 拷贝代码

git clone https://gitee.com/ascend/ModelZoo-TensorFlow.git
cd Modelzoo-TensorFlow/ACL_TensorFlow/contrib/cv/Siamese_for_ACL

2. 下载数据集和预处理

1. 当训练完成, validation.txt0 和 vocab 在 runs/xxxx/checkpoints/ 下面生成. 复制到这个路径 scripts/dataset 。

2. 验证数据集的预处理:

cd scripts
python3 data_preprocess.py

将生成 input_x1, input_x2, ground_truth directories with batchsize 128:

input_x1
|___000000.bin
|___000001.bin
...

input_x2
|___000000.bin
|___000001.bin
...

ground_truth
|___000000.txt
|___000001.txt
...

3. 离线推理

离线模型转换

• 环境变量设置

  请参考说明，设置环境变量

pb模型下载链接

• Pb模型转换为om模型

  atc --model=siamese_tf.pb --framework=3 --output=siamese_tf_128batch --output_type=FP32 --soc_version=Ascend310 --input_shape="input_x1:128,15;input_x2:128,15" --log=info --precision_mode=allow_fp32_to_fp16
  

• 编译程序

  bash build.sh
  

  将在路径下生成可执行文件 benchmark : Benchmark/output/

• 开始运行:

  cd scripts
  bash benchmark_tf.sh
  

推理结果

结果

本结果是通过运行上面适配的推理脚本获得的。要获得相同的结果，请按照《快速指南》中的步骤操作。

推理精度结果

参考

[1] https://github.com/dhwajraj/deep-siamese-text-similarity