# CornerNet-Lite-TRT

**Repository Path**: crouchggj/corner-net-lite-trt

## Basic Information

- **Project Name**: CornerNet-Lite-TRT
- **Description**: No description available
- **Primary Language**: C++
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 2
- **Forks**: 1
- **Created**: 2021-04-19
- **Last Updated**: 2022-05-24

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

## build
```bash
mkdir build && cd build && cmake .. && make -j 8

```

## 拷贝量化数据集
```bash
cp  ../benchmark/int8_cache.CNLite  .
```
## 模型转换
```bash
CornetNetLiteTrtExec  onnx模型  batch_size  enableint8(0:fp32, 1:int8)
```

## 模型转换Sample
```bash
./CornetNetLiteTrtExec CornerNet_Saccade.onnx 1  0
```

## 推理
```bash
./TrtInference  cn_lite_trt.plan ../benchmark/data.npy
```

生成结果为9个numpy文件，分别对应atts0, atts1, atts2, tl_heat, br_heat, tl_tag, br_tag, tl_off, br_off, 可通torch输出的结果比较

如果运行多batch，修改修改trt_inference.cpp 110行
context->enqueue(1, dpBuf.data(), stream, nullptr);
第一个参数为对应的batch

## 模型链接
链接: https://pan.baidu.com/s/1lSRFs6Fb_EgGFLFeVl3rqw 提取码: i2pg