# torq-model-zoo

**Repository Path**: zhcomputing/torq-model-zoo

## Basic Information

- **Project Name**: torq-model-zoo
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 3
- **Forks**: 0
- **Created**: 2025-08-21
- **Last Updated**: 2026-04-02

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# TORQ Model Zoo

## 简介

TORQ Model Zoo 基于 `知合 SDK` 工具链开发，提供了目前主流算法的部署例程。例程涵盖从模型导出到推理部署的完整流程，包括：

- 使用 `torq-toolkit` 进行模型量化与导出
- 使用 CAPI 进行高性能模型推理
- 支持 CNN 视觉模型与大语言模型（LLM）的端侧部署

目前支持的任务类型包括图像分类、物体检测、姿态估计、文本生成及视觉多模态理解，覆盖 `A200`、`A210` 平台。


## 模型支持说明

| 类别 | 名称 | 量化类型 |
| --- | --- | --- |
| 图像分类 | mobilenet | UINT8/INT8/FP16/BF16 |
| 物体检测 | yolov5 | UINT8/INT8/FP16/BF16 |
| 物体检测 | yolov8 | UINT8/INT8/FP16/BF16 |
| 物体检测 | yolo11 | UINT8/INT8/FP16/BF16 |
| 物体检测 | yolo12 | UINT8/INT8/FP16/BF16 |
| 物体检测 | yolo26 | UINT8/INT8/FP16/BF16 |
| 姿态估计 | yolov8_pose | UINT8/INT8/FP16/BF16 |
| 姿态估计 | yolo11_pose | UINT8/INT8/FP16/BF16 |
| 文本大模型 | qwen3 | W4A16~W8A16 |
| 视觉大模型 | qwen3-vl | W4A16~W8A16 |


## 模型性能测试(FPS)

以下数据基于 A210 平台，NPU@1.0GHz，DDR@4266MT/s

| 模型名称                            | 输入尺寸                 | 数据类型 | FPS    |
| ----------------------------------- | ------------------------ | -------- | ------ |
| mobilenetv2-12                      | [1, 3, 224, 224]         | UINT8 | 847.48 |
| resnet50v1.5                        | [1, 3, 224, 224]         | UINT8 | 617    |
| resnet101_v11                       | [1, 3, 224, 224]         | UINT8 | 289.18 |
| yolov5s_relu                        | [1, 3, 640, 640]         | UINT8 | 238.1  |
| yolov5s                             | [1, 3, 640, 640]         | UINT8 | 181.8  |
| yolov8s_relu                        | [1, 3, 640, 640]         | UINT8 | 169.5  |
| yolov8n                             | [1, 3, 640, 640]         | UINT8 | 336.11 |
| yolov8s                             | [1, 3, 640, 640]         | UINT8 | 143.51 |
| yolov8m                             | [1, 3, 640, 640]         | UINT8 | 69.07  |
| yolo11n                             | [1, 3, 640, 640]         | UINT8 | 232.73 |
| yolo11s                             | [1, 3, 640, 640]         | UINT8 | 112.76 |
| yolo11m                             | [1, 3, 640, 640]         | UINT8 | 53.46  |
| yolov8n-pose                        | [1, 3, 640, 640]         | UINT8 | 223.63 |
| yolov8s-pose                        | [1, 3, 640, 640]         | UINT8 | 114.09 |
| yolov8m-pose                        | [1, 3, 640, 640]         | UINT8 | 61.45  |
| yolo11n-pose                        | [1, 3, 640, 640]         | UINT8 | 170.68 |
| yolo11s-pose                        | [1, 3, 640, 640]         | UINT8 | 94.6   |
| yolo11m-pose                        | [1, 3, 640, 640]         | UINT8 | 47.96  |
| yolo12n                             | [1, 3, 640, 640]         | UINT8 | 68.5   |
| yolo12s                             | [1, 3, 640, 640]         | UINT8 | 33.0   |
| yolo26n                             | [1, 3, 640, 640]         | UINT8 | 189.0  |
| yolo26s                             | [1, 3, 640, 640]         | UINT8 | 98.0   |


## Demo 使用说明

参考: [AI 快速上手](https://developer.zhcomputing.com/docs/SDK/Quick-start-guide/AI_quick_start_guide)


## 许可证

[Apache License 2.0](./LICENSE)