
YOLO-NAS 是基于神经架构搜索(NAS)技术优化的新一代实时目标检测模型,通过自动化搜索策略平衡精度与推理速度,显著提升复杂场景下的检测性能。其核心采用混合量化感知架构,结合重参数化模块与动态稀疏注意力机制,在减少计算量的同时增强小目标及遮挡目标的识别能力。模型通过多目标优化(如延迟、参数量、mAP)搜索出高效网络结构,支持FP16/INT8量化部署,在COCO数据集上较YOLOv8提升约5% mAP,推理速度在移动端GPU上可达80+FPS。适用于自动驾驶、视频监控等实时检测场景,兼顾边缘设备资源限制与高精度需求,提供灵活的速度-精度权衡方案。
源模型
- 输入尺寸: 1x3x640x640
- 参数量: 11.63M
- 模型大小: 46.61M
- 输出尺寸:1x8400x4, 1x8400x80
源模型工程请访问:YOLO-NAS
Model Farm 提供预编译好的模型资源以及推理代码,支持以下两种方式获取:
通过 Model Farm 页面获取:在右侧性能参考板块中点击模型 & 代码获取模型资源及代码包。
通过命令获取(推荐):持有阿加犀开发板的用户,可以通过开发板内置的 MMS 工具获取模型资源及代码包。
MMS 具体使用请参考:MMS 使用 & 提前获取预览版块模型
当用户对源模型进行过微调,需要重新进行模型转换。
用户可以自行参考以下两种方式完成模型转换:
使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤
使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档
Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。
对于模型文件格式为 .bin 的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:
使用 APLUX AidLite 推理:详情请参考 APLUX AidLite 开发者文档
使用 Qualcomm QNN 推理:请参考 Qualcomm QNN 文档
推理示例代码
推理示例代码是基于 AidLite SDK 实现
点击模型 & 代码下载模型文件和推理代码包,文件结构如下
/model_farm_{model_name}_aidlite
|__ models # folder where model files are stored
|__ python # aidlite python model inference example
|__ cpp # aidlite cpp model inference example
|__ README.md