YOLO-NAS 是基于神经架构搜索（NAS）技术优化的新一代实时目标检测模型，通过自动化搜索策略平衡精度与推理速度，显著提升复杂场景下的检测性能。其核心采用混合量化感知架构，结合重参数化模块与动态稀疏注意力机制，在减少计算量的同时增强小目标及遮挡目标的识别能力。模型通过多目标优化（如延迟、参数量、mAP）搜索出高效网络结构，支持FP16/INT8量化部署，在COCO数据集上较YOLOv8提升约5% mAP，推理速度在移动端GPU上可达80+FPS。适用于自动驾驶、视频监控等实时检测场景，兼顾边缘设备资源限制与高精度需求，提供灵活的速度-精度权衡方案。

源模型

• 输入尺寸: 1x3x640x640
• 参数量: 40.06M
• 模型大小: 160.37M
• 输出尺寸：1x8400x4, 1x8400x80

源模型工程请访问：YOLO-NAS

当用户对源模型进行过微调，需要重新进行模型转换。

用户可以自行参考以下两种方式完成模型转换：

• 使用 AIMO 完成模型转换：在右侧性能参考板块中点击模型转换参考查看模型转换步骤

• 使用高通 QNN 完成模型转换：请参考 Qualcomm QNN 文档

Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。

对于模型文件格式为 .bin 的模型，可以使用以下两种推理引擎完成模型在高通芯片上推理：

使用 AidLite SDK 推理

详情请参考AidLite开发者文档

• 安装AidLite SDK

# install aidlite sdk c++ api
sudo aid-pkg -i aidlite-sdk

# install aidlite sdk python api
python3 -m pip install pyaidlite -i https://mirrors.aidlux.com --trusted-host mirrors.aidlux.com

• 验证AidLite SDK

# aidlite sdk c++ check
python3 -c "import aidlite; print(aidlite.get_library_version())"

# aidlite sdk python check
python3 -c "import aidlite; print(aidlite.get_py_library_version())"

使用 QualComm QNN 推理

请参考 Qualcomm QNN 文档

推理示例代码

推理示例代码是基于 AidLite SDK 实现

• 点击模型 & 代码下载模型文件和推理代码包，文件结构如下

/model_farm_{model_name}_aidlite
    
    |__ models # folder where model files are stored

    |__ python # aidlite python model inference example

    |__ cpp # aidlite cpp model inference example

    |__ README.md