
PP-OCRv6-Small 是百度飞桨团队推出的第六代超轻量级文本识别模型。该模型在经典“检测-分类-识别”三阶段管线的基础上,深度融合了最新的轻量化视觉 Transformer(ViT)算子与动态自适应特征对齐技术。通过对骨干网络进行极致的裁剪与参数重构,PP-OCRv6-Small 在不牺牲推理速度的前提下,大幅攻克了倾斜文本、艺术字体及工业场景中反光、暗光等极端文字识别的痛点。该模型原生支持算子级的高效量化与硬件级并行,体积紧凑且吞吐量极高,是智能相机、边缘计算网关、智慧物流手持终端等 AIoT 边缘算力平台实现本地高精度、低延迟文本结构化提取的全新利器。
源模型
- 输入尺寸: det 1x3x480x480, rec 1x3x48x320
- 参数量: det 2.45M, rec 5.27M
- 模型大小: det 9.42M,rec 20.18M
- 输出尺寸:det 1x480x480x1, rec 1x40x18710
源模型仓库:PaddleOCR
Model Farm 提供预编译好的模型资源以及推理代码,支持以下两种方式获取:
通过 Model Farm 页面获取:在右侧性能参考板块中点击模型 & 代码获取模型资源及代码包。
通过命令获取(推荐):持有阿加犀开发板的用户,可以通过开发板内置的 MMS 工具获取模型资源及代码包。
# 模型查询
mms list [model name]
# 模型资源获取
mms get -m [model name] -p [precision] -c [soc] -b [backend] -d [file path]
MMS 具体使用请参考:MMS 使用 & 提前获取预览版块模型
当用户对源模型进行过微调,需要重新进行模型转换。
用户可以自行参考以下两种方式完成模型转换:
使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤
使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档
Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。
对于模型文件格式为 .bin 的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:
使用 APLUX AidLite 推理:详情请参考 APLUX AidLite 开发者文档
使用 Qualcomm QNN 推理:请参考 Qualcomm QNN 文档
推理示例代码
推理示例代码是基于 AidLite SDK 实现
点击模型 & 代码下载模型文件和推理代码包,文件结构如下
/{model_name}_{SoC Name}_{Precision}
|__ models # folder where model files are stored
|__ code # aidlite python model inference example
|__ python # aidlite python model inference example
|__ cpp # aidlite cpp model inference example
|__ README.md