Whisper-Small-En
语音识别
FP16

Whisper-Small-En:语音识别
Whisper‑Small‑En 是 OpenAI Whisper 系列中的英语专用中型模型,拥有约 244M 参数,通过专门的 small.en 检查点优化英语语音识别性能。该模型在 680 k 小时的标注语音上训练(包括英文)、支持最长 30 秒音频输入,并具有英语任务上的稳健表现。
- 参数统计:
- Encoder:102M 参数,模型大小约 390 MB
- Decoder:139M 参数,模型大小约 531 MB
- 推理速度:≈2.17 次/s,吞吐量 110–141 MB,延迟约 500–700 ms(取决于设备)
- 应用场景:适用于实时字幕、语音助手、会议转写等,对中等设备性能(如手机、AI 芯片)友好
源模型工程请访问:Whisper-Small-En
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小
模型资源获取
Model Farm 提供预编译好的模型资源以及推理代码,支持以下两种方式获取:
通过 Model Farm 页面获取:在右侧性能参考板块中点击模型 & 代码获取模型资源及代码包。
通过命令获取(推荐):持有阿加犀开发板的用户,可以通过开发板内置的 MMS 工具获取模型资源及代码包。
# 模型查询
mms list [model name]
# 模型资源获取
mms get -m [model name] -p [precision] -c [soc] -b [backend] -d [file path]
MMS 具体使用请参考:MMS 使用 & 提前获取预览版块模型
模型转换
当用户对源模型进行过微调,需要重新进行模型转换。
用户可以自行参考以下两种方式完成模型转换:
使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤
使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档
模型推理
Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。
对于模型文件格式为 .bin 的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:
使用 APLUX AidLite 推理:详情请参考 APLUX AidLite 开发者文档
使用 Qualcomm QNN 推理:请参考 Qualcomm QNN 文档
推理示例代码
推理示例代码是基于 AidLite SDK 实现
点击模型 & 代码下载模型文件和推理代码包,文件结构如下
/model_farm_{model_name}_aidlite
|__ models # folder where model files are stored
|__ python # aidlite python model inference example
|__ cpp # aidlite cpp model inference example
|__ README.md
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小