Whisper-Medium-En-FP16
语音识别
FP16

Whisper-Medium-En:语音识别
Whisper‑Medium‑En 是 OpenAI Whisper 系列中的高级英语专用模型,拥有约 769M 参数,专门针对纯英文语音识别任务进行了优化。该模型基于 Transformer 编码器–解码器架构,训练于 680k 小时的语音数据集(包含英文和其他语言),能够处理最长为 30 秒的音频,具备优秀的识别准确率和鲁棒性。
- 参数与模型大小:约 769M 参数,编码器和解码器分别约为 769MB 和 726MB
- 推理性能:在 Qualcomm Snapdragon 环境下,推理速度约为 0.51 次/秒,吞吐量约 249–299 MB/s
- 适用场景:适用于实时字幕、长段音频转写、会议记录、智能客服等中高端设备部署,可在嘈杂或复杂环境下保持稳定性能
源模型工程请访问:Whisper-Medium-En
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小
模型转换
当用户对源模型进行过微调,需要重新进行模型转换。
用户可以自行参考以下两种方式完成模型转换:
使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤
使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档
模型推理
Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。
对于模型文件格式为 .bin
的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:
使用 APLUX AidLite 推理:详情请参考 APLUX AidLite 开发者文档
使用 Qualcomm QNN 推理:请参考 Qualcomm QNN 文档
推理示例代码
推理示例代码是基于 AidLite SDK 实现
点击模型 & 代码下载模型文件和推理代码包,文件结构如下
/model_farm_{model_name}_aidlite
|__ models # folder where model files are stored
|__ python # aidlite python model inference example
|__ cpp # aidlite cpp model inference example
|__ README.md
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小