Mask2Former
语义分割
W8A16
FP16
INT8
post
Mask2Former:语义分割

Mask2Former 是由Meta AI于2022年提出的通用图像分割框架,统一支持实例分割、语义分割和全景分割任务。其核心创新在于引入基于Transformer的解码器,通过可学习的“掩膜查询”机制动态生成目标掩膜,无需依赖预定义锚框或区域建议。模型采用多尺度特征增强策略,结合高分辨率特征图捕捉细节与低层级语义特征提升分类鲁棒性,并利用交叉注意力机制优化查询与图像特征的交互。在COCO、ADE20K等数据集上,Mask2Former以单一模型实现多项任务SOTA性能,尤其在复杂场景和小目标分割中表现突出。其结构灵活高效,支持端到端训练,广泛应用于自动驾驶、医学影像解析及遥感图像分析等领域,推动分割技术迈向统一化与高性能化。

源模型

  • 输入尺寸: 1x3x384x384
  • 参数量: 45.24M
  • 模型大小: 200.1M
  • 输出尺寸:[[1,100],[1,100],[1,100,96,96]]

源模型工程请访问:mask2former-swin-tiny-coco-panoptic

性能参考

设备

AI框架
数据精度
推理耗时
精确度损失
模型大小
模型资源获取

Model Farm 提供预编译好的模型资源以及推理代码,支持以下两种方式获取:

  • 通过 Model Farm 页面获取:在右侧性能参考板块中点击模型 & 代码获取模型资源及代码包。

  • 通过命令获取(推荐):持有阿加犀开发板的用户,可以通过开发板内置的 MMS 工具获取模型资源及代码包。

# 模型查询
mms list [model name]

# 模型资源获取
mms get -m [model name] -p [precision] -c [soc] -b [backend] -d [file path]

MMS 具体使用请参考:MMS 使用 & 提前获取预览版块模型

模型转换

当用户对源模型进行过微调,需要重新进行模型转换。

用户可以自行参考以下两种方式完成模型转换:

  • 使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤

  • 使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档

模型推理

Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。

对于模型文件格式为 .bin 的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:

推理示例代码

推理示例代码是基于 AidLite SDK 实现

点击模型 & 代码下载模型文件和推理代码包,文件结构如下

/model_farm_{model_name}_aidlite
    
    |__ models # folder where model files are stored

    |__ python # aidlite python model inference example

    |__ cpp # aidlite cpp model inference example

    |__ README.md
许可证
源模型许可证:APACHE-2.0
可部署模型许可证:APLUX-MODEL-FARM-LICENSE
性能参考

设备

AI框架
数据精度
推理耗时
精确度损失
模型大小