多语言、非自回归的 System 1 决策模型。只需输入状态信息（文本、电子邮件、工单或 JSON）以及类型化问题；模型即可在单次前向传播中（耗时约 33 毫秒）返回经过数学校准且附带概率分布的类型化答案，原生支持 100 多种语言。

模型采用严格适当评分规则（Strictly Proper Scoring Rules）通过强化学习（RLCD）训练而成，因此输出真实准确的概率是模型获取最大化奖励的唯一途径。该模型绝不生成自由文本，从而完全消除了文本解析的开销以及幻觉产生的可能。

Model Farm 提供预编译好的模型资源以及推理代码，支持以下两种方式获取：

• 通过 Model Farm 页面获取：在右侧性能参考板块中点击模型 & 代码获取模型资源及代码包。

• 通过命令获取（推荐）：持有阿加犀开发板的用户，可以通过开发板内置的 MMS 工具获取模型资源及代码包。

# 模型查询
mms list [model name]

# 模型资源获取
mms get -m [model name] -p [precision] -c [soc] -b [backend] -d [file path]

MMS 具体使用请参考：MMS 使用 & 提前获取预览版块模型

当用户对源模型进行过微调，需要重新进行模型转换。

用户可以自行参考以下两种方式完成模型转换：

• 使用 AIMO 完成模型转换：在右侧性能参考板块中点击模型转换参考查看模型转换步骤

• 使用高通 QNN 完成模型转换：请参考 Qualcomm QNN 文档

Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。

对于模型文件格式为 .bin 的模型，可以使用以下两种推理引擎完成模型在高通芯片上推理：

• 使用 APLUX AidLite 推理：详情请参考 APLUX AidLite 开发者文档

• 使用 Qualcomm QNN 推理：请参考 Qualcomm QNN 文档

推理示例代码

推理示例代码是基于 AidLite SDK 实现

点击模型 & 代码下载模型文件和推理代码包，文件结构如下

/{model_name}_{SoC Name}_{Precision}
    
    |__ models # folder where model files are stored    
    
    |__ code # aidlite python model inference example

        |__ python # aidlite python model inference example

        |__ cpp # aidlite cpp model inference example

        |__ README.md