Nomic-Embed-Text
文字生成
FP16

Nomic-Embed-Text
Nomic‑Embed‑Text(也称 nomic‑embed‑text‑v1/v1.5) 是一款开源长上下文文本嵌入模型,支持最多 8192 个 token 的输入长度。它在短上下文和长文本嵌入任务上的表现优于 OpenAI 的 text‑embedding‑ada‑002 和 text‑embedding‑3‑small。
- 模型架构:采用扩展上下文长度的 BERT(nomic‑bert‑2048)作为编码器,使用对比学习进行多阶段训练,并引入 Rotary 位置编码与 SwiGLU 激活函数以提升性能。
- 性能表现:在 MTEB、LoCo 等基准测试中超过其他同参数规模模型,并在长文本检索场景中表现卓越。
- 开源透明:模型权重、训练代码和数据都采用 Apache‑2.0 许可公开,支持完整审计与复现。
- 可扩展版本(v1.5):加入 Matryoshka 表征学习,允许动态调整嵌入维度(从 768 至缩减尺寸),并支持 ONNX、Torch、Transformers.js 等多种部署方式。
源模型工程请访问:Nomic-Embed-Text
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小
模型转换
当用户对源模型进行过微调,需要重新进行模型转换。
用户可以自行参考以下两种方式完成模型转换:
使用 AIMO 完成模型转换:在右侧性能参考板块中点击模型转换参考查看模型转换步骤
使用高通 QNN 完成模型转换:请参考 Qualcomm QNN 文档
模型推理
Model Farm 所提供的模型性能基准测试以及示例代码皆基于阿加犀AidLite SDK 实现。
对于模型文件格式为 .bin
的模型,可以使用以下两种推理引擎完成模型在高通芯片上推理:
使用 APLUX AidLite 推理:详情请参考 APLUX AidLite 开发者文档
使用 Qualcomm QNN 推理:请参考 Qualcomm QNN 文档
推理示例代码
推理示例代码是基于 AidLite SDK 实现
点击模型 & 代码下载模型文件和推理代码包,文件结构如下
/model_farm_{model_name}_aidlite
|__ models # folder where model files are stored
|__ python # aidlite python model inference example
|__ cpp # aidlite cpp model inference example
|__ README.md
性能参考
设备
AI框架
数据精度
推理耗时
精确度损失
模型大小