Qwen3 Embedding：通过基础模型改进文本嵌入和重排序

在这项工作中，我们介绍了 Qwen3 Embedding 系列，这是基于 Qwen3 基础模型构建的，在文本嵌入和重排序能力方面相比其前身 GTE-Qwen 系列有了显著提升。利用 Qwen3 LLMs 在多语言文本理解和生成方面的强大能力，我们创新的多阶段训练流程将大规模无监督预训练与高质量数据集上的监督微调相结合。有效的模型融合策略进一步确保了 Qwen3 Embedding 系列的鲁棒性和适应性。在训练过程中，Qwen3 LLMs 不仅充当骨干模型，还在合成高质量、丰富和多样的跨多个领域和语言的训练数据方面发挥着关键作用，从而增强了训练流程。Qwen3 Embedding 系列为嵌入和重排序任务提供了不同大小的模型（0.6B、4B、8B），以应对用户可以优化效率或有效性的多样化部署场景。实证评估表明，Qwen3 Embedding 系列在各种基准上取得了最先进的结果。值得注意的是，它在用于文本嵌入的多语言评估基准 MTEB 以及各种检索任务（包括代码检索、跨语言检索和多语言检索）中表现出色。为了促进可复现性并推动社区驱动的研究和开发，Qwen3 Embedding 模型已在 Apache 2.0 许可下公开提供。