MTEB 多语言榜单全球第一:腾讯开源百亿参数模型 KaLM-Embedding

抖音秀 热点资讯 6

11 月 12 日消息,腾讯开源官方公众号今日宣布:来自腾讯微信团队的 KaLM-Embedding开源模型再创全球新纪录。在最新发布的 MTEB多语言通用 Embedding 模型权威评测中,新一代通用 Embedding 模型KaLM-Embedding-Gemma3-12B-2511综合成绩全球第一。


在涵盖全球 1038 种语言、共计 131 项任务的权威多语言评测体系 MTEB 中,KaLM-Embedding-Gemma3-12B-2511综合得分分别达到 72.32(Mean Task)与 62.51(Mean TaskType),获全球第一。

据腾讯开源介绍,在大模型技术快速发展的背景下,语义理解能力成为人工智能系统落地的关键。Embedding 模型作为实现语义编码的核心技术,通过将文本转化为高维向量,支持非结构化内容可度量、可检索的特性,为上层应用提供基础支撑。

在 RAG(检索增强生成)等主流架构中,Embedding 模型能够从海量知识库中精准检索语义相关信息,动态构建高质量上下文,有效提升大模型生成结果的准确性与可靠性,抑制“幻觉”现象。

此外,Embedding 技术还应用于文本分类、语义匹配、信息聚类、搜索推荐、多语言理解等多个领域,成为现代 AI 系统中不可或缺的语义基础组件。

附 KaLM-Embedding-Gemma3-12B-2511核心亮点如下:

  • 模型规模:参数量提升至 120 亿(12B),是当前 MTEB 榜单上最大规模的 Embedding 模型之一,显著增强了模型的表示能力与泛化性能。

  • 跨语言能力:在多语言语义对齐方面实现显著优化,支持更精准的跨语种语义理解与检索任务。

  • 数据质量:基于经过深度清洗与筛选的大规模高质量语料进行训练,有效提升语义表示的一致性与可靠性。

  • 训练策略:采用多阶段对比学习、Embedding 蒸馏和模型参数融合等技术,进一步提升模型多维度能力表现与综合性能。

  • 维度嵌套:支持多种向量维度选择,涵盖 3840、2048、1024、512、256、128 及 64 等多个层级,满足不同场景下的高效应用需求。

百亿参数模型 KaLM-Embedding 获取、技术论文等如下:

  • 模型获取:https://huggingface.co/tencent/KaLM-Embedding-Gemma3-12B-2511

  • 讨论反馈:https://huggingface.co/tencent/KaLM-Embedding-Gemma3-12B-2511/discussions

  • 技术论文:https://arxiv.org/abs/2506.20923

  • 开源协议:采用 MIT 许可证,支持商业用途,助力技术广泛传播与应用。