语义嵌入
概述
语义嵌入是将文本转换为高维向量表示的技术,捕获文本的语义关系和意图相似性,是现代 RAG 系统的核心检索机制之一。
关键内容
-
工作原理:通过嵌入模型(如 Gemini Text 004、Voyage 系列)将文本块转换为向量,使语义相似的文本在向量空间中距离更近。
-
优势:擅长理解查询意图和上下文相似性,能捕捉同义词、 paraphrase 等语义关系。
-
局限性:对精确词汇/标识符匹配能力有限,如查询"错误代码 TS-999"可能错过精确匹配。
-
与 BM25 互补:语义嵌入 + BM25 形成传统 RAG 的双引擎混合检索机制。
-
上下文检索增强:在嵌入前添加语境前缀,所有测试的嵌入模型均有提升效果,Gemini Text 004 和 Voyage 系列表现最佳。
来源
- 02_contextual_retrieval.md — 检索技术全栈解析章节