美文网首页AIGC&ChatGPT
向量检索为核心的 RAG 架构

向量检索为核心的 RAG 架构

作者: 求知笔记 | 来源:发表于2023-12-13 10:24 被阅读0次

RAG 检索环节中的主流方法是向量检索,即语义相关度匹配的方式。技术原理是通过将外部知识库的文档先拆分为语义完整的段落或句子,并将其转换(Embedding)为计算机能够理解的一串数字表达(多维向量),同时对用户问题进行同样的转换操作。

计算机能够发现用户问题与句子之间细微的语义相关性,比如 “猫追逐老鼠” 和 “小猫捕猎老鼠” 的语义相关度会高于 “猫追逐老鼠” 和 “我喜欢吃火腿” 之间的相关度。在将相关度最高的文本内容查找到后,RAG 系统会将其作为用户问题的上下文一起提供给大模型,帮助大模型回答问题。
除了能够实现复杂语义的文本查找,向量检索还有其他的优势:

  • 相近语义理解(如老鼠/捕鼠器/奶酪,谷歌/必应/搜索引擎)
  • 多语言理解(跨语言理解,如输入中文匹配英文)
  • 多模态理解(支持文本、图像、音视频等的相似匹配)
  • 容错性(处理拼写错误、模糊的描述)

虽然向量检索在以上情景中具有明显优势,但有某些情况效果不佳。比如:

  • 搜索一个人或物体的名字(例如,伊隆·马斯克,iPhone 15)
  • 搜索缩写词或短语(例如,RAG,RLHF)
  • 搜索 ID(例如, gpt-3.5-turbo , titan-xlarge-v1.01 )
    而上面这些的缺点恰恰都是传统关键词搜索的优势所在,传统关键词搜索擅长:
  • 精确匹配(如产品名称、姓名、产品编号)
  • 少量字符的匹配(通过少量字符进行向量检索时效果非常不好,但很多用户恰恰习惯只输入几个关键词)
  • 倾向低频词汇的匹配(低频词汇往往承载了语言中的重要意义,比如“你想跟我去喝咖啡吗?”这句话中的分词,“喝”“咖啡”会比“你”“想”“吗”在句子中承载更重要的含义)

对于大多数文本搜索的情景,首要的是确保潜在最相关结果能够出现在候选结果中。向量检索和关键词检索在检索领域各有其优势。混合搜索正是结合了这两种搜索技术的优点,同时弥补了两方的缺点。
在混合检索中,你需要在数据库中提前建立向量索引和关键词索引,在用户问题输入时,分别通过两种检索器在文档中检索出最相关的文本。

不同的检索系统各自擅长寻找文本(段落、语句、词汇)之间不同的细微联系,这包括了精确关系、语义关系、主题关系、结构关系、实体关系、时间关系、事件关系等。可以说没有任何一种检索模式能够适用全部的情景。混合检索通过多个检索系统的组合,实现了多个检索技术之间的互补。

相关文章

  • 向量检索

    最近的工作开始偏向于底层向量检索算法的开发上面,但是对我而言有壁垒需要突破。 从新造轮子效率太低,一个是C++基本...

  • 向量检索排序

    2020-07-20 如何计算特征距离 欧式距离: 两点间的真实距离,值越小,说明距离越近; 余弦距离:就是两个向...

  • 实现TopK问题的三种算法

    在检索类的应用中往往实现TopK的应用,比如特征检索场景下,要对一个向量进行距离查询,输出距离最近的前10个向量。...

  • ES8.0新增KNN向量近邻检索

    向量检索将加速深度学习的落地与应用,向量检索的应用场景如下图所示,它几乎覆盖了大部分的可以应用AI的业务场景 这里...

  • Faiss - 高维向量相似度检索和聚类库

    Facebook 开源的一个高性能的高维向量相似度检索和聚类库,开源协议为 BSD license。github ...

  • 每天为你介绍一个时尚品牌~Rag & Bone

    瑞格布恩(Rag & Bone)取自英国俗语“拾荒人”(Rag and Bone Man),“收集没有人想要的东西...

  • Spring的基本使用与概念

    1、Spring架构 以容器Spring Core为核心,

  • The Concrete Distribution

    Concrete分布的核心思想是将离散变量的“状态”从顶点松弛为一个随机概率向量。 什么是随机概率向量?每个ele...

  • Milvus:Milvus2.0官方文档学习

    摘要:Milvus,矢量检索,向量数据库,Milvus Insight,Python Milvus相关概念 Mil...

  • Approximate Nearest Neighbor搜索

    典型场景:图像检索。高维检索。 本质: 很多稠密向量,要迅速找到某个点的临近点,并认为这是相似度最高的点。 原始数...

网友评论

    本文标题:向量检索为核心的 RAG 架构

    本文链接:https://www.haomeiwen.com/subject/epyvgdtx.html