美文网首页
一 .lucene概述

一 .lucene概述

作者: symop | 来源:发表于2020-04-21 07:25 被阅读0次

lucene各种文章介绍都有,这篇文章介绍下很多文章不曾说的为什么快,大多文章就是说倒排索引,然后就没然后了,lucene反向索引存储主要有两个文件(所谓反向信息是指词(Term) –> 文档(Document)),词典文件和词典索引文件,版本不同,后缀名称也不同,因为一个索引会包含多个字段,文件实现是按照字段排列实现,这也是为什么段一旦刷到磁盘,不可更改的原因。
词典索引文件是论文fst实现,论文链接:http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.24.3698[http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.24.3698],精确查询时,索引文件锁定大概位置,在搜索词典文件;模糊查询时,索引文件fst会转换 [NFA(不确定的有穷自动机) -> DFA(确定的有穷自动机) 的转换],这是索引文件存放在内存的原因,这也是一切查询的基石。

lucene实现的是一个基本全文检索引起应该有的功能,用到非常多的算法。
比如索引文件需要存放到内存,就会用到文本压缩、数值压缩,各种编码压缩。
取存储结果用到了数组链表的交集、并集、差集、以及topN二叉堆等。
为了快速定位文档号使用了跳表,获取相似性结果用到了编辑距离。
也用到了到分词器、状态机、空间向量模型等.
但是用到的并发并不是很多,学习并发的同志们建议学习netty。

相关文章

  • 一 .lucene概述

    lucene各种文章介绍都有,这篇文章介绍下很多文章不曾说的为什么快,大多文章就是说倒排索引,然后就没然后了,lu...

  • Lucene

    一、Lucene概述 1、Lucene简介Lucene是apache下的一个开源的全文检索引擎工具包。 2、 全文...

  • 分布式--Lucene 全文检索

    1. Lucene 官网 1). 概述 Lucene是一款高性能的、可扩展的信息检索(IR)工具库。信息检索是指文...

  • Elastic+logstash+head简单介绍

    Elastic+logstash+head简单介绍 一. 概述 ElasticSearch是一个基于Lucene的...

  • Lucene 的存储结构概述

    lucene的检索算法属于索引检索,即用空间来换取时间,对需要检索的文件、字符流进行全文索引,在检索的时候对索引进...

  • ElasticSearch介绍和基本概念

    1.Elasticsearch的概述 Elasticsearch(ES)是一个基于Lucene构建的开源、分布式、...

  • 一起来学习Elasticsearch—集群环境搭建

    一.Elasticsearch的概述: Elasticsearch是一个基于Lucene的实时的分布式搜索和分析引...

  • hadoop(1):hadoop概述

    hadoop概述 hadoop是 Doug Cutting 在 Lucene之后的一个项目主要用于 计算是一个 开...

  • 04.ElasticSearch相关安装

    ElasticSearch 一、概述 1). ES介绍 基于Lucene的搜索服务器。 提供分布式多用户能力的全文...

  • Lucene 7.4 初体验

    前言 本文的简要内容: Lucene简介 体验Lucene Demo Lucene 核心类介绍 Lucene 索引...

网友评论

      本文标题:一 .lucene概述

      本文链接:https://www.haomeiwen.com/subject/ekhyihtx.html