美文网首页
ElasticSearch

ElasticSearch

作者: 霍霍霍霍霍霍霍霍霍霍霍 | 来源:发表于2019-08-27 17:12 被阅读0次

    介绍

    ElasticSearch是一个基于Lucene的高扩展的分布式搜索服务器,支持开箱即用。他隐藏了Lucene的复杂性,对外提供Restful接口来操作索引、搜索。

    扩展性好,可部署上百台服务器集群,处理PB级数据。
    近实时的去索引数据、搜索数据。
    适合全文检索项目的开发

    索引结构

    下图是ElasticSearch的索引结构,下边黑色部分是物理结构,上边黄色部分是逻辑结构,逻辑结构也是为了更好的去描述ElasticSearch的工作原理及去使用物理结构中的索引文件。


    ES索引结构.png

    逻辑结构部分是一个倒排索引表
    1、将要搜索的文档内容分词,所有不重复的词组成分词列表。
    2、将搜索的文档最终以Document方式存储起来。
    3、每个词和docment都有关联。
    如下:


    索引表.png
    如我想要搜索quick brown,只需要查询包含每个词条的文档:
    未命名1556115600.png

    RESTful应用方法

    Elasticsearch提供RESTful Api接口进行索引、搜索、并且支持多种客户端。
    下图是es在项目中的应用方式:


    ES用法.png

    1 用户在前端搜索关键字
    2 项目前端通过http方式请求项目服务端
    3 项目服务端通过Http RESTful方式请求ES集群进行搜索
    4 ES集群从索引库检索数据。

    配置文件

    三个配置文件
    ES的配置文件的地址根据安装形式的不同而不同:
    使用zip、tar安装,配置文件的地址在安装目录的config下。
    使用RPM安装,配置文件在/etc/elasticsearch下。
    使用MSI安装,配置文件的地址在安装目录的config下,并且会自动将config目录地址写入环境变量
    ES_PATH_CONF。
    本教程使用的zip包安装,配置文件在ES安装目录的config下。
    配置文件如下:
    elasticsearch.yml : 用于配置Elasticsearch运行参数 jvm.options : 用于配置Elasticsearch JVM设置
    log4j2.properties: 用于配置Elasticsearch日志

    elasticsearch.yml

    cluster.name: hongcaiwang
    node.name: hcw_node_1
    network.host: 0.0.0.0
    http.port: 9200
    transport.tcp.port: 9300
    node.master: true
    node.data: true
    #discovery.zen.ping.unicast.hosts: ["0.0.0.0:9300", "0.0.0.0:9301", "0.0.0.0:9302"]
    discovery.zen.minimum_master_nodes: 1
    bootstrap.memory_lock: false
    node.max_local_storage_nodes: 1
    path.data: D:\ElasticSearch\elasticsearch‐6.2.1\data
    path.logs: D:\ElasticSearch\elasticsearch‐6.2.1\logs
    http.cors.enabled: true
    http.cors.allow‐origin: /.*/
    

    注意path.data和path.logs路径配置正确。

    常用的配置项如下:
    cluster.name:配置elasticsearch的集群名称,默认是elasticsearch。建议修改成一个有意义的名称。

    node.name:
    节点名,通常一台物理服务器就是一个节点,es会默认随机指定一个名字,建议指定一个有意义的名称,方便管理一个或多个节点组成一个cluster集群,集群是一个逻辑的概念,节点是物理概念

    path.conf: 设置配置文件的存储路径,tar或zip包安装默认在es根目录下的config文件夹,rpm安装默认在/etc/

    elasticsearch path.data: 设置索引数据的存储路径,默认是es根目录下的data文件夹,可以设置多个存储路径,用逗号隔开。 path.logs: 设置日志文件的存储路径,默认是es根目录下的logs文件夹

    path.plugins: 设置插件的存放路径,默认是es根目录下的plugins文件夹

    bootstrap.memory_lock: true 设置为true可以锁住ES使用的内存,避免内存与swap分区交换数据。

    network.host: 设置绑定主机的ip地址,设置为0.0.0.0表示绑定任何ip,允许外网访问,生产环境建议设置为具体的ip。 http.port: 9200 设置对外服务的http端口,默认为9200。

    transport.tcp.port: 9300 集群结点之间通信端口

    node.master: 指定该节点是否有资格被选举成为master结点,默认是true,如果原来的master宕机会重新选举新的master。

    node.data: 指定该节点是否存储索引数据,默认为true。

    discovery.zen.ping.unicast.hosts: ["host1:port", "host2:port", "..."] 设置集群中master节点的初始列表。

    discovery.zen.ping.timeout: 3s 设置ES自动发现节点连接超时的时间,默认为3秒,如果网络延迟高可设置大些。

    discovery.zen.minimum_master_nodes:主结点数量的最少值 ,此值的公式为:(master_eligible_nodes / 2) + 1 ,比如:有3个符合要求的主结点,那么这里要设置为2。

    node.max_local_storage_nodes:单机允许的最大存储结点数,通常单机启动一个结点建议设置为1,开发环境如果单机启动多个节点可设置大于1.

    jvm.optins
    设置最小及最大的JVM堆内存大小:
    在jvm.options中设置 -Xms和-Xmx:
    1) 两个值设置为相等
    2) 将 Xmx 设置为不超过物理内存的一半。

    log4j2.properties
    日志文件设置,ES使用log4j,注意日志级别的配置。

    系统配置

    在linux上根据系统资源情况,可将每个进程最多允许打开的文件数设置大些。su limit -n 查询当前文件数
    使用命令设置limit:
    先切换到root,设置完成再切回elasticsearch用户。
    也可通过下边的方式修改文件进行持久设置
    /etc/security/limits.conf
    将下边的行加入此文件:elasticsearch ‐ nofile 65536

    head插件

    head插件是ES的一个可视化管理插件,用来监视ES的状态,并通过head客户端和ES服务进行交互,比如创建映
    射、创建索引等,head的项目地址在https://github.com/mobz/elasticsearch-head 。从ES6.0开始,head插件支持使得node.js运行

    相关文章

      网友评论

          本文标题:ElasticSearch

          本文链接:https://www.haomeiwen.com/subject/uhtogqtx.html