1. 下载elasticsearch安装包
官方网址
https://www.elastic.co/cn/downloads/elasticsearch
或者百度网盘链接:https://pan.baidu.com/s/1jvCQytflQsRxGW1nFdBmgg
提取码:nc0t
2. 安装elasticsearch
tar -zxvf elasticsearch-7.10.1-linux-x86_64.tar.gz
#移动文件夹
mv elasticsearch-7.10.1 /usr/local
3. 修改配置elasticsearch.yml
#修改elasticsearch.yml
vim elasticsearch.yml
# 主要开启以下配置
cluster.name: my-application
node.name: node-1
path.data: /usr/local/elasticsearch-7.10.1/data
path.logs: /usr/local/elasticsearch-7.10.1/logs
network.host: 0.0.0.0
http.port: 9200
# 跨域支持
http.cors.enabled: true
http.cors.allow-origin: "*"
cluster.initial_master_nodes: ["node-1"]
4. 修改配置jvm.options
# 测试环境可以调小一点
-Xms128m
-Xmx128m
5. 启动
cd bin
./elasticsearch
#会报错java.lang.RuntimeException: can not run elasticsearch as root
#只能以非root用户启动,创建es专属用户并授权
useradd esuser
chown -R linxin /usr/local/elasticsearch-7.10.1
#创建完成 切换到esuser
su esuser
cd bin
./elasticsearch
# 启动会报错
ERROR: [2] bootstrap checks failed
[1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65535]
[2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
解决方法:修改2个系统配置文件
切换到root用户
// 配置系统环境数
vim /etc/security/limits.conf
# 文件末尾加入以下配置保存退出
* soft nofile 65536
* hard nofile 131072
* soft nproc 2048
* hard nproc 4096
vim /etc/sysctl.conf
# 文件末尾加入以下配置保存退出
vm.max_map_count=262145
# 配置完成后 刷新文件生效
sysctl -p
# 重新切换到esuser 用户 配置才可生效
#后台不挂断启动
./elasticsearch -d
6. 启动完成结束!
7. 安装可视化工具elasticsearch-head(可以不安装,插件只是为了方便看数据)
git clone https://gitee.com/aliant/elasticsearch-head.git
cnpm install
npm run start
8. 查看文件
more elasticsearch.yml | grep ^[^#]
X. logstash配置文件 同步数据
input {
jdbc {
# 设置 MySql/MariaDB 数据库url以及数据库名称
jdbc_connection_string => "jdbc:mysql://192.168.1.90:3306/nebula?useUnicode=true&characterEncoding=utf-8&zeroDateTimeBehavior=convertToNull&useSSL=false&serverTimezone=UTC"
# 用户名和密码
jdbc_user => "root"
jdbc_password => "1234"
# 数据库驱动所在位置,可以是绝对路径或者相对路径
jdbc_driver_library => "/usr/local/logstash-7.3.2/sync/mysql-connector-java-8.0.15.jar"
# 驱动类名
jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
# 开启分页
jdbc_paging_enabled => "true"
# 分页每页数量,可以自定义
jdbc_page_size => "100"
# 执行的sql文件路径
statement_filepath => "/usr/local/logstash-7.3.2/sync/note_content.sql"
# 设置定时任务间隔 含义:分、时、天、月、年,全部为*默认含义为每分钟跑一次任务
schedule => "* * * * *"
# 索引类型
type => "_doc"
# 是否开启记录上次追踪的结果,也就是上次更新的时间,这个会记录到 last_run_metadata_path 的文件
use_column_value => true
# 记录上一次追踪的结果值
last_run_metadata_path => "/usr/local/logstash-7.3.2/sync/track_time"
# 如果 use_column_value 为true, 配置本参数,追踪的 column 名,可以是自增id或者时间
tracking_column => "updateTime"
# tracking_column 对应字段的类型
tracking_column_type => "timestamp"
# 是否清除 last_run_metadata_path 的记录,true则每次都从头开始查询所有的数据库记录
clean_run => false
# 数据库字段名称大写转小写
lowercase_column_names => false
}
}
output {
elasticsearch {
# es地址
hosts => ["192.168.195.230:9200"]
# 同步的索引名
index => "note_content_ik"
# 设置_docID和数据相同
document_id => "%{contentId}"
# document_id => "%{id}"
# 定义模板名称
# template_name => "myik"
# 模板所在的位置
# template => "/usr/local/logstash-7.3.2/sync/logstash-ik.json"
# 重写模板
# template_overwrite => true
# manage_template => false
}
# 日志输出
stdout {
codec => json_lines
}
}```
网友评论