前言
本文以elasticsearch8.6.2为例详述linux集群离线部署步骤,以 官网部署教程为基础,针对部署过程中可能的疑问作说明。
因为项目安全等的原因,很多时候我们要部署的目标机器是不能访问互联网的。本文是个人离线部署过程记录,希望也能帮助到有同样需要的同学。
版本选择
elasticsearch版本的更新迭代很快,8.x相较7.x , 6.x不仅性能有了大的提升,安全成为必要选项,还增加了许多新的功能。如果纯粹是新项目考虑使用elasticsearch,建议直接考虑8.x版本。
本文选择了当前最新的稳定版本8.6.2,后期会再出一个8.6.2版本对于常用功能的支持和限制的评估清单,有需要的朋友可以关注下
环境准备
elasticsearch 8.6.2有内置的jdk,使用内置自带jdk即可,elasticsearch集群无特别依赖软件,我部署的linux版本CentOS Linux release 7.3.1611 (Core) 。
开发环境资源有限,所以在一台服务器部署伪集群,避免冲突设置为不同端口。有资源的情况下可以部署到不同的多台机器,http端口默认9200,tcp端口默认9300
ip端口节点名称192.168.56.100http:9201 tcp:9301node-1192.168.56.100http:9202 tcp:9302node-2192.168.56.100http:9203 tcp:9303node-3
集群部署
下载解压
下载地址
# 上传服务器
rz
# 解压tar -xzf elasticsearch-8.6.2-linux-x86_64.tar.gz
run
elasticsearch不能以root账号启动,所以需要先创建非root账号,并赋权
# 创建新用户esuseradd -m -s /bin/bash es
# 设置密码passwd xxx
# 赋权,这里赋予了dwrx所有权限,如果有限制可以降低权限chmod -R 777 elasticsearch-8.6.2
# 进入安装目录cd elasticsearch-8.6.2/
# 启动,退出Ctrl+z
./bin/elasticsearch
elasticsearch8.x系列默认需要密码验证和https,查看启动日志可以看到elasticsearch自动为超级管理员 elastic 生成了密码,还会生成cert认证文件到 elasticsearch-8.6.2/config/certs/目录。
这意味着该elasticsearch服务使用http协议连接时只能使用https,且需要账号/密码。比如上面说的elastic账号和自动生成的密码
The generated password for the elastic built-in superuser is:
<password>
The enrollment token for Kibana instances, valid for the next 30 minutes:
<enrollment-token>
The hex-encoded SHA-256 fingerprint of the generated HTTPS CA DER-encoded certificate:
<fingerprint>
You can complete the following actions at any time:
Reset the password of the elastic built-in superuser with
'bin/elasticsearch-reset-password -u elastic'.
Generate an enrollment token for Kibana instances with
'bin/elasticsearch-create-enrollment-token -s kibana'.
Generate an enrollment token for Elasticsearch nodes with
'bin/elasticsearch-create-enrollment-token -s node'.
现在我们可以通过如下方式验证启动状态,会提示输入密码,密码就是上述截图中的elastic对应的密码
curl --cacert $ES_HOME/config/certs/http_ca.crt -u elastic https://localhost:9200
返回结果
{"name":"localhost.localdomain",
"cluster_name":"elasticsearch",
"cluster_uuid":"qnuRTH8gSEaGAiIzc_KAzA",
"version":{"number":"8.6.2",
"build_flavor":"default",
"build_type":"tar",
"build_hash":"2d58d0f136141f03239816a4e360a8d17b6d8f29",
"build_date":"2023-02-13T09:35:20.314882762Z",
"build_snapshot": false,
"lucene_version":"9.4.2",
"minimum_wire_compatibility_version":"7.17.0",
"minimum_index_compatibility_version":"7.0.0"},
"tagline":"You Know, for Search"}
实际使用情况我们肯定是自己会再生成密码,可以使用如下命令为elastic修改密码或创建新用户并给定密码
bin/elasticsearch-reset-password -u user1 -i <password>
配置
重要配置elasticsearch.yml
path配置
默认es的日志和数据存储放在es的安装目录,这种在升级情况下很容易被删掉。所以官方推荐指定非安装目录的路径
path:
data: /var/data/elasticsearch
logs: /var/log/elasticsearch
设置集群名称
# 集群名称每个节点都必须配置成一样
cluster.name: my-cluster
设置节点名称
node.name: node-1
设置端口
transport.port: 9301
http.port: 9201
网络host
# 设置为所在主机ip
network.host: 192.168.56.100
集群发现设置
默认es会扫描本机9300-9305的节点加入集群,如果部署在不同机器就必须设置.
这里设置本机的三个节点
discovery.seed_hosts:
- 192.168.56.100:9301
- 192.168.56.100:9302
- 192.168.56.100:9303
候选主节点设置,开发、测试环境可以数据节点和master节点不分开。生产,特别是大型集群,官方推荐区分节点角色
# 注意默认有配这个这个配置,需要改到原配置下,或者注释已有配置
cluster.initial_master_nodes:
- node-1
- node-2
- node-3
重要配置jvm.options
开发环境资源有限,修改使用的内存.可以视内存情况设定,生产一般建议是机器内存的一半,且不超过32G
cd elasticsearch-8.6.2/config
-Xms1g
-Xmx1g
部署集群
创建多个节点
# 创建集群目录mkdir escluster8.6.2
# 把前面的elasticsearch-8.6.2目录复制到刚刚创建的集群目录,并改名node-1mv elasticsearch-8.6.2 escluster8.6.2/node-1
cd escluster8.6.2
# 复制jar到当前目录,这里为了使用全新的节点cp../elasticsearch-8.6.2-linux-x86_64.tar.gz ./
# 解压tar -xzf elasticsearch-8.6.2-linux-x86_64.tar.gz
cp -r elasticsearch-8.6.2 node-2
mv elasticsearch-8.6.2 node-3
# 删除tar包rm -rf elasticsearch-8.6.2-linux-x86_64.tar.gz
注意是使用es用户的情况下操作,如果使用的是root用户,请授权这些目录的所有者为上面步骤创建的新用户es
chown -R es escluster8.6.2
修改node-2和node-3的jvm.options配置文件,增加配置
-Xms1g
-Xmx1g
修改node-2的配置文件elasticsearch.yml
http.host: 192.168.56.100
cluster.name: es8-cluster
node.name: node-2
network.host: 192.168.56.100
http.port: 9202
transport.port: 9302
修改node-3的配置文件elasticsearch.yml
http.host: 192.168.56.100
cluster.name: es8-cluster
node.name: node-3
network.host: 192.168.56.100
http.port: 9203
transport.port: 9303
获取新节点加入集群的token
# node-1节点的目录下执行
bin/elasticsearch-create-enrollment-token -s node
使用生成的token分别在node-2,node-3的bin目录下执行
elasticsearch --enrollment-token <enrollment-token>
会自动生成认证文件config/certs,并配置到elasticsearch.yml中。同时配置了discovery.seed_hosts,但是只配置了节点1,我们一般开发环境会让3个节点都即可以是master节点又是数据节点。所以这里可以改后重启
discovery.seed_hosts:
- 192.168.56.100:9301
- 192.168.56.100:9302
- 192.168.56.100:9303
cluster.initial_master_nodes:
- node-1
- node-2
- node-3
启动
这里说明下一般情况下的启动命令。
后台启动各个节点,每个节点都需要执行下面命令。注意切换到es账号,su es
./elasticsearch -d -p pid
停止
这里说明下一般情况下的停止命令。
ps -ef|grep elasticsearch
kill -p pid
问题解决
max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
系统虚拟内存默认最大映射数为65530,无法满足ES系统要求,需要调整为262144以上
#修改文件sudovim /etc/sysctl.conf
#添加参数
vm.max_map_count =262144
重新加载生效
sysctl -p
kibana安装
因为8.x默认开启了https和密码认证,需要配置kibana和elasticsearch集群连接的认证文件等。建议使用token方式连接elasticsearch集群,更简单。
下载kibana
官网下载
上传到目标服务器,并解压
tar -xzvf kibana-8.6.2-linux-x86_64.tar.gz
授权目录所有者为es
chown -R es kibana-8.6.2
使用token方式连接elasticsearch集群
修改配置文件config/kibana.yml, host配置为kibana所在的服务器ip
server.host: "192.168.56.100"
生成token
# 任一elasticsearch集群执行,这里选择node-1
node-1/bin/elasticsearch-create-enrollment-token -s kibana
注意切换到es用户启动(kibana也不建议使用root账号启动)
bin/kibana --enrollment-token <enrollment-token>
启动成功日志的最后会打印出一个code,记录该code
浏览器访问http://192.168.56.100:5601
首先会提示输入一个类似激活码的,就把上面记录的code录入;然后会弹出登录界面,输入elastic超级管理员的账密即可登入
至此kibana已成功安装并连接elasticsearch集群
配置
使用token方式连接集群成功后也是会自动生成一些认证的文件,和添加相应的配置到kibana.yml中。查看kibana.yml可以看到连接到的节点可能只有一个,可以加入其他两个节点
cat config/kibana.yml
# xpack.fleet.outputs:中的hosts同理配置
elasticsearch.hosts: ['https://192.168.56.100:9201','https://192.168.56.100:9202', 'https://192.168.56.100:9203']
版权归原作者 应急冥灯 所有, 如有侵权,请联系我们删除。