Influxdb Cluster集群部署

jiangjia_132

已于 2023-04-05 13:20:04 修改

阅读量3.4k

点赞数 5

分类专栏： Influxdb 文章标签： linux 服务器

于 2023-04-02 22:10:08 首次发布

本文链接：https://blog.csdn.net/jiangjia_132/article/details/129918083

版权

Influxdb 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

准备工作

确定安装版本

1、此次安装选择的是influxdb-cluster集群部署方案，参考项目开源地址为：https://github.com/chengshiwen/influxdb-cluster/wiki，选择的版本为v1.8.10-c1.2.0。

下载地址

https://github.com/chengshiwen/influxdb-cluster/releases

下载命令

# 注意机器版本
wget https://github.com/chengshiwen/influxdb-cluster/releases/download/v1.8.10-c1.1.2/influxdb-cluster_1.8.10-c1.1.2_linux_amd64.tar.gz

验证端口是否占用

1、influxdb使用的默认端口号为分别为用于meta集群内部服务的8091端口，meta节点通信的8089端口，data集群内部服务的8088端口，以及data节点对外提供http服务的8086端口。
2、通过 lsof -i :端口号 命令检查端口占用情况，如果存在占用需要进行修改
3、如果存在修改端口后发现在添加meta节点进入集群时出现报错并提示出修改前的端口，需要手动删除指定存放meta数据的目录再进行添加。

注意以上端口都为默认端口，可以在配置文件中进行修改

Meta节点说明和要求

1、确定部署机器数量，Meta节点至少需要三个，如果超过三个也必须为奇数个节点（官方不建议超过三个）。如果只有一个Meta节点那需要在启动该单个Meta节点时添加-single-server标志。
2、建议不要在同一服务器上部署多个Meta节点，因为如果该特定服务器无响应，它会产生更大的潜在故障。InfluxDB Cluster建议在占用空间相对较小的服务器上部署Meta节点。
3、Meta节点可以与Data节点部署在同一台物理机上，不过最好的情况是都分开部署

Data节点说明和要求

1、InfluxDB Cluster需要至少两个Data节点才能实现高可用性和冗余。
2、InfluxDB Cluster没有负载均衡功能，所以需要借助Nginx或其他有相同功能的应用进行负载均衡，在负载均衡应配置data节点对外提供http服务的8086端口。

主机配置

修改主机名

1、确定集群机器后，在每一台主机的/etc/hosts文件添加主机ip与主机名的映射（当然如果您希望使用IP地址，可忽略该步骤），示例如下：
	172.168.1.176 influxdb-cluster-1
	172.168.1.167 influxdb-cluster-15
	172.168.1.182 influxdb-cluster-18
	172.168.1.171 influxdb-cluster-5

验证主机间连通性

1、使用ping命令进行验证，示例如下：
	ping -qc 1 influxdb-cluster-1
	ping -qc 1 influxdb-cluster-15
	ping -qc 1 influxdb-cluster-18
	ping -qc 1 influxdb-cluster-5

目录创建

# 创建influxdb所需目录
mkdir -p influx/{meta,data,wal,hh}

配置Meta节点集群

确定配置机器

influxdb-cluster-1
influxdb-cluster-15
influxdb-cluster-5

配置步骤

注：确定部署Meta节点的每台机器都需做如下配置
1、编辑meta节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb-meta.conf
2、主要修改的项为以下几处：
    bind-address = ":8091"
    hostname = "influxdb-cluster-1"
        [meta]
        # Directory where cluster meta data is stored.
        dir = "/data/ops/home-influxdb/influx/meta"

        # The default address for meta node communication
        bind-address = ":8089"

        # The default address to bind the API to.
        http-bind-address = ":8091"
            
3、修改完成后启动Meta节点, 启动命令如下：
	nohup ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-meta -config influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb-meta.conf > nohup.out 2>&1 &
	
4、验证各机器上data节点是否正常启动，命令如下：
	ps -ef | grep meta
	
5、启动完成后，在任意一个Meta节点上，加入所有Meta节点，包括它自己。加入的命令如下(下列命令都在hebsjzx-1plusn-86-qt-1执行)：
	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-1:8091
	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-15:8091
	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-5:8091
	
	预期的输出为：Added meta node 1 at influxdb-cluster-1:8091
6、验证节点是否正确加入，在任意一台Meta节点机器上使用如下命令：
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl show
   预期的输出为：
   	Data Nodes
    ==========
    ID      TCP Address     Version

    Meta Nodes
    ==========
    ID      TCP Address                     Version
    1       influxdb-cluster-1:8091    1.8.10-c1.1.2
    2       influxdb-cluster-15:8091   1.8.10-c1.1.2
    3       influxdb-cluster-5:8091    1.8.10-c1.1.2
7、至此Meta集群搭建完成

配置Data节点集群

确定配置机器

influxdb-cluster-1
influxdb-cluster-15
influxdb-cluster-18
influxdb-cluster-5

配置步骤

注：确定部署Data节点的每台机器都需做如下配置
1、编辑Data节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf
2、主要修改的项为以下几处：
 	# The TCP bind address to use for cluster-internal services.
	bind-address = ":8088"

	# Hostname advertised by this host for remote addresses. This must be resolvable by all
	# other nodes in the cluster.
	hostname = "influxdb-cluster-1"
	[meta]
    	# Directory where the cluster metadata is stored.
    	dir = "/data/ops/home-influxdb/influx/meta"
    	
    [data]
  		# The directory where the TSM storage engine stores TSM files.
 		dir = "/data/ops/home-influxdb/influx/data"

  		# The directory where the TSM storage engine stores WAL files.
 		wal-dir = "/data/ops/home-influxdb/influx/wal"
 	[http]
 		# The bind address used by the HTTP service.
 	 	bind-address = ":8086"
  		
  	[hinted-handoff]
        # The directory where the hinted handoff queues are stored.
        dir = "/data/ops/home-influxdb/influx/hh"
3、修改完成后启动Data节点, 启动命令如下：
    	nohup ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd -config influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf > datanode.out 2>&1 &

4、验证各机器上data节点是否正常启动，命令如下：
	ps -ef | grep influxd
5、Data 节点在未被加入集群之前，出现 Failed to create storage，failed to store statistics 或 meta service unavailable 日志是正常情况。

6、将Data节点加入集群，在任意一台Data节点，命令如下：
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-1:8088
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-15:8088
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-18:8088
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-5:8088
	预期的输出为：Added data node 7 at influxdb-cluster-1:8088

7、验证节点是否正确加入，在任意一台Meta节点机器上使用如下命令：
	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl show
  	预期的输出为：
    Data Nodes
    ==========
    ID      TCP Address                     Version
    4       influxdb-cluster-1:8088    1.8.10-c1.1.2
    5       influxdb-cluster-15:8088   1.8.10-c1.1.2
    6       influxdb-cluster-18:8088   1.8.10-c1.1.2
    7       influxdb-cluster-5:8088    1.8.10-c1.1.2

    Meta Nodes
    ==========
    ID      TCP Address                     Version
    1       influxdb-cluster-1:8091    1.8.10-c1.1.2
    2       influxdb-cluster-15:8091   1.8.10-c1.1.2
    3       influxdb-cluster-5:8091    1.8.10-c1.1.2
    
8、至此Data集群搭建完成

配置Data节点JWT访问

注意：创建用户后再增加该配置
1、在未设置Jwt访问前启动Data节点并使用./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influx 进入并创建用户,创建用户并赋权的语句如下：
	# 创建用户并赋予全部权限
	create user admin  with password 'admin' with all privileges：
	# 创建用户只服务写权限,ALL为全部权限，WRITE为写，READ为读权限，多权限以逗号分割
	create user pxq  with password 'pxq'
	GRANT WRITE ON test TO pxq
2、编辑Data节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf
3、主要修改的项为以下几处：
	[http]
  		# Determines whether user authentication is enabled over HTTP/HTTPS.
  		# 开启
  		auth-enabled = true
		# The JWT auth shared secret to validate requests using JSON web tokens.
		# token加密字符串
  		shared-secret = "XXXX"
  		
4、生成token，网站：https://jwt.io/，生成规则如下：
	HEADER：{
  		"alg": "HS256",
  		"typ": "JWT"
	}
	PAYLOAD：{
  		"username": "pxq", # 用户名
  		"exp": 1679642512 # 过期时间
	}
	# 主要为最后那串字符使用influxdb.conf中shared-secret配置的字符串
	VERIFY SIGNATURE：
	HMACSHA256(base64UrlEncode(header) + "." + base64UrlEncode(payload),I don't even know what it is)
	
5、验证是否成功
		curl -XPOST "http://172.168.1.176:8086/query?db=test" --data-urlencode "q=Select * from Test" --header "Authorization: Bearer eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.xxxx.5rcJ_-YeJsZ3XjRtxwe7kzH_4e__2btz0pEw_GQ8OJs"
		权限不足将提示：{"error":"error authorizing query: pxq not authorized to execute statement 'SELECT * FROM Test', requires READ on test"}
		正常将提示展示结果

配置负载均衡

由于InfluxDB Cluster 不能用作负载均衡器，故需要配置

1、nginx配置于/data/ops/nginx/目录
2、具体配置如下：
	upstream influxdb {

        server influxdb-cluster-1:8086;
        server influxdb-cluster-15:8086;
        server influxdb-cluster-18:8086;
        server influxdb-cluster-5:8086;
    }
    server {

        listen       8888;

        server_name  localhost;

        location /influx/ {
          proxy_set_header Host $proxy_host;
          proxy_pass   http://influxdb/;

        }

    }
3、对外统一访问地址：http://192.168.1.2:8888/influx
	例如访问查询test库Test表全部数据：curl -XPOST "http://192.168.1.2:8888/influx/query?db=test" --data-urlencode "q=Select * from Test" --header "Authorization: Bearer eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJ1c2VybmFtZSI6ImFkbWluIiwiZXhwIjoxNjc5NjQyNTEyfQ.7mIPMjB60kFGFQuTSyf7KvYF921MkMmL662_icTfvRQ"