MySQL高可用管理工具:orchestrator

32 篇文章 0 订阅
6 篇文章 0 订阅

orchestrator 是一个MySQL高可用复制拓补的管理和可视化工具,同时也是GitHub官方在使用的一个复制拓补管理工具,它允许:

1)发现:

orchestrator主动发现拓补结构并读取基本的MySQL信息,如复制状态和配置。

2)重构:

可以将一个不可用的服务器从拓补结构中剔除,并把数据副本移动到另一个从库下面

3)恢复:

在不可用时,可以选择一个适合的从库提升为主库

4)可视化:

web可视化,并允许直接在界面上进行复制拓补变更等操作

GitHub链接地址:https://github.com/github/orchestrator

一、环境:

系统:

        centos7.2

三台主机:

        master:192.168.89.100

        slave1:192.168.89.102

        slave2:192.168.89.103

后端端口: 

          orchestrator实例端口:3306   三节点开启raft保证orchestrator自身高可用性。

   后端mysql服务器实例端口:3307

二、安装:

开启raft时需要关闭IPV6。关闭selinux。

1)安装yum扩展源:yum -y install epel-release

2)更新系统上的软件:yum -y update

3)安装依赖:yum install -y jq oniguruma oniguruma-devel

4)下载服务端和客户端的软件包:

      wget https://github.com/github/orchestrator/releases/download/v3.0.14/orchestrator-3.0.14-1.x86_64.rpm
      wget https://github.com/github/orchestrator/releases/download/v3.0.14/orchestrator-client-3.0.14-1.x86_64.rpm

5)安装:yum localinstall -y orchestrator*.rpm

6)安装后,自动在/usr/local下创建orchestrator目录。

orchestrator:执行程序。

*.conf.json:配置文件模板。

resources:web,伪GTID相关文件

7)配置文件直接使用自带的模板文件:cp -a orchestrator-sample.conf.json orchestrator.conf.json

8)配置文件参数说明:

{
  "Debug": true,     #debug模式,输出详细信息
  "EnableSyslog": false,   #是否输出到系统日志里
  "ListenAddress": ":3000",   #orchestrator的监听端口,web端口
  "MySQLTopologyUser": "failover",   #后端被管理的mysql实例中的账号,所有实例都要有,本次为3307端口
  "MySQLTopologyPassword": "123456",   #密码
  "MySQLTopologyCredentialsConfigFile": "",   #验证的配置文件,账号密码可以直接写入文件,读取
  "MySQLTopologySSLPrivateKeyFile": "",   #ssl验证文件
  "MySQLTopologySSLCertFile": "",
  "MySQLTopologySSLCAFile": "",
  "MySQLTopologySSLSkipVerify": true,   #跳过验证
  "MySQLTopologyUseMutualTLS": false,   #使用TLS验证
  "MySQLOrchestratorHost": "127.0.0.1",   #orchestrator的IP,也可以是本机IP
  "MySQLOrchestratorPort": 3306,   #orchestrator所在的端口,本次为3306端口
  "MySQLOrchestratorDatabase": "orchestrator",   #orchestrator元数据的数据库名称
  "MySQLOrchestratorUser": "root",   #管理orchestrator数据库的账户
  "MySQLOrchestratorPassword": "123456",  #密码
  "MySQLOrchestratorCredentialsConfigFile": "",
  "MySQLOrchestratorSSLPrivateKeyFile": "",
  "MySQLOrchestratorSSLCertFile": "",
  "MySQLOrchestratorSSLCAFile": "",
  "MySQLOrchestratorSSLSkipVerify": true,
  "MySQLOrchestratorUseMutualTLS": false,
  "MySQLConnectTimeoutSeconds": 1,   #orchestrator连接mysql超时秒数
  "DefaultInstancePort": 3307,  #mysql实例的端口,本次为3307,对外提供服务的实例
  "DiscoverByShowSlaveHosts": true,   #是否启用审查和自动发现
  "InstancePollSeconds": 5,   #orchestrator探测mysql间隔秒数

  "SkipMaxScaleCheck": true,    #没有MaxScale binlogserver设置为true

  "UnseenInstanceForgetHours": 240,   #忘记看不见的实例的小时数
  "SnapshotTopologiesIntervalHours": 0,   #快照拓扑调用之间的小时间隔。默认值:0(禁用)
  "InstanceBulkOperationsWaitTimeoutSeconds": 10,   #执行批量(多个实例)操作时在单个实例上等待的时间
  "HostnameResolveMethod": "none",  #解析主机名,默认default   不解析为none
  "MySQLHostnameResolveMethod": "@@hostname",
  "SkipBinlogServerUnresolveCheck": true,  #跳过二进制服务器检测
  "ExpiryHostnameResolvesMinutes": 60,  #域名检测过期分钟数
  "RejectHostnameResolvePattern": "",   #禁止的域名正则表达式
  "ReasonableReplicationLagSeconds": 10,    #复制延迟高于10秒表示异常
  "ProblemIgnoreHostnameFilters": [],  #主机正则匹配筛选最小化
  "VerifyReplicationFilters": false,  #重构钱检查复制筛选器
  "ReasonableMaintenanceReplicationLagSeconds": 20,   #上移和下移的阈值
  "CandidateInstanceExpireMinutes": 60,  #实例过期分钟数
  "AuditLogFile": "",  #审计日志
  "AuditToSyslog": false,  #审计日志输出到系统日志
  "RemoveTextFromHostnameDisplay": ":3306",  #去除集群的文本
  "ReadOnly": true,  #全局只读
  "AuthenticationMethod": "",  #身份验证模式
  "HTTPAuthUser": "",  #http验证用户名
  "HTTPAuthPassword": "",  #http验证密码
  "AuthUserHeader": "",   #指示身份验证用户的HTTP标头,当AuthenticationMethod为“proxy”时
  "PowerAuthUsers": [   #在AuthenticationMethod ==“proxy”上,可以进行更改的用户列表。所有其他都是只读的。
    "*"
  ],
  "ClusterNameToAlias": {  #正则表达式匹配群集名称与人类友好别名之间的映射
    "127.0.0.1": "test suite"
  },
  "SlaveLagQuery": "",  #使用SHOW SLAVE STATUS进行延迟判断
  "DetectClusterAliasQuery": "SELECT SUBSTRING_INDEX(@@hostname, '.', 1)",  #查询集群别名
  "DetectClusterDomainQuery": "",  #可选查询(在拓扑实例上执行),返回此集群主服务器的VIP / CNAME /别名/任何域名。查询将仅在集群主机上执行(尽管在拓扑的主机被重新调用之前,它可以在其他/所有副本上执行)。如果提供,必须返回一行,一列
  "DetectInstanceAliasQuery": "",  #可选查询(在拓扑实例上执行),返回实例的别名。如果提供,必须返回一行,一列
  "DetectPromotionRuleQuery": "",  #可选查询(在拓扑实例上执行),返回实例的提升规则。如果提供,必须返回一行,一列。
  "DataCenterPattern": "[.]([^.]+)[.][^.]+[.]mydomain[.]com",   #从正则表达式中筛选数据中心名称
  "PhysicalEnvironmentPattern": "[.]([^.]+[.][^.]+)[.]mydomain[.]com",  #返回实例的物理环境
  "PromotionIgnoreHostnameFilters": [],   #Orchestrator不会使用主机名匹配模式来提升副本(通过-c recovery;例如,避免使用dev专用计算机)
  "DetectSemiSyncEnforcedQuery": "",  #查询以确定是否强制完全半同步写入
  "ServeAgentsHttp": false,  #产生一个agent的http接口
  "AgentsServerPort": ":3001",  #可选,对于raft设置,此节点将向其对等方通告的HTTP地址是什么(可能在NAT后面或重新路由端口时使用;例如:“http://11.22.33.44:3030”)
  "AgentsUseSSL": false,  #当“true”orchestrator将使用SSL侦听代理端口以及通过SSL连接到代理时
  "AgentsUseMutualTLS": false,
  "AgentSSLSkipVerify": false,
  "AgentSSLPrivateKeyFile": "",
  "AgentSSLCertFile": "",
  "AgentSSLCAFile": "",
  "AgentSSLValidOUs": [],
  "UseSSL": false,  #在服务器Web端口上使用SSL
  "UseMutualTLS": false,
  "SSLSkipVerify": false,
  "SSLPrivateKeyFile": "",
  "SSLCertFile": "",
  "SSLCAFile": "",
  "SSLValidOUs": [],
  "URLPrefix": "",  #在非根Web路径上运行orchestrator的URL前缀,例如/ orchestrator将其置于nginx之后。
  "StatusEndpoint": "/api/status",  #使用相互TLS时的有效组织单位
  "StatusSimpleHealth": true,
  "StatusOUVerify": false,
  "AgentPollMinutes": 60,  #代理轮询之间的分钟数
  "UnseenAgentForgetHours": 6,  #忘记看不见代理的小时数
  "StaleSeedFailMinutes": 60,  #认为陈旧(无进展)种子失败的分钟数。
  "SeedAcceptableBytesDiff": 8192,  #仍被视为成功复制的种子源和目标数据大小之间的字节数差异
  "PseudoGTIDPattern": "",  #为空禁用伪GTID
  "PseudoGTIDPatternIsFixedSubstring": false, #如果为true,则PseudoGTIDPattern不被视为正则表达式而是固定子字符串,并且可以提高搜索时间
  "PseudoGTIDMonotonicHint": "asc:",  #Pseudo-GTID条目中的字符串,表示Pseudo-GTID条目预计会单调递增
  "DetectPseudoGTIDQuery": "",  #可选查询,用于权威地决定是否在实例上启用伪gtid
  "BinlogEventsChunkSize": 10000,  #SHOW BINLOG的块大小(X)| RELAYLOG EVENTS LIMIT?,X语句。较小意味着更少的锁定和工作要做
  "SkipBinlogEventsContaining": [],  #扫描/比较Pseudo-GTID的binlog 时,跳过包含给定文本的条目。这些不是正则表达式(扫描binlog时会消耗太多的CPU),只需查找子字符串。
  "ReduceReplicationAnalysisCount": true,  #当为true时,复制分析将仅报告可能首先处理问题的可能性的实例(例如,不报告大多数叶子节点,这些实际上是无趣的)。如果为false,则为每个已知实例提供一个条目
  "FailureDetectionPeriodBlockMinutes": 60,   #该时间内发现故障,不被多次发现
  "RecoveryPeriodBlockSeconds": 3600,   #该时间内发现故障,不会多次转移
  "RecoveryIgnoreHostnameFilters": [],  #恢复会忽略的主机
  "RecoverMasterClusterFilters": [   #仅在匹配这些正则表达式模式的集群上进行主恢复(当然“。*”模式匹配所有内容)
    "*"
  ],
  "RecoverIntermediateMasterClusterFilters": [   #仅在与这些正则表达式模式匹配的集群上进行IM恢复(当然“。*”模式匹配所有内容)
    "*"
  ],

#OnFailureDetectionProcesses:检测故障转移方案时执行的进程(在决定是否进行故障转移之前)。可以并且应该使用其中一些占位符:{failureType},{failureDescription},{command},{failedHost},{failureCluster},{failureClusterAlias},{failureClusterDomain},{failedPort},{successorHost},{successorPort},{ successorAlias},{countReplicas},{replicaHosts},{isDowntimed},{autoMasterRecovery},{autoIntermediateMasterRecovery}
  "OnFailureDetectionProcesses": [   
    "echo 'Detected {failureType} on {failureCluster}. Affected replicas: {countSlaves}  autoMasterRecovery:  {autoMasterRecovery}  losthost: {lostSlaves}  slavehost: {slaveHosts}   orchestratorHost: {orchestratorHost}' >> /tmp/recovery.log"
  ],

#PreGracefulTakeoverProcesses:在执行故障转移之前执行的进程(中止操作应该是任何一次以非零代码退出;执行顺序未定义)。可以并且应该使用其中一些占位符:{failureType},{failureDescription},{command},{failedHost},{failureCluster},{failureClusterAlias},{failureClusterDomain},{failedPort},{countReplicas},{replicaHosts},{ isDowntimed}
  "PreGracefulTakeoverProcesses": [   
    "echo 'Planned takeover about to take place on {failureCluster}. Master will switch to read_only autoMasterRecovery:  {autoMasterRecovery}  losthost: {lostSlaves}  slavehost: {slaveHosts}   orchestratorHost: {orchestratorHost}' >> /tmp/recovery.log"
  ],

#PreFailoverProcesses:在执行故障转移之前执行的进程(中止操作应该是任何一次以非零代码退出;执行顺序未定义)。可以并且应该使用其中一些占位符:{failureType},{failureDescription},{command},{failedHost},{failureCluster},{failureClusterAlias},{failureClusterDomain},{failedPort},{countReplicas},{replicaHosts},{ isDowntimed}
  "PreFailoverProcesses": [  #执行恢复操作前执行
    "echo 'Will recover from {failureType} on {failureCluster}' >> /tmp/recovery.log"
  ],

#PostFailoverProcesses:执行故障转移后执行的进程(执行顺序未定义)。可以并且应该使用其中一些占位符:{failureType},{failureDescription},{command},{failedHost},{failureCluster},{failureClusterAlias},{failureClusterDomain},{failedPort},{successorHost},{successorPort},{ successorAlias},{countReplicas},{replicaHosts},{isDowntimed},{isSuccessful},{lostReplicas},{countLostReplicas}
  "PostFailoverProcesses": [  
    "echo '(for all types) Recovered from {failureType} on {failureCluster}. Failed: {failedHost}:{failedPort}; Successor: {successorHost}:{successorPort}' >> /tmp/recovery.log"
  ],

#PostUnsuccessfulFailoverProcesses:在未完全成功的故障转移后执行的进程(执行顺序未定义)。可以并且应该使用其中一些占位符:{failureType},{failureDescription},{command},{failedHost},{failureCluster},{failureClusterAlias},{failureClusterDomain},{failedPort},{successorHost},{successorPort},{ successorAlias},{countReplicas},{replicaHosts},{isDowntimed},{isSuccessful},{lostReplicas},{countLostReplicas}
  "PostUnsuccessfulFailoverProcesses": [],  

#PostMasterFailoverProcesses:执行主故障转移后执行的进程(执行顺序未定义)。使用与PostFailoverProcesses相同的占位符
  "PostMasterFailoverProcesses": [ 
    "echo 'Recovered from {failureType} on {failureCluster}. Failed: {failedHost}:{failedPort}; Promoted: {successorHost}:{successorPort}' >> /tmp/recovery.log"
  ],

#PostIntermediateMasterFailoverProcesses:执行主故障转移后执行的进程(执行顺序未定义)。使用与PostFailoverProcesses相同的占位符
  "PostIntermediateMasterFailoverProcesses": [  #成功的中间主恢复时执行
    "echo 'Recovered from {failureType} on {failureCluster}. Failed: {failedHost}:{failedPort}; Successor: {successorHost}:{successorPort}' >> /tmp/recovery.log"
  ],

#PostGracefulTakeoverProcesses:在运行正常的主接管后执行的进程。使用与PostFailoverProcesses相同的占位符
  "PostGracefulTakeoverProcesses": [   #旧主位于新主之后执行
    "echo 'Planned takeover complete' >> /tmp/recovery.log"
  ],
  "CoMasterRecoveryMustPromoteOtherCoMaster": true,  #当'false'时,任何东西都可以升级(候选人优先于其他人)。当'为'时,orchestrator将促进其他共同主人或否则失败
  "DetachLostSlavesAfterMasterFailover": true,  #恢复可能丢失一些副本DetachLostReplicasAfterMasterFailover的同义词
  "ApplyMySQLPromotionAfterMasterFailover": true,  #orchestrator应该自己应用MySQL主促销:设置read_only = 0,分离复制等。
  "PreventCrossDataCenterMasterFailover": false,  #当为true(默认值:false)时,不允许跨DC主故障转移,orchestrator将尽其所能只在同一DC内进行故障转移,否则根本不进行故障转移。
  "MasterFailoverDetachSlaveMasterHost": false,   #确保新主不复制旧主的数据MasterFailoverDetachReplicaMasterHost的同义词
  "MasterFailoverLostInstancesDowntimeMinutes": 0,  #在主故障转移(包括失败的主副本和丢失的副本)之后丢失的任何服务器停机的分钟数。0表示禁用
  "PostponeSlaveRecoveryOnLagMinutes": 0,  #PostponeReplicaRecoveryOnLagMinutes的同义词
  "OSCIgnoreHostnameFilters": [],  #OSC副本推荐将忽略与给定模式匹配的副本主机名
  "GraphiteAddr": "",
  "GraphitePath": "",
  "GraphiteConvertHostnameDotsToUnderscores": true,

  "RaftEnabled": true,   #raft模式
  "BackendDB": "mysql",  #后台数据库类型
  "RaftBind": "192.168.89.103",  #绑定之地,本机IP
  "RaftDataDir": "/var/lib/orchestrator",  #数据目录,如果不存在,则自动创建
  "DefaultRaftPort": 10008,  #raft通信端口,所有机器必须保持一致
  "RaftNodes": [   #raft节点,必须包含所有节点
    "192.168.89.100", 
    "192.168.89.102",
    "192.168.89.103"
    ],

  "ConsulAddress": "",  #找到Consul HTTP api的地址。示例:127.0.0.1:8500
  "ConsulAclToken": ""  #用于写入Consul KV的ACL令牌
}

三、启动:

1)在所有被管理的mysql实例上(本机为3307端口)建立管理账号:

GRANT ALL ON *.* TO 'failover'@'127.0.0.1' IDENTIFIED BY '123456'; 

GRANT ALL ON *.* TO 'failover'@'192.168.89.%' IDENTIFIED BY '123456'; 

在所有orchestrator实例的mysql上建立管理账号:

GRANT ALL ON *.* TO 'root'@'127.0.0.1' IDENTIFIED BY '123456'; 

2)创建复制拓补环境,这里不细说,把三台主机创建成复制结构即可。

3)编辑hosts文件,写入三台的hostname。

4)启动orchestrator:

        nohup orchestrator http &      orchestrator会自动到/usr/local/orchestrator下查找到配置文件

5)打开web界面:IP:3000。orchestrator会自动发现复制拓补结构并显示到界面上,如果没有发现,则可以手动发现。

orchestrator-client -c discover -i 实例:端口

orchestrator可以很好地与proxysql中间件结合,做读写分离与高可用。事实上,percona官方也推荐这套组合,mysqlfailover+proxysql也是很好的一套,不过MySQLfailover需要自己定制脚本。

关于hook或者其他生态工具,可以看我开源的二次开发的orchestrator地址: Orchestrator
也欢迎一起交流,可以私信我加我微信一起交流
原创文章,转载请注明哟

评论 17
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值