Zookeeper实现负载均衡原理以及实现选举策略

        使用Zookeeper实现负载均衡原理,服务器端将启动的服务注册到,zk注册中心上,采用临时节点。客户端从zk节点上获取最新服务节点信息,本地使用负载均衡算法,随机分配服务器。

Maven依赖:

      <dependencies>

           <dependency>

                 <groupId>com.101tec</groupId>

                 <artifactId>zkclient</artifactId>

                 <version>0.8</version>

           </dependency>

      </dependencies>

ZkServerScoekt服务

//##ServerScoekt服务端

public class ZkServerScoekt implements Runnable {

      private int port = 18080;

 

      public static void main(String[] args) throws IOException {

           int port = 18080;

           ZkServerScoekt server = new ZkServerScoekt(port);

           Thread thread = new Thread(server);

           thread.start();

      }

 

      public ZkServerScoekt(int port) {

           this.port = port;

      }

 

      public void run() {

           ServerSocket serverSocket = null;

           try {

                 serverSocket = new ServerSocket(port);

                 System.out.println("Server start port:" + port);

                 Socket socket = null;

                 while (true) {

                      socket = serverSocket.accept();

                      new Thread(new ServerHandler(socket)).start();

                 }

           } catch (Exception e) {

                 e.printStackTrace();

           } finally {

                 try {

                      if (serverSocket != null) {

                            serverSocket.close();

                      }

                 } catch (Exception e2) {

 

                 }

           }

      }

 

}

ZkServerClient:

public class ZkServerClient {

      public static List<String> listServer = new ArrayList<String>();

 

      public static void main(String[] args) {

           initServer();

           ZkServerClient   client= new ZkServerClient();

           BufferedReader console = new BufferedReader(new InputStreamReader(System.in));

           while (true) {

                 String name;

                 try {

                      name = console.readLine();

                      if ("exit".equals(name)) {

                            System.exit(0);

                      }

                      client.send(name);

                 } catch (IOException e) {

                      e.printStackTrace();

                 }

           }

      }

 

      // 注册所有server

      public static void initServer() {

           listServer.clear();

           listServer.add("127.0.0.1:18080");

      }

 

      // 获取当前server信息

      public static String getServer() {

           return listServer.get(0);

      }

     

      public void send(String name) {

 

           String server = ZkServerClient.getServer();

           String[] cfg = server.split(":");

 

           Socket socket = null;

           BufferedReader in = null;

           PrintWriter out = null;

           try {

                 socket = new Socket(cfg[0], Integer.parseInt(cfg[1]));

                 in = new BufferedReader(new InputStreamReader(socket.getInputStream()));

                 out = new PrintWriter(socket.getOutputStream(), true);

 

                 out.println(name);

                 while (true) {

                      String resp = in.readLine();

                      if (resp == null)

                            break;

                      else if (resp.length() > 0) {

                            System.out.println("Receive : " + resp);

                            break;

                      }

                 }

           } catch (Exception e) {

                 e.printStackTrace();

           } finally {

                 if (out != null) {

                      out.close();

                 }

                 if (in != null) {

                      try {

                            in.close();

                      } catch (IOException e) {

                            e.printStackTrace();

                      }

                 }

                 if (socket != null) {

                      try {

                            socket.close();

                      } catch (IOException e) {

                            e.printStackTrace();

                      }

                 }

           }

      }

}

当向Zookeeper注册当前服务器时,修改ZkServerScoekt:

public class ZkServerScoekt implements Runnable {

      private static int port = 18081;

 

      public static void main(String[] args) throws IOException {

           ZkServerScoekt server = new ZkServerScoekt(port);

           Thread thread = new Thread(server);

           thread.start();

      }

 

      public ZkServerScoekt(int port) {

           this.port = port;

      }

 

      public void regServer() {

           // ZooKeeper注册当前服务器

           ZkClient client = new ZkClient("127.0.0.1:2181", 60000, 1000);

           String path = "/test/server" + port;

           if (client.exists(path))

                 client.delete(path);

           client.createEphemeral(path, "127.0.0.1:" + port);

      }

 

      public void run() {

           ServerSocket serverSocket = null;

           try {

                 serverSocket = new ServerSocket(port);

                 regServer();

                 System.out.println("Server start port:" + port);

                 Socket socket = null;

                 while (true) {

                      socket = serverSocket.accept();

                       new Thread(new ServerHandler(socket)).start();

                 }

           } catch (Exception e) {

                 e.printStackTrace();

           } finally {

                 try {

                      if (serverSocket != null) {

                            serverSocket.close();

                      }

                 } catch (Exception e2) {

 

                 }

           }

      }

 

}

当采用取模算法获取做负载均衡时,修改ZkServerClient

public class ZkServerClient {

      public static List<String> listServer = new ArrayList<String>();

 

      public static void main(String[] args) {

           initServer();

           ZkServerClient client = new ZkServerClient();

           BufferedReader console = new BufferedReader(new InputStreamReader(System.in));

           while (true) {

                 String name;

                 try {

                      name = console.readLine();

                      if ("exit".equals(name)) {

                            System.exit(0);

                      }

                      client.send(name);

                 } catch (IOException e) {

                      e.printStackTrace();

                 }

           }

      }

 

      // 注册所有server

      public static void initServer() {

           final String path = "/test";

           final ZkClient zkClient = new ZkClient("127.0.0.1:2181", 60000, 1000);

           List<String> children = zkClient.getChildren(path);

           listServer.clear();

           for (String p : children) {

                 listServer.add((String) zkClient.readData(path + "/" + p));

           }

           // 订阅节点变化事件

           zkClient.subscribeChildChanges("/test", new IZkChildListener() {

 

                 public void handleChildChange(String parentPath, List<String> currentChilds) throws Exception {

                      listServer.clear();

                      for (String p : currentChilds) {

                            listServer.add((String) zkClient.readData(path + "/" + p));

                      }

                      System.out.println("####handleChildChange()####listServer:" + listServer.toString());

                 }

           });

      }

 

      // 请求次数

      private static int count = 1;

      // 服务数量

      private static int serverCount=2;

 

      // 获取当前server信息

      public static String getServer() {

           String serverName = listServer.get(count%serverCount);

           ++count;

           return serverName;

      }

 

      public void send(String name) {

 

           String server = ZkServerClient.getServer();

           String[] cfg = server.split(":");

 

           Socket socket = null;

           BufferedReader in = null;

           PrintWriter out = null;

           try {

                 socket = new Socket(cfg[0], Integer.parseInt(cfg[1]));

                 in = new BufferedReader(new InputStreamReader(socket.getInputStream()));

                 out = new PrintWriter(socket.getOutputStream(), true);

 

                 out.println(name);

                 while (true) {

                      String resp = in.readLine();

                      if (resp == null)

                            break;

                      else if (resp.length() > 0) {

                            System.out.println("Receive : " + resp);

                            break;

                      }

                 }

           } catch (Exception e) {

                 e.printStackTrace();

           } finally {

                 if (out != null) {

                      out.close();

                 }

                 if (in != null) {

                      try {

                            in.close();

                      } catch (IOException e) {

                            e.printStackTrace();

                      }

                 }

                 if (socket != null) {

                      try {

                            socket.close();

                      } catch (IOException e) {

                            e.printStackTrace();

                      }

                 }

           }

      }

}

 

 

使用Zookeeper实现选举策略:

场景

  有一个向外提供的服务,服务必须7*24小时提供服务,不能有单点故障。所以采用集群的方式,采用master、slave的结构。一台主机多台备机。主机向外提供服务,备机负责监听主机的状态,一旦主机宕机,备机要迅速接代主机继续向外提供服务。从备机选择一台作为主机,就是master选举。

 

原理分析

 三台主机会尝试创建master节点,谁创建成功了,就是master,向外提供。其他两台就是slave。

所有slave必须关注master的删除事件(临时节点,如果服务器宕机了,Zookeeper会自动把master节点删除)。如果master宕机了,会进行新一轮的master选举。

使用Zookeeper原理

        » 领导者(leader),负责进行投票的发起和决议,更新系统状态
  » 学习者(learner),包括跟随者(follower)和观察者(observer),follower用于接受客户端请求并想客户端返回结果,在选主过程中参与投票
  » Observer可以接受客户端连接,将写请求转发给leader,但observer不参加投票过程,只同步leader的状态,observer的目的是为了扩展系统,提高读取速度
  » 客户端(client),请求发起方

    https://i-blog.csdnimg.cn/blog_migrate/c811584f23159eb085a26314be0c9038.png

    https://i-blog.csdnimg.cn/blog_migrate/8949b59d5d6f1a1651142320c2a8f387.jpeg  

  • Zookeeper的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式,它们分别是恢复模式(选主)和广播模式(同步)。当服务启动或者在领导者崩溃后,Zab就进入了恢复模式,当领导者被选举出来,且大多数Server完成了和leader的状态同步以后,恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

  • 为了保证事务的顺序一致性,zookeeper采用了递增的事务id号(zxid)来标识事务。所有的提议(proposal)都在被提出的时候加上了zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一个新的epoch,标识当前属于那个leader的统治时期。低32位用于递增计数。
  • 每个Server在工作过程中有三种状态:
    LOOKING:当前Server不知道leader是谁,正在搜寻
    LEADING:当前Server即为选举出来的leader
    FOLLOWING:leader已经选举出来,当前Server与之同步

什么是Zookeeper Zookeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。ZooKeeper本身可以以单机模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。 1、Zookeeper是为别的分布式程序服务的 2、Zookeeper本身就是一个分布式程序(只要有半数以上节点存活,zk就能正常服务) 3、Zookeeper所提供的服务涵盖:主从协调、服务器节点动态上下线、统一配置管理、分布式共享锁、统> 一名称服务等 4、虽然说可以提供各种服务,但是zookeeper在底层其实只提供了两个功能: 管理(存储,读取)用户程序提交的数据(类似namenode中存放的metadata);  并为用户程序提供数据节点监听服务; Zookeeper集群机制 Zookeeper集群的角色: Leaderfollower  只要集群中有半数以上节点存活,集群就能提供服务 Zookeeper特性 1、Zookeeper:一个leader,多个follower组成的集群 2、全局数据一致:每个server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的 3、分布式读写,更新请求转发,由leader实施 4、更新请求顺序进行,来自同一个client的更新请求按其发送顺序依次执行 5、数据更新原子性,一次数据更新要么成功,要么失败 6、实时性,在一定时间范围内,client能读到最新数据 Zookeeper数据结构 1、层次化的目录结构,命名符合常规文件系统规范(类似文件系统)    2、每个节点在zookeeper中叫做znode,并且其有一个唯一的路径标识  3、节点Znode可以包含数据和子节点(但是EPHEMERAL类型的节点不能有子节点) 节点类型  a、Znode有两种类型: 短暂(ephemeral)(create -e /app1/test1 “test1” 客户端断开连接zk删除ephemeral类型节点)  持久(persistent) (create -s /app1/test2 “test2” 客户端断开连接zk不删除persistent类型节点) b、Znode有四种形式的目录节点(默认是persistent ) PERSISTENT  PERSISTENT_SEQUENTIAL(持久序列/test0000000019 )  EPHEMERAL  EPHEMERAL_SEQUENTIAL c、创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护          d、在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序 Zookeeper应用场景 数据发布与订阅(配置中心) 发布与订阅模型,即所谓的配置中心,顾名思义就是发布者将数据发布到ZK节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。例如全局的配置信息,服务式服务框架的服务地址列表等就非常适合使用。 负载均衡 这里说的负载均衡是指软负载均衡。在分布式环境中,为了保证高可用性,通常同一个应用或同一个服务的提供方都会部署多份,达到对等服务。而消费者就须要在这些对等的服务器中选择一个来执行相关的业务逻辑,其中比较典型的是消息中间件中的生产者,消费者负载均衡。 消息中间件中发布者和订阅者的负载均衡,linkedin开源的KafkaMQ和阿里开源的 metaq都是通过zookeeper来做到生产者、消费者的负载均衡。这里以metaq为例如讲下: 生产者负载均衡:metaq发送消息的时候,生产者在发送消息的时候必须选择一台broker上的一个分区来发送消息,因此metaq在运行过程中,会把所有broker和对应的分区信息全部注册到ZK指定节点上,默认的策略是一个依次轮询的过程,生产者在通过ZK获取分区列表之后,会按照brokerId和partition的顺序排列组织成一个有序的分区列表,发送的时候按照从头到尾循环往复的方式选择一个分区来发送消息。 消费负载均衡: 在消费过程中,一个消费者会消费一个或多个分区
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值