分布式协调工具-Zookeeper

概念

Zookeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。ZooKeeper本身可以以单机模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。

1、Zookeeper是为别的分布式程序服务的

2、Zookeeper本身就是一个分布式程序(只要有半数以上节点存活,zk就能正常服务)

3、Zookeeper所提供的服务涵盖:主从协调、服务器节点动态上下线、统一配置管理、分布式共享锁、统> 一名称服务等

4、虽然说可以提供各种服务,但是zookeeper在底层其实只提供了两个功能:

1)管理(存储,读取)用户程序提交的数据(类似namenode中存放的metadata)
2)用户程序提供数据节点监听服务

 特性

1、Zookeeper:一个leader,多个follower组成的集群

2、全局数据一致:每个server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的

3、分布式读写,更新请求转发,由leader实施

4、更新请求顺序进行,来自同一个client的更新请求按其发送顺序依次执行

5、数据更新原子性,一次数据更新要么成功,要么失败

6、实时性,在一定时间范围内,client能读到最新数据

数据结构

  • 层次化的目录结构,命名符合常规文件系统规范(类似文件系统)
  • 每个节点在zookeeper中叫做znode,并且其有一个唯一的路径标识
  • 节点Znode可以包含数据和子节点

Znode

节点类型

临时节点(ephemeral)当前节点和会话保持连接,如果连接断开,那么该节点也会被删除
持久节点(persistent)创建节点,持久化在硬盘上

四种形式的目录节点

PERSISTENT (默认是persistent )
PERSISTENT_SEQUENTIAL(持久序列/test000000001 ) 
EPHEMERAL 
EPHEMERAL_SEQUENTIAL(持久序列/test000000001)

节点事件通知

每个节点都有事件通知,对该节点发生删除修改添加等操作,都会有事件通知(类似于消息中间件)。

Zookeeper应用场景

数据发布与订阅(分布式配置中心)

       发布与订阅模型,即所谓的配置中心,顾名思义就是发布者将数据发布到ZK节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。例如全局的配置信息,服务式服务框架的服务地址列表等就非常适合使用。

命名服务(分布式注册中心)

public class ZkServerScoket{
    private static int port = 8080;
    public ZkServerScoket(int port) {
		this.port = port;
    }
    // 启动注册服务
	private void regServer() {
		//1.建立zk连接
		ZkClient zkClient = new ZkClient("127.0.0.1:2181", 6000, 1000);
		//2.先创建父节点(根节点)
		String root = "/test/server/";
		if (!zkClient.exists(root)) {
			//如果根节点不存在(持久)
			zkClient.createPersistent(root);
		}
		//3.创建子节点
		String nodeName = root + port;
		if (zkClient.exists(nodeName)) {
			zkClient.delete(nodeName);
		}
		// 创建临时节点
		zkClient.createEphemeral(nodeName, "127.0.0.1:" + port);
	}
}

负载均衡

核心思想就是:服务启动的时候,在ZK上创建一个临时节点。而在客户端调用的时候,直接查询ZK下面所有子节点,获取子节点后,本地使用负载均衡算法实现调用。

public class ZkServerClient {

	//注册的服务
	public static List<String> listServer = new ArrayList<String>();
	public static String parent = "/test/server";
	// 请求次数
	private static int reqestCount = 1;
	// 服务数量
	private static int serverCount = 0;

	// 注册所有server
	public static void initServer() {
		final ZkClient zkClient = new ZkClient("127.0.0.1:2181", 6000, 1000);
		List<String> children = zkClient.getChildren(parent);
		getChilds(zkClient, children);
		// 在根节点上设置监听事件
		zkClient.subscribeChildChanges(parent, new IZkChildListener() {
			public void handleChildChange(String parentPath, List<String> currentChilds) throws Exception {
				getChilds(zkClient, currentChilds);
			}
		});
	}

	private static void getChilds(ZkClient zkClient, List<String> currentChilds) {
		listServer.clear();
		for (String p : currentChilds) {
			String pathValue = (String) zkClient.readData(parent + "/" + p);
			listServer.add(pathValue);
		}
		serverCount = listServer.size();
	}

	// 获取当前server信息 实现负载均衡
	public static String getServer() {
		//初始化服务
		initServer();
		// 实现负载均衡
		String serverName = listServer.get(reqestCount % serverCount);
		++reqestCount;
		return serverName;
	}

	public static void main(String[] args) {
		String server = getServer();
		System.out.println("调用的服务端口号是"+server);
	}
}

Zookeeper实现哨兵机制

原理:多个服务器在启动的时候,会在Zookeeper上创建相同的临时节点,谁能狗创建成功,谁就为主(节点保证唯一),如果主服务器宕机后,会话连接也会失效,其他服务器又开始重新选举。

@Component
public class MyApplicationRunner implements ApplicationRunner {
	private ZkClient zkClient = new ZkClient("127.0.0.1:2181");
	private String path = "/election";
	@Value("${server.port}")
	private String serverPort;

	// 启动后执行方法
	public void run(ApplicationArguments args) throws Exception {
		System.out.println("项目启动成功...");
		// 1.项目启动的时候会在zk上创建一个相同的临时节点
		// 2.谁能够创建成功谁就是为主服务器
		createEphemeral();
		// 3.使用服务监听节点是否被删除,如果接受到节点被删除的话,重新开始选举(重新开始创建节点)
		zkClient.subscribeDataChanges(path, new IZkDataListener() {
			// 节点如果被删除后 ,返回通知
			public void handleDataDeleted(String dataPath) throws Exception {
				System.out.println("开始重新选举策略。。。");
				createEphemeral();
			}
			/// 当节点值发生变化的之后,事件通知
			public void handleDataChange(String dataPath, Object data) throws Exception {

			}
		});
	}

	//建立临时节点
	private void createEphemeral() {
		try {
			zkClient.createEphemeral(path);
			System.out.println("serverPort:" + serverPort + ",选举成功....");
		} catch (Exception e) {
			System.out.println("该节点已经存在");
		}
	}
}

这样修改端口号,并启动多个服务,就可以实现哨兵效果了。

什么是Zookeeper Zookeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。ZooKeeper本身可以以单机模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。 1、Zookeeper是为别的分布式程序服务的 2、Zookeeper本身就是一个分布式程序(只要有半数以上节点存活,zk就能正常服务) 3、Zookeeper所提供的服务涵盖:主从协调、服务器节点动态上下线、统一配置管理、分布式共享锁、统> 一名称服务等 4、虽然说可以提供各种服务,但是zookeeper在底层其实只提供了两个功能: 管理(存储,读取)用户程序提交的数据(类似namenode中存放的metadata);  并为用户程序提供数据节点监听服务; Zookeeper集群机制 Zookeeper集群的角色: Leader 和 follower  只要集群中有半数以上节点存活,集群就能提供服务 Zookeeper特性 1、Zookeeper:一个leader,多个follower组成的集群 2、全局数据一致:每个server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的 3、分布式读写,更新请求转发,由leader实施 4、更新请求顺序进行,来自同一个client的更新请求按其发送顺序依次执行 5、数据更新原子性,一次数据更新要么成功,要么失败 6、实时性,在一定时间范围内,client能读到最新数据 Zookeeper数据结构 1、层次化的目录结构,命名符合常规文件系统规范(类似文件系统)    2、每个节点在zookeeper中叫做znode,并且其有一个唯一的路径标识  3、节点Znode可以包含数据和子节点(但是EPHEMERAL类型的节点不能有子节点) 节点类型  a、Znode有两种类型: 短暂(ephemeral)(create -e /app1/test1 “test1” 客户端断开连接zk删除ephemeral类型节点)  持久(persistent) (create -s /app1/test2 “test2” 客户端断开连接zk不删除persistent类型节点) b、Znode有四种形式的目录节点(默认是persistent ) PERSISTENT  PERSISTENT_SEQUENTIAL(持久序列/test0000000019 )  EPHEMERAL  EPHEMERAL_SEQUENTIAL c、创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护          d、在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序 Zookeeper应用场景 数据发布与订阅(配置中心) 发布与订阅模型,即所谓的配置中心,顾名思义就是发布者将数据发布到ZK节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。例如全局的配置信息,服务式服务框架的服务地址列表等就非常适合使用。 负载均衡 这里说的负载均衡是指软负载均衡。在分布式环境中,为了保证高可用性,通常同一个应用或同一个服务的提供方都会部署多份,达到对等服务。而消费者就须要在这些对等的服务器中选择一个来执行相关的业务逻辑,其中比较典型的是消息中间件中的生产者,消费者负载均衡。 消息中间件中发布者和订阅者的负载均衡,linkedin开源的KafkaMQ和阿里开源的 metaq都是通过zookeeper来做到生产者、消费者的负载均衡。这里以metaq为例如讲下: 生产者负载均衡:metaq发送消息的时候,生产者在发送消息的时候必须选择一台broker上的一个分区来发送消息,因此metaq在运行过程中,会把所有broker和对应的分区信息全部注册到ZK指定节点上,默认的策略是一个依次轮询的过程,生产者在通过ZK获取分区列表之后,会按照brokerId和partition的顺序排列组织成一个有序的分区列表,发送的时候按照从头到尾循环往复的方式选择一个分区来发送消息。 消费负载均衡: 在消费过程中,一个消费者会消费一个或多个分区
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值