服务器动态上下线监听
需求
在我们的分布式系统中，有多台服务器节点，我们希望任意一台客户端都能实时收到服务器节点的上下线。
实现
服务器节点上线以后自动去zookeeper目录注册自己的节点信息（创建Znode临时节点），这就需要我们创建一个永久目录节点 servers 来供服务器集群在这之下创建临时节点。
客户端监听zookeeper目录下节点的变化。
ZooKeeper可以监听到七种类型变化：
- None：连接建立事件
- NodeCreated：节点创建
- NodeDeleted：节点删除
- NodeDataChanged：节点数据变化
- NodeChildrenChanged：子节点列表变化
- DataWatchRemoved：节点监听被移除
- ChildWatchRemoved：子节点监听被移除
DistributeClient
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;
public class DistributeClient {
private String connectionString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";
private int sessionTimeOut = 2000;
private ZooKeeper zk;
public static void main(String[] args) throws InterruptedException, KeeperException, IOException {
DistributeClient client = new DistributeClient();
//1.获取zookeeper连接
client.getConnection();
//2.监听/servers 下面子节点的变化
client.getServerList();
//3.业务逻辑
client.business();
}
private void business() throws InterruptedException {
Thread.sleep(Long.MAX_VALUE);
}
private void getServerList() throws InterruptedException, KeeperException {
//设置一直监听 它会自动走初始化ZooKeeper时指定的监听器方法process()
List<String> children = zk.getChildren("/servers", true);
//存储主机名称
ArrayList<String> servers = new ArrayList<>();
for (String child : children) {
byte[] data = zk.getData("/servers/" + child, false, null);
servers.add(new String(data));
}
//直接打印List集合
System.out.println(servers);
}
private void getConnection() throws IOException {
zk = new ZooKeeper(connectionString , sessionTimeOut, new Watcher() {
@Override
public void process(WatchedEvent watchedEvent) {
try {
//一直监听
getServerList();
} catch (InterruptedException | KeeperException e) {
e.printStackTrace();
}
}
});
}
}
DistributeServer
import org.apache.zookeeper.*;
import org.apache.zookeeper.data.Id;
import java.io.IOException;
public class DistributeServer {
private String connectionString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";
private int sessionTimeOut = 2000;
private ZooKeeper zk;
public static void main(String[] args) throws IOException, InterruptedException, KeeperException {
DistributeServer server = new DistributeServer();
//1.连接zookeeper集群
server.getConnection();
//2.注册Znode到zookeeper目录
server.register("hadoop102");
//3.启动业务逻辑
server.business();
}
private void business() throws InterruptedException {
Thread.sleep(Long.MAX_VALUE);
}
private void register(String hostname) throws InterruptedException, KeeperException {
String s = zk.create("/servers/" + hostname, hostname.getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
System.out.println(hostname+" is online !");
}
private void getConnection() throws IOException {
zk = new ZooKeeper(connectionString, sessionTimeOut, new Watcher() {
@Override
public void process(WatchedEvent watchedEvent) {
}
});
}
}
测试
测试时，zookeeper集群必须开启，因为我们需要通过API来连接我们的zookeeper集群才能实现节点的创建。此外，我们的服务器地址映射需要再windows端进行配置后才能使用，或者直接使用服务器的 ip 。
命令行测试
开启客户端集群，再通过命令行来模拟服务器集群测试客户端的监听效果。
运行DistributeClient ，观察控制台输出：
模拟服务器测试
运行DistributeServer来模拟服务器hadoop102上线，观察DistributeServer控制台的输出：
停止运行DistributeServer，意味着服务器下线，临时节点也就自动删除了。
分布式锁案例
单机情况下也就是只有一个进程的情况下使用Synchronized是可以保证线程安全的。但是分布式情况下是多个不同的进程，而不是一个进程里面不同的线程，所以Synchronized是无法保证多个进程安全的。
定义
互斥是我们分布式系统同步化问题中的一个重要部分，ZooKeeper帮我们解决了这一问题。 分布式系统的基础是多进程之间并发和协作，不同进程将需要同时访问相同的资源，为了保证这种并发访问不会崩溃资源或使其不一致，需要保证进程的互斥访问，当一个进程使用某个共享资源，其他进程不允许对这个资源操作。
过程
- 多个客户端对某一共享资源进行访问请求
- zookeeper收到请求之后，在zookeeper的 /locks 目录下创建多个临时带序列编号节点，代表每个客户端的请求。
- 编号最小的请求节点优先获得锁，进行资源的访问，此时其它请求节点不允许访问该资源。
- 其它请求节点会监听自己前一个编号小的请求，监听前一个请求节点是否已经释放掉锁。
- 如果前一个请求节点完成之后释放掉锁自己就立即拿到锁，重复第3部
实现
分布式锁对象 DistributeLock
Hadoop集群中不同的节点之间需要协作完成各种任务。这就需要多个节点在同一时间对某一个资源进行访问，并防止并发冲突。Zookeeper提供了分布式锁机制，可以提供多个节点之间的同步和互斥，避免数据不一致等问题。
在zookeeper中，我们每个需要互斥访问的请求任务都会有一把锁（每个任务一把锁），对应到这个案例是每个 /locks 下的任务节点都有一把自己的锁，每把锁都有两个功能（上锁和解锁），当自己拿到资源的时候就上锁，避免别的进程来访问，当自己使用完之后，就解锁，供其它任务节点按照顺序使用。
import org.apache.zookeeper.*;
import org.apache.zookeeper.data.Stat;
import java.io.IOException;
import java.util.Collections;
import java.util.List;
import java.util.concurrent.CountDownLatch;
public class DistributeLock {
//配置多个zookeeper服务器
private final String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181";
//设置客户端连接的最大时间 ms
private final int sessionTimeOut = 2000;
private final ZooKeeper zk;
private String lastPath;
private CountDownLatch waitLatch = new CountDownLatch(1);
private CountDownLatch connectLatch = new CountDownLatch(1);
private String currentNode;
public DistributeLock() throws IOException, InterruptedException, KeeperException {
//获取连接 zk
zk = new ZooKeeper(connectString, sessionTimeOut, new Watcher() {
@Override
public void process(WatchedEvent watchedEvent) {
//connectLatch 如果连接上zk 就释放它 不然它会一直阻塞
if (watchedEvent.getState()==Event.KeeperState.SyncConnected){
connectLatch.countDown();
}
//如果前一个请求节点释放了锁(前一个节点在释放锁之后会被自动删除 这样我们就可以监听到)
if (watchedEvent.getType()==Event.EventType.NodeDeleted && watchedEvent.getPath().equals(lastPath)){
waitLatch.countDown();
}
}
});
//等待zk正常连接后才能继续往下走
connectLatch.await();
//判断根节点/locks是否存在
Stat stat = zk.exists("/locks", false);
if (stat == null){
//创建一个永久节点
zk.create("/locks","locks".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT);
}
}
//对资源上锁
public void zkLock() throws InterruptedException, KeeperException {
//创建临时带序号节点
currentNode = zk.create("/locks/" + "tmp-", null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
//判断当前任务节点是不是最小的节点
List<String> children = zk.getChildren("/locks", false);
//如果节点/locks目录下只有一个节点
if (children.size()==1){
return;
}else {
Collections.sort(children);
//获取节点名称 tmp-000000
String thisNode = currentNode.substring("/locks/".length());
//通过节点名称来获取到集合中的位置
int index = children.indexOf(thisNode);
//
if (index == -1){
System.err.println("数据异常");
}else if(index == 0){//说明自己就是第一个节点 拿到锁
return;
}else {
//前一个节点 = 当前节点序号 - 1
lastPath = "/locks/"+children.get(index - 1);
//需要监听前一个节点锁的情况 这里设置监听 需要再初始化ZooKeeper中实现process的逻辑代码
zk.getData(lastPath, true, null);
//等待监听
waitLatch.await();
return;
}
}
}
//解锁
public void unLock() throws InterruptedException, KeeperException {
//删除节点
zk.delete(currentNode,-1);
}
}
模拟任务节点使用分布式锁的过程
开启两个线程来模拟两个请求任务同时被记录到 /locks 目录节点下，当其中一个线程占用了资源（上了锁），另一个线程就只能等待其释放锁。
import org.apache.zookeeper.KeeperException;
import java.io.IOException;
public class DistributeLockTest {
public static void main(String[] args) throws IOException, InterruptedException, KeeperException {
DistributeLock lock1 = new DistributeLock();
DistributeLock lock2 = new DistributeLock();
//开启两个线程
new Thread(new Runnable() {
@Override
public void run() {
try {
lock1.zkLock();
System.out.println("线程1启动 获取到锁");
Thread.sleep(5000);
lock1.unLock();
System.out.println("线程1 释放锁");
} catch (InterruptedException | KeeperException e) {
e.printStackTrace();
}
}
}).start();
new Thread(new Runnable() {
@Override
public void run() {
try {
lock2.zkLock();
System.out.println("线程2启动 获取到锁");
Thread.sleep(5000);
lock1.unLock();
System.out.println("线程2 释放锁");
} catch (InterruptedException | KeeperException e) {
e.printStackTrace();
}
}
}).start();
}
}
此时，变化
Curator框架实现分布式锁
依赖
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>4.2.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>4.2.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-client</artifactId>
<version>4.2.0</version>
</dependency>可重入锁
可重入锁（Reentrant Lock）是一种支持重进入的锁。重进入是指可以多次获得同一把锁，并且锁释放的次数与获得的次数相同。
例如，一个线程在持有锁时可以再次获取该锁，而不会被阻塞，同时该线程释放该锁的次数与锁的次数相同，直到该线程完全释放该锁。
这种锁的主要作用是避免线程死锁，并提高锁的性能。在多层，递归或嵌套调用方法时，使用可重入锁将十分方便，因为锁可以重复获得而不被其他线程影响。可重入锁是Java并发编程中一种非常重要的锁机制。
代码实现
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.framework.recipes.locks.InterProcessMutex;
import org.apache.curator.retry.ExponentialBackoffRetry;
public class CuratorLockTest {
public static void main(String[] args) {
//1.创建分布式锁1
InterProcessMutex lock1 = new InterProcessMutex(getCuratorFramework(), "/locks");
//2.创建分布式锁2
InterProcessMutex lock2 = new InterProcessMutex(getCuratorFramework(), "/locks");
new Thread(new Runnable() {
@Override
public void run() {
try {
//拿到锁
lock1.acquire();
System.out.println("线程1 拿到锁");
//实现可重入锁
lock1.acquire();
System.out.println("线程1 再次获取到锁");
Thread.sleep(5000);
lock1.release();
System.out.println("线程1 释放锁");
lock1.release();
System.out.println("线程1 再次释放锁");
} catch (Exception e) {
e.printStackTrace();
}
}
}).start();
new Thread(new Runnable() {
@Override
public void run() {
try {
//拿到锁
lock2.acquire();
System.out.println("线程2 拿到锁");
//实现可重入锁
lock2.acquire();
System.out.println("线程2 再次获取到锁");
Thread.sleep(5000);
lock2.release();
System.out.println("线程2 释放锁");
lock2.release();
System.out.println("线程2 再次释放锁");
} catch (Exception e) {
e.printStackTrace();
}
}
}).start();
}
private static CuratorFramework getCuratorFramework() {
//连接失败的话 每3s重新尝一次 尝试3次
ExponentialBackoffRetry policy = new ExponentialBackoffRetry(3000, 3);
CuratorFramework client = CuratorFrameworkFactory.builder().connectString("hadoop102:2181,hadoop103:2181,hadoop104:2181")
.connectionTimeoutMs(2000)
.sessionTimeoutMs(2000)
.retryPolicy(policy).build();
//启动客户端
client.start();
System.out.println("zookeeper连接成功");
return client;
}
}
960
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
