分布式 WebSocket 集群解决方案

最新推荐文章于 2024-07-25 22:13:53 发布

H编程资料库

最新推荐文章于 2024-07-25 22:13:53 发布

阅读量724

点赞数 28

分类专栏：程序员文章标签：分布式 websocket 网络协议

本文链接：https://blog.csdn.net/2201_75294326/article/details/138547291

版权

程序员专栏收录该内容

262 篇文章 0 订阅

订阅专栏

如果您正在学习Spring Boot，推荐一个连载多年还在继续更新的免费教程：http://blog.didispace.com/spring-boot-learning-2x/

/**

* TODO 根据服务器传进来的id，分配到不同的group

private static final ChannelGroup GROUP = new DefaultChannelGroup(ImmediateEventExecutor.INSTANCE);

@Override

protected void channelRead0(ChannelHandlerContext ctx, TextWebSocketFrame msg) throws Exception {

//retain增加引用计数，防止接下来的调用引用失效

System.out.println("服务器接收到来自 " + ctx.channel().id() + " 的消息： " + msg.text());

//将消息发送给group里面的所有channel，也就是发送消息给客户端

GROUP.writeAndFlush(msg.retain());

}

那么，服务端用netty还是用spring websocket？以下我将从几个方面列举这两种实现方式的优缺点

使用netty实现websocket

玩过netty的人都知道netty是的线程模型是nio模型，并发量非常高，spring5之前的网络线程模型是servlet实现的，而servlet不是nio模型，所以在spring5之后，spring的底层网络实现采用了netty。如果我们单独使用netty来开发websocket服务端，速度快是绝对的，但是可能会遇到下列问题：

与系统的其他应用集成不方便，在rpc调用的时候，无法享受springcloud里feign服务调用的便利性
业务逻辑可能要重复实现
使用netty可能需要重复造轮子
怎么连接上服务注册中心，也是一件麻烦的事情
restful服务与ws服务需要分开实现，如果在netty上实现restful服务，有多麻烦可想而知，用spring一站式restful开发相信很多人都习惯了。

使用spring websocket实现ws服务

spring websocket已经被springboot很好地集成了，所以在springboot上开发ws服务非常方便，做法非常简单

第一步：添加依赖

org.springframework.boot

spring-boot-starter-websocket

第二步：添加配置类

@Configuration

public class WebSocketConfig implements WebSocketConfigurer {

@Override

public void registerWebSocketHandlers(WebSocketHandlerRegistry registry) {

registry.addHandler(myHandler(), “/”)

.setAllowedOrigins(“*”);

}

@Bean

public WebSocketHandler myHandler() {

return new MessageHandler();

}

第三步：实现消息监听类

@Component

@SuppressWarnings(“unchecked”)

public class MessageHandler extends TextWebSocketHandler {

private List clients = new ArrayList<>();

@Override

public void afterConnectionEstablished(WebSocketSession session) {

clients.add(session);

System.out.println(“uri :” + session.getUri());

System.out.println("连接建立: " + session.getId());

System.out.println("current seesion: " + clients.size());

}

@Override

public void afterConnectionClosed(WebSocketSession session, CloseStatus status) {

clients.remove(session);

System.out.println("断开连接: " + session.getId());

}

@Override

protected void handleTextMessage(WebSocketSession session, TextMessage message) {

String payload = message.getPayload();

Map<String, String> map = JSONObject.parseObject(payload, HashMap.class);

System.out.println(“接受到的数据” + map);

clients.forEach(s -> {

try {

System.out.println("发送消息给: " + session.getId());

s.sendMessage(new TextMessage(“服务器返回收到的信息,” + payload));

} catch (Exception e) {

e.printStackTrace();

}

});

}

从这个demo中，使用spring websocket实现ws服务的便利性大家可想而知了。为了能更好地向spring cloud大家族看齐，我最终采用了spring websocket实现ws服务。

因此我的应用服务架构是这样子的：一个应用既负责restful服务，也负责ws服务。没有将ws服务模块拆分是因为拆分出去要使用feign来进行服务调用。第一本人比较懒惰，第二拆分与不拆分相差在多了一层服务间的io调用，所以就没有这么做了。

如果您正在学习Spring Boot，推荐一个连载多年还在继续更新的免费教程：http://blog.didispace.com/spring-boot-learning-2x/

从zuul技术转型到spring cloud gateway

要实现websocket集群，我们必不可免地得从zuul转型到spring cloud gateway。原因如下：

zuul1.0版本不支持websocket转发，zuul 2.0开始支持websocket，zuul2.0几个月前开源了，但是2.0版本没有被spring boot集成，而且文档不健全。因此转型是必须的，同时转型也很容易实现。

在gateway中，为了实现ssl认证和动态路由负载均衡，yml文件中以下的某些配置是必须的，在这里提前避免大家采坑

server:

port: 443

ssl:

enabled: true

key-store: classpath:xxx.jks

key-store-password: xxxx

key-store-type: JKS

key-alias: alias

spring:

application:

name: api-gateway

cloud:

gateway:

httpclient:

ssl:

handshake-timeout-millis: 10000

close-notify-flush-timeout-millis: 3000

close-notify-read-timeout-millis: 0

useInsecureTrustManager: true

discovery:

locator:

enabled: true

lower-case-service-id: true

routes:

- id: dc

uri: lb://dc

predicates:

- Path=/dc/**

- id: wecheck

uri: lb://wecheck

predicates:

- Path=/wecheck/**

如果要愉快地玩https卸载，我们还需要配置一个filter，否则请求网关时会出现错误not an SSL/TLS record

@Component

public class HttpsToHttpFilter implements GlobalFilter, Ordered {

private static final int HTTPS_TO_HTTP_FILTER_ORDER = 10099;

@Override

public Mono filter(ServerWebExchange exchange, GatewayFilterChain chain) {

URI originalUri = exchange.getRequest().getURI();

ServerHttpRequest request = exchange.getRequest();

ServerHttpRequest.Builder mutate = request.mutate();

String forwardedUri = request.getURI().toString();

if (forwardedUri != null && forwardedUri.startsWith(“https”)) {

try {

URI mutatedUri = new URI(“http”,

originalUri.getUserInfo(),

originalUri.getHost(),

originalUri.getPort(),

originalUri.getPath(),

originalUri.getQuery(),

originalUri.getFragment());

mutate.uri(mutatedUri);

} catch (Exception e) {

throw new IllegalStateException(e.getMessage(), e);

}

ServerHttpRequest build = mutate.build();

ServerWebExchange webExchange = exchange.mutate().request(build).build();

return chain.filter(webExchange);

}

@Override

public int getOrder() {

return HTTPS_TO_HTTP_FILTER_ORDER;

}

这样子我们就可以使用gateway来卸载https请求了，到目前为止，我们的基本框架已经搭建完毕，网关既可以转发https请求，也可以转发wss请求。接下来就是用户多对多之间session互通的通讯解决方案了。接下来，我将根据方案的优雅性，从最不优雅的方案开始讲起。

session广播

这是最简单的websocket集群通讯解决方案。场景如下：

教师A想要群发消息给他的学生们

教师的消息请求发给网关，内容包含{我是教师A，我想把xxx消息发送我的学生们}
网关接收到消息，获取集群所有ip地址，逐个调用教师的请求
集群中的每台服务器获取请求，根据教师A的信息查找本地有没有与学生关联的session，有则调用sendMessage方法，没有则忽略请求

session广播实现很简单，但是有一个致命缺陷：计算力浪费现象，当服务器没有消息接收者session的时候，相当于浪费了一次循环遍历的计算力，该方案在并发需求不高的情况下可以优先考虑，实现很容易。

另外，如果您正在学习Spring Cloud，推荐一个连载多年还在继续更新的免费教程：https://blog.didispace.com/spring-cloud-learning/

spring cloud中获取服务集群中每台服务器信息的方法如下

@Resource

private EurekaClient eurekaClient;

Application app = eurekaClient.getApplication(“service-name”);

//instanceInfo包括了一台服务器ip，port等消息

InstanceInfo instanceInfo = app.getInstances().get(0);

System.out.println("ip address: " + instanceInfo.getIPAddr());

服务器需要维护关系映射表，将用户的id与session做映射，session建立时在映射表中添加映射关系，session断开后要删除映射表内关联关系

一致性哈希算法实现（本文的要点）

这种方法是本人认为最优雅的实现方案，理解这种方案需要一定的时间，如果你耐心看下去，相信你一定会有所收获。再强调一次，不了解一致性哈希算法的同学请先看这里，现先假设哈希环是顺时针查找的。

首先，想要将一致性哈希算法的思想应用到我们的websocket集群，我们需要解决以下新问题：

集群节点DOWN，会影响到哈希环映射到状态是DOWN的节点。
集群节点UP，会影响到旧key映射不到对应的节点。
哈希环读写共享。

在集群中，总会出现服务UP/DOWN的问题。

针对节点DOWN的问题分析如下：

一个服务器DOWN的时候，其拥有的websocket session会自动关闭连接，并且前端会收到通知。此时会影响到哈希环的映射错误。我们只需要当监听到服务器DOWN的时候，删除哈希环上面对应的实际结点和虚结点，避免让网关转发到状态是DOWN的服务器上。

实现方法：在eureka治理中心监听集群服务DOWN事件，并及时更新哈希环。

另外，如果您正在学习Spring Cloud，推荐一个连载多年还在继续更新的免费教程：https://blog.didispace.com/spring-cloud-learning/

针对节点UP的问题分析如下：

现假设集群中有服务 CacheB上线了，该服务器的ip地址刚好被映射到key1和 cacheA之间。那么key1对应的用户每次要发消息时都跑去 CacheB发送消息，结果明显是发送不了消息，因为 CacheB没有key1对应的session。

此时我们有两种解决方案。

方案A简单，动作大：

eureka监听到节点UP事件之后，根据现有集群信息，更新哈希环。并且断开所有session连接，让客户端重新连接，此时客户端会连接到更新后的哈希环节点，以此避免消息无法送达的情况。

方案B复杂，动作小：

我们先看看没有虚拟节点的情况，假设 CacheC和 CacheA之间上线了服务器 CacheB。所有映射在 CacheC到 CacheB的用户发消息时都会去 CacheB里面找session发消息。也就是说 CacheB一但上线，便会影响到 CacheC到 CacheB之间的用户发送消息。所以我们只需要将 CacheA断开 CacheC到 CacheB的用户所对应的session，让客户端重连。

接下来是有虚拟节点的情况，假设浅色的节点是虚拟节点。我们用长括号来代表某段区域映射的结果属于某个 Cache。首先是C节点未上线的情况。图大家应该都懂吧，所有B的虚拟节点都会指向真实的B节点，所以所有B节点逆时针那一部分都会映射到B（因为我们规定哈希环顺时针查找）。

接下来是C节点上线的情况，可以看到某些区域被C占领了。

由以上情况我们可以知道：节点上线，会有许多对应虚拟节点也同时上线，因此我们需要将多段范围key对应的session断开连接（上图红色的部分）。具体算法有点复杂，实现的方式因人而异，大家可以尝试一下自己实现算法。

哈希环应该放在哪里？

gateway本地创建并维护哈希环。当ws请求进来的时候，本地获取哈希环并获取映射服务器信息，转发ws请求。这种方法看上去不错，但实际上是不太可取的，回想一下上面服务器DOWN的时候只能通过eureka监听，那么eureka监听到DOWN事件之后，需要通过io来通知gateway删除对应节点吗？显然太麻烦了，将eureka的职责分散到gateway，不建议这么做。
eureka创建，并放到redis共享读写。这个方案可行，当eureka监听到服务DOWN的时候，修改哈希环并推送到redis上。为了请求响应时间尽量地短，我们不可以让gateway每次转发ws请求的时候都去redis取一次哈希环。哈希环修改的概率的确很低，gateway只需要应用redis的消息订阅模式，订阅哈希环修改事件便可以解决此问题。

最后

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数初中级Android工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。

因此收集整理了一份《2024年Web前端开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Android开发知识点！不论你是刚入门Android开发的新手，还是希望在技术上不断提升的资深开发者，这些资料都将为你打开新的学习之门！

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！
OPPO等大厂，18年进入阿里一直到现在。**

深知大多数初中级Android工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。

[外链图片转存中…(img-l9Ozxsoy-1715090106728)]

[外链图片转存中…(img-qSJ8AclI-1715090106728)]

[外链图片转存中…(img-rLvW2qIC-1715090106729)]

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

H编程资料库

关注

28
点赞
踩
27

收藏

觉得还不错? 一键收藏
0
评论
分布式 WebSocket 集群解决方案

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。深知大多数初中级Android工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。因此收集整理了一份《2024年Web前端开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Android开发知识点！
复制链接

扫一扫