今天分享Netty 相关服务器推送技术-短轮询和 Comet:
首先,服务器推送技术干嘛用?就是让用户在使用网络应用的时候,不需要一遍又一遍的去手动刷新就可以及时获得更新的信息。大家平时在上各种视频网站时,对视频节目进行欢乐的吐槽和评论,会看到各种弹幕,当然,他们是用 flash
技术实现的,对于我们没有用
flash
的应用,一样可以实现弹幕。又比如在股票网站,往往可以看到,各种股票信息的实时刷新,上面的这些都是基于服务器推送技术。
一、Ajax
短轮询
就是用一个定时器不停的去网站上请求数据。
二、Comet
“
服务器推
”
是一种很早就存在的技术,以前在实现上主要是通过客户端的套接口,或是服务器端的远程调用。因为浏览器技术的发展比较缓慢,没有为“
服务器推
”
的实现提供很好的支持,在纯浏览器的应用中很难有一个完善的方案去实现“
服务器推
”
并用于商业程序。因为 AJAX
技术的普及,
gmail
等等在实现中使用了这些新技术;同时
“
服务器推
”
在现实应用中确实存在很多需求。称这种基于 HTTP
长连接
、无须在浏览器端安装插件的
“
服务器推
” 技术为“Comet”
。
三、基于
AJAX
的长轮询
DeferredResult:
Spring mvc 的控制层接收用户的请求之后,如果要采用异步处理,那么就要返回DeferedResult<>泛型对象。在调用完控制层之后,立即回返回 DeferedResult 对象,此时
驱动控制层的容器主线程,可以处理更多的请求。可以将 DeferedResult 对象作为真实响应数据的代理,而真实的数据是该对象的成员变量 result,它可以是 String 类型,或者 ModelAndView 类型等。业务处理完毕之后,要执行 setResult 方法,将真实的响应数据赋值到 DeferedResult 对象中。此时,异步线程会唤醒容器主线程。那么容器主线程会继续执行 getResult 方法,将真实数据响应到客户端。
四、SSE
严格地说,
HTTP
协议
无法做到服务器主动推送信息。但是,有一种变通方法,就是服务器向客户端声明,接下来要发送的是流信息(streaming
)。 也就是说,发送的不是一次性的数据包,而是一个数据流,会连续不断地发送过来。这时,客户端不会关闭连接,会一直等着服务器发过来的新的数据流,视频播放就是这样的例子。本质上,这种通信就是以流信息的方式,完成一次用时很长的下载。SSE 就是利用这种机制,使用流信息向浏览器推送信息。它基于
HTTP
协议,目前除了IE/Edge,其他浏览器都支持。SSE 与 WebSocket
作用相似,都是建立浏览器与服务器之间的通信渠道,然后服务器向浏览器推送信息。总体来说,
WebSocket
更强大和灵活。因为它是全双工通道,可以双向通信;
SSE
是单向通道,只能服务器向浏览器发送,因为流信息本质上就是下载。如果浏览器向服务器发送信息,就变成了另一次 HTTP
请求。
1、SSE
也有自己的优点。
1)、
SSE 使用
HTTP
协议,现有的服务器软件都支持。
WebSocket
是一个独立协议。
2)、
SSE 属于轻量级,使用简单;
WebSocket
协议相对复杂。
3)、
SSE 默认支持断线重连,
WebSocket
需要自己实现。
4)、SSE 一般只用来传送文本,二进制数据需要编码后传送,WebSocket
默认支持传送二进制数据。
5)、
SSE 支持自定义发送的消息类型。
2、HTTP
头信息
服务器向浏览器发送的
SSE
数据,必须是
UTF-8
编码的文本,具有如下的
HTTP
头信
息。
Content-Type: text/event-stream
Cache-Control: no-cache
Connection: keep-alive
上面三行之中,第一行的
Content-Type
必须指定
MIME
类型为
event-steam
。
3、信息格式
每一次发送的信息,由若干个
message
组成,每个
message
之间用
\n\n
分隔。每个message 内部由若干行组成,每一行都是如下格式。
[field]: value\n
上面的
field
可以取四个值。
1)、
data
2)、
event
3)、
id
4)、
retry
此外,还可以有冒号开头的行,表示注释。通常,服务器每隔一段时间就会向浏览器发送一个注释,保持连接不中断。例子 : this is a test stream\n\n
4、data
字段
数据内容用
data
字段表示。
data: message\n\n
如果数据很长,可以分成多行,最后一行用
\n\n
结尾,前面行都用
\n
结尾。
data: begin message\n
data: continue message\n\n
下面是一个发送
JSON
数据的例子。
data: {\n
data: "foo": "bar",\n
data: "baz", 555\ndata: }\n\n
5、id 字段
数据标识符用
id
字段表示,相当于每一条数据的编号。
id: msg1\n
data: message\n\n
浏览器用
lastEventId
属性读取这个值。一旦连接断线,浏览器会发送一个
HTTP
头, 里面包含一个特殊的 Last-Event-ID
头信息,将这个值发送回来,用来帮助服务器端重建连接。 因此,这个头信息可以被视为一种同步机制。
6、event
字段
event
字段表示自定义的事件类型,默认是
message
事件。浏览器可以用addEventListener()监听该事件。
event: foo\n
data: a foo event\n\n
data: an unnamed event\n\n
event: bar\n
data: a bar event\n\n
上面的代码创造了三条信息。第一条的名字是
foo
,触发浏览器的
foo
事件;第二条未取名,表示默认类型,触发浏览器的 message
事件;第三条是
bar
,触发浏览器的
bar
事件。
7、retry
字段
服务器可以用
retry
字段,指定浏览器重新发起连接的时间间隔。
retry: 10000\n
两种情况会导致浏览器重新发起连接:一种是时间间隔到期,二是由于网络错误等原因,导致连接出错。
五、技术比较
京东用的什么?
Ajax
短轮询,
这说明什么?这些技术并没有什么优劣之分,只有合不合适业务的问题。京东的痛点是什么?要用有限的资源来为千万级甚至上亿的用户提供服务,如果是用长连接,对于接入的服务器,比如说 Nginx
,是很大的压力,光是为用户维持这个长连接都需要成百上千的 Nginx
的服务器,这是很划不来的。因为对于京东这类购物网站来说,用户的浏览查询量是远远大于用户下单量的,京东需要注重的是服务更多的用户,而且相对于用户浏览页面的图片等等的流量而言,这点带宽浪费占比是很小的。所以我们看京东的付款后的实现,是用的短轮询机制,而且时长放大到了 5
秒。
SSE
和
WebSocket
相比的优势。最大的优势就是便利:不需要添加任何新组件,用任何你习惯的后端语言和框架就能继续使用。你不用为新建虚拟机、弄一个新的 IP
或新的端口号而劳神,就像在现有网站中新增一个页面那样简单。可以称为既存基础设施优势。SSE 的第二个优势是服务端的简洁。相对而言,
WebSocket
则很复杂,不借助辅助类库基本搞不定。WebSocket
能做的,
SSE
也能做,反之亦然,但在完成某些任务方面,它们各有千秋。WebSocket
是一种更为复杂的服务端实现技术,但它是真正的双向传输技术,既能从服务端向客户端推送数据,也能从客户端向服务端推送数据。
到此,Netty 相关服务器推送技术理论分享完毕,下篇我们分析服务推送的实战应用。