如何实现高性能的异步网络传输
异步和同步模型最大的区别:同步模型会阻塞线程等待资源,而异步模型不会,它是等资源准备好后,再通知业务代码来完成后续的资源处理逻辑。这种异步设计的方法,很好地解决IO等待的问题。
IO密集型系统大部分时间都在执行IO操作,主要包括网络IO和磁盘IO,以及与计算机连接的一些外围设备的访问。
现在更加关注的是如何实现高性能的异步网络传输。
1.理想的异步网络框架应该是什么样的
一个TCP连接建立后,用户代码会获得一个用于收发数据的通道,每个通道会在内存中开辟两片区域用于收发数据的缓存。
1.1 发送数据
比较简单
直接往这个通道来写入数据就可以。用户代码在发送时写入的数据会暂存在缓存中,然后操作系统会通过网卡,把发送缓存中数据传输到对端的服务器上。
只要这个缓存不满,或者说,我们发送数据的速度没有超过网卡传输速度的上限,那这个发送数据的操作耗时,只不过是一次内存写入的时间,这个时间是非常快的。所以,发送数据的时候同步发送就可以了,没有必要异步。
1.2 接收数据
比较麻烦
对于数据的接收方来说,它并不知道什么时候会受到数据。方法:用一个线程阻塞在那儿等着数据,当有数据到来的时候,操作系统会先把数据写入接收缓存,然后给接收数据的线程发一个通知,线程收到通知后结束等待,开始读取数据。处理完这一批数据后,继续阻塞等待下一批数据到来,这样周而复始。
处理少量连接没有什么问题,如果同时处理非常多的连接,同步的网络IO模型就有点力不从心了。
因为,每个连接都需要阻塞一个线程来等待数据,当这些TCP连接都在进行数据收发的时候,会有大量的线程抢占CPU的时间,造成频繁的CPU上下文切换,导致CPU的负载升高,整个系统的性能会变慢。
一个好的异步网络框架,无非就是只用少量的线程就能处理大量的连接,有数据到来的时候能第一时间处理就可以
最简单的方式:事先定义好收到数据后的处理逻辑,把这个处理逻辑作为一个回调方法,在连接建立前就通过框架提供的API设置好。当收到数据的时候,由框架自动来执行这个回调方法就好了。
2. 使用Netty来实现异步网络通信
如何使用Netty实现异步接收数据:
// 创建一组线性
EventLoopGroup group