2、深究pipeline
在上述简介中,提到了管道技术优化的是网络传输的耗时时间,这里通过Redis客户端-服务端的一次完整的网络请求来回,深入探索pipeline的本质。
-
客户端调用write将数据写入操作系统内核(kernel)为socket连接分配的发送缓冲区(send buffer)
-
客户端操作系统内核将发送缓冲区(send buffer)的数据发送到网卡(NIC)
-
网卡(NIC)将数据通过路由(route)将数据送到Redis服务器机器网卡(NIC)
-
服务器操作系统内核(kernel)将网卡(NIC)接收的数据,写入内核为socket分配的接收缓冲区(recv buffer)
-
服务器进程从接收缓冲区调用read读取数据,并进行数据逻辑处理
-
数据处理完成之后,服务器进程调用write将响应数据写入操作系统内核为socket分配的发送缓冲区
-
操作系统内核将发送缓冲区的数据发送到服务器网卡
-
服务器网卡将响应数据通过路由发送到客户端网卡
-
客户端网卡接收响应数据
-
客户端操作系统内核读取网卡接收到的服务器响应数据,并写入操作系统为socket连接分配的介绍缓冲区
-
客户端进程调用read从接收缓冲区中读取服务器响应数据
-
一次完整网络请求来回过程结束
对于pipeline技术而言,就是将n * 12个步骤,合并成1 * 12,这样服务请求响应的总体时间将会大大的减少。
有个值得注意的点:
在上述网络请求来回中,可能出现我们经常说到的io阻塞:
-
当write操作发生,并且发送缓冲区(send buffer)满时,就会导致write操作阻塞
-
当read操作发生,并且接收缓冲区(recv buffer)满时,就会导致read操作阻塞
上述的这两个阻塞如果出现,将会导致整个请求时间变长,因此我们操作大批量指令的时候,比如10k个指令,我们可以合理的对指令分多次批量发送,这样可以减少出现阻塞的情况,也可以避免服务器响应一个过大的答复包,导致客户端内存负载过重。
3、benchmark压测pipeline
使用Redis提供的benchmark对Redis进行性能测试,
如过你是Windows下的Redis,在安装目录下有个redis-benchmark.exe,进入cmd命令模式测试即可
如果你是在Linux下的redis,在安装目录的src目录下有个redis-benchmark
redis-benchmark的全部指令参数如下所示,我们这里测试pipeline,需要使用-P
| 指令名称 | 描述 | 默认值 |
| — | — | — |
| -h | 指定Redis服务器hostname | 127.0.0.1 |
| -p | 指定Redis服务器端口 | 6379 |
| -s | 指定Redis服务器Server Socket | |
| -a | 指定Redis服务器密码 | |
| -c | 指定客户端并发数 | 50 |
| -n | 指定总请求数 | 100000 |
| -dbnum | 指定Redis数据库 | 0 |
| -k | 1=keep alive 0=reconnect | 1 |
| -r | 使用随机key,value 对相关指令进行压测 | |
| -P | 使用管道(pipeline) | 1(no pipeline) |
| -q | 强制退出Redis,仅展示query/sec | |
| --csv | 使用CSV格式输出 | |
| -l | 循环运行测试 | |
| -t | 运行逗号分隔的测试列表 | |
| -I | Idle模式,仅打开N个idle连接并等待 | |
通过普通方式测试set指令和pipeline方式测试set指令,可以看到Redis服务不同的QPS:
-
普通set方式,Redis QPS 大概在5.3万左右
-
当使用pipeline set时,随着管道内并行请求数量的增加,Redis QPS可以达到100万以上
4、Jedis使用pipeline
测试代码
package com.liziba.redis;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.Pipeline;
import java.io.IOException;
/**
*
* 测试pipeline
*
* @Author: Liziba
* @Date: 2021/9/14 22:43
*/
public class PipelineTest {
public static void main(String[] args) throws IOException {
Jedis client = new Jedis(“127.0.0.1”, 6379);
long startPipe = System.currentTimeMillis();
Pipeline pipe = client.pipelined();
pipe.multi();
for (int i = 0; i < 100000; i++) {
pipe.set(“pipe” + i, i + “” );
}
pipe.exec();
pipe.close();
总结
写到这里也结束了,在文章最后放上一个小小的福利,以下为小编自己在学习过程中整理出的一个关于Flutter的学习思路及方向,从事互联网开发,最主要的是要学好技术,而学习技术是一条慢长而艰苦的道路,不能靠一时激情,也不是熬几天几夜就能学好的,必须养成平时努力学习的习惯,更加需要准确的学习方向达到有效的学习效果。
由于内容较多就只放上一个大概的大纲,需要更及详细的学习思维导图的
还有高级UI、性能优化、架构师课程、NDK、混合式开发(ReactNative+Weex)微信小程序、Flutter全方面的Android进阶实践技术资料,并且还有技术大牛一起讨论交流解决问题。
《Android学习笔记总结+移动架构视频+大厂面试真题+项目实战源码》,点击传送门,即可获取!
DK、混合式开发(ReactNative+Weex)微信小程序、Flutter全方面的Android进阶实践技术资料,并且还有技术大牛一起讨论交流解决问题。**
[外链图片转存中…(img-JG5MqwEq-1715593243827)]
《Android学习笔记总结+移动架构视频+大厂面试真题+项目实战源码》,点击传送门,即可获取!