nvme命令中prp_Linux nvme驱动分析之块设备层

参考

Product Documentation Red Hat Enterprise Linux7 7.2 发行注记 第 14 章 存储

blk_mq

数据缓冲区转换成prp或者sg列表

用户态分配的内存使用blk_rq_map_user，内核态分配的内存使用blk_rq_map_kern，

//xilinx petalinux-v2018.2

blk_rq_map_user

对比来看，

//xilinx petalinux-v2018.2

blk_rq_map_kern

bio_copy_kern //数据buf地址不对齐，硬件能力不支持，该分支应该很少进入，copy会带来性能降低

//类似于bounce buffer回弹缓冲区

bio_map_kern

bio_kmalloc //分配一个bio

bio_add_pc_page //把page循环加入bio

通过上面的操作把request的内存记录到bio中，通过blk_rq_map_sg，形成struct scatterlist *sg，prp或者sg列表是通过nvme_setup_prps基于struct scatterlist *sg构造的。

IO请求如何下发到SSD

创建队列的时候注册blk_mq_ops，

static const struct blk_mq_ops nvme_mq_admin_ops = {

.queue_rq= nvme_queue_rq,

.complete= nvme_pci_complete_rq,

.init_hctx= nvme_admin_init_hctx,

.exit_hctx = nvme_admin_exit_hctx,

.init_request= nvme_init_request,

.timeout= nvme_timeout,

};

static const struct blk_mq_ops nvme_mq_ops = {

.queue_rq= nvme_queue_rq,

.complete= nvme_pci_complete_rq,

.init_hctx= nvme_init_hctx,

.init_request= nvme_init_request,

.map_queues= nvme_pci_map_queues,

.timeout= nvme_timeout,

.poll= nvme_poll,

};

块设备层通过blk_execute_rq或blk_execute_rq_nowait把请求加入队列，然后下发到硬件，

//xilinx petalinux-v2018.2

nvme_queue_rq

nvme_setup_cmd

nvme_init_iod

nvme_map_data

blk_rq_map_sg

dma_map_sg_attrs

nvme_setup_prps

blk_mq_start_request

__nvme_submit_cmd

nvme_process_cq

legacy blk

传统的块设备只有一个队列，通过make_request分发io，内核在bio这块变动太多了，

#if LINUX_VERSION_CODE <= KERNEL_VERSION(4,4,0)

#define bio_op(bio) ((bio)->bi_rw & REQ_OP_MASK)

#define bio_opf(bio) ((bio)->bi_rw)

#else

#define REQ_FLUSH REQ_PREFLUSH

#define bio_opf(bio) ((bio)->bi_opf)

#endif

验证

写一个测试脚本，

root@t2080rdb:~# cat test.sh

#!/bin/sh

echo "test read"

nvmeqe_benchmark -r /dev/nvme0n1 -p 0xe2000000 -s 0 -l 0x100000 -c 128 &

nvmeqe_benchmark -r /dev/nvme0n1 -p 0xe2100000 -s 0 -l 0x100000 -c 128 &

nvmeqe_benchmark -r /dev/nvme0n1 -p 0xe2200000 -s 0 -l 0x100000 -c 128 &

nvmeqe_benchmark -r /dev/nvme0n1 -p 0xe2300000 -s 0 -l 0x100000 -c 128

测试结果，对比测试前后的中断统计，内核把任务平均分给了各个CPU，

root@t2080rdb:~# cat /proc/interrupts | grep nvme0

58: 0 0 403 0 0 0 0 0 fsl-msi-263 15 Edge nvme0q0, nvme0q1

59: 0 0 0 109 0 0 0 0 fsl-msi-224 16 Edge nvme0q2

60: 0 0 0 0 118 0 0 0 fsl-msi-225 17 Edge nvme0q3

61: 0 0 0 0 0 755 0 0 fsl-msi-226 18 Edge nvme0q4

62: 0 0 0 0 0 0 206 0 fsl-msi-227 19 Edge nvme0q5

63: 0 0 0 0 0 0 0 439 fsl-msi-228 20 Edge nvme0q6

64: 1038 0 0 0 0 0 0 0 fsl-msi-229 21 Edge nvme0q7

65: 0 353 0 0 0 0 0 0 fsl-msi-230 22 Edge nvme0q8

root@t2080rdb:~# ./test.sh

test read

speed: 306.95MB/s, cost times: 417ms

speed: 306.22MB/s, cost times: 418ms

speed: 305.49MB/s, cost times: 419ms

speed: 305.49MB/s, cost times: 419ms

root@t2080rdb:~# cat /proc/interrupts | grep nvme0

58: 0 0 461 0 0 0 0 0 fsl-msi-263 15 Edge nvme0q0, nvme0q1

59: 0 0 0 142 0 0 0 0 fsl-msi-224 16 Edge nvme0q2

60: 0 0 0 0 243 0 0 0 fsl-msi-225 17 Edge nvme0q3

61: 0 0 0 0 0 938 0 0 fsl-msi-226 18 Edge nvme0q4

62: 0 0 0 0 0 0 260 0 fsl-msi-227 19 Edge nvme0q5

63: 0 0 0 0 0 0 0 471 fsl-msi-228 20 Edge nvme0q6

64: 1092 0 0 0 0 0 0 0 fsl-msi-229 21 Edge nvme0q7

65: 0 385 0 0 0 0 0 0 fsl-msi-230 22 Edge nvme0q8