WQE 英文全称是Work Queue Element.
WQE 是芯片可以识别的数据格式。
也就是Linux 上层网络协议栈使用sk_buff 在协议栈的各层中传递数据,但是网卡无法识别sk_buff 这种格式,网卡有自己能够识别的数据格式,就是wqe。网卡驱动的功能就是将sk_buff 里的控制信息和数据信息转换层wqe定义的格式,然后传递给网卡。
接下来我以发送队列SQ为示例讲解wqe。
wqebb
SQ队列中的最小单元是wqebb(work queue element basic block),每个wqebb的大小为16B,一个wqe报文可以包含多个wqebb,最大支持队列深度为16K。 也就是wqebb是wqe 内存分配的最小单元,一个wqe 包含n个wqebb。
为了整体提高芯片端到端性能,将SQ WQE结构设计成支持3种类型:
在支持无状态卸载情况下,使用Extended SQ WQE with normal TS结构;状态卸载的控制信息需要占用额外的一个wqebb。
在不支持无状态卸载时,使用Extended SQ WQE with small TS结构(一个报文包含多个sge)和Compact SQ normal WQE(一个报文只包含一个sge)两种结构。
1. Extended SQ WQE with normal TS
支持无状态卸载,其中:
CtrlSL部分主要是描述了这个wqe的属性。部分卸载信息。后面携带的Buffer Address 是一个可以指向数据块的指针。
TSL1 描述的是状态卸载标志。
BDSL 包含的是指向数据指针。
根据上图,CrtlSL 占用一个wqebb,TSL1 占用一个wqebb,BDSL占用n个wqebb。
该类型WQE结构包括CTRL, QSF, TASK和BD字段,支持无状态卸载,其中无状态卸载的信息,填充在CTRL的QSF字段中和Task字段中,供芯片和微码进行无状态卸载操作,TASK的大小固定为16B。
CTRL中关键字段信息填写如下:
Task的关键数据结构如下:
QSF域段的信息填充如下:
2. Extended SQ WQE with small TS
不支持无状态卸载时,使用该类型WQE结构,注意该类型WQE要求BDSL的信息必须满足sge_num >= 2(因为CrtlSL部分就可以装载一个sge的指针)。该种模式下,可以利用extend WQE结构中的TASK字段,多存储一个SGE信息。
3. Compact SQ normal WQE
不支持无状态卸载且报文中sge个数为1时,可以使用Compact类型的WQE结构,1个wqebb即为一个报文。
4. SQ Doorbell结构
驱动填充完WQE结构后,需要通过doorbell通知硬件进行报文发送。芯片使用的是64bit的doorbell,Doorbell的数据结构如下:
Srv 默认为1.
Cos 是优先级。
C为0表示SQ。
C为1 是RQ。
Queue ID是队列序号。
PI是protect index,提供者的高8位。
以上结构体的定义在hinic3_nic_io.h 中,可以结合源码一起看。