1 三种路由方式
PCIe总线继承了PCI总线的地址路由和ID路由,并且添加了隐式路由。数据的传输要确定如何找到对方?所谓的路由就是如何找到对方。PCIe协议中有三种方式路由:
- 基于ID的路由:基于ID是指通过B D F 信息找到是设备。一般在配置过程
- 基于地址的路由:配置后,通过地址路由
- 隐式路由---例如某个pcie设备发送中断后,通过隐式路由发送给RC
TLP报文是如何表示自己使用哪种方式的路由?主要是TLP的头部。看哪一位?fmt三位和type的4位分别有什么含义??例如,如果是IORd IOWr是使用地址路由,对于配置读配置写就是通过ID路由,而对于MSI中断消息,就是使用隐式路由了(注意,下图可以发现当使用msg消息时,通过后三位确定是用什么方式发给RC,当然这些都是一些规则细节)。
访问PCIe设备时,要先配置,才能读写数据:
- 配置读、配置写:使用**基于ID的路由**,就是使用<Bus, Device, Function>来寻找对方。配置成功后,每个PCIe设备都有自己的PCIe地址空间了。
- 内存读、内存写或者IO读、IO写:
-
- 发出报文给对方:使用**基于地址的路由**
- 对方返回数据或者返回状态时:使用**基于ID的路由**
- 各类消息,比如中断、广播等:使用**隐式路由**
2 基于ID的路由方式
TLP中含有<Bus number, Device number, Function number>,这就是ID。
对PCIe设备进行配置读、配置写的时候,使用的就是基于ID的路由,这在上节视频已经介绍了。
配置成功后,每个PCIe设备,包括虚拟的PCIe桥,都分配到了地址空间:
- PCIe设备(Endpoint):地址空间是自己的,别的设备访问这个地址范围时,就是想访问它。
- PCIe桥:地址空间是下面的PCIe设备的,别的设备访问这个地址范围时,就是想访问它下面的设备。
2.1PCIe设备endpoint的配置空间
Endpoint的配置空间里有"Base Address Regiseters"
- 一开始:这些寄存器用来声明:需要多大的地址空间、是内存空间还是IO空间
- 被配置后:系统软件为它分配出地址空间,把首地址写入这些寄存器。
2.2PCIe桥的配置空间
PCIe桥的配置空间里有"Primary Bus Number、Secondary Bus Number、Subordinate Bus Number"。这些总线号很重要。同时还需要关注桥内memory base基地址和limit,它表示这个桥能处理的地址范围。
- 配置PCIe桥的时候,系统软件会填充这些信息-BDF
- 对于ID路由,将根据这些信息转发报文-根据memory_base和limit。并且上层的桥需要覆盖下层桥的地址。后续通过这些地址传输TLP
PCIe桥的配置空间里有"Memory Base、Prefetchable Memory Base、I/O Base":
- 表示该桥下游所有设备使用的三组空间范围
-
- 存储器空间
- 可预取的存储器空间
- I/O空间
- 对于地址路由,将根据这些信息转发报文
2.3示例
3 基于地址的路由方式
PCIe设备(EndPoint)被配置后,它记录有分配给它的基地址。
PCIe桥也记录有下游PCI子树的基地址。
- PCIe桥监测总线上的信号,根据TLP里的地址决定是否转发到自己下面的总线上
- PCIe设备监测总线上的信号,根据TLP里的地址决定是否访问自己
- PCIe设备发出回应的报文时,使用基于ID的路由
3.1内存读写/IO读写
发出的TLP包括地址信息。可以看到不管是IO或者内存,都含有地址信息。如下图所示。
内存或者IO读写的过程是如何的呢?和前面讲的类似,就是通过桥的地址范围进行过滤,不管来自上层的地址还是来自endpoint的地址,桥都会进行处理转发。
3.2完成报文
为什么要引入完成报文,因为在发出基于内存的读写报文后,会期待一个完成报文才会把本地的数据删除掉。并且需要把完成报文发送给发起报文者,
图里面的Requester ID、TAG,被称为"Transaction ID"。下图来自《PCI EXPRESS体系结构导读 (王齐)》:
主设备要给EndPoint的内存写数据,它发出"内存写报文",不需要对方回应。
主设备要读EndPoint的内存数据,它发出"内存读报文",需要对方回应。
主设备要给EndPoint的IO写数据,它发出"IO写报文",需要对方回应。
主设备要读EndPoint的IO数据,它发出"IO读报文",需要对方回应。
- PCIe设备要回应时,回应谁?给"Requester ID",使用基于ID的路由
- 发起PCIe传输的设备(主设备),对每次传输都分配一个独一的Tag,并且在硬件内部保存当前TLP
- 接收到回应报文后,才会根据Tag清除掉内存中保存数据
- 如果没接收到回应,或者失败了:会把硬件中保存的TLP重新发送出去
回应的完成报文,可以含有数据,也可以不含数据,格式如下:
3.3 示例
讲解该场景的返回模式。
4 隐式路由
消息报文的头部格式如下:
消息报文中头部的Type字段里低3位表示隐式路由方式
- 000:路由到RC
- 001:使用地址路由(使用地址路由的消息不常见)
- 010:使用ID路由
- 011:来自RC的广播报文,底下的PCIe桥会向下游转发此消息
- 100:本地消息,消息到达目的设备后结束,不会再次转发
- 101:路由到RC,仅用于电源管理