计算机体系结构 - 流水线技术

1 概述

1.1 定义

• 流水线：指将一个较复杂的处理过程分为 m 个复杂程度相当、处理时间大致相等的子过程，每个子过程由一个独立的功能部件来完成，处理对象在各子过程连成的线路上连续流动，在同一时间，m 个部件同时进行不同的操作，完成对不同对象的处理。
• 个人理解：“分而化之”。将一个复杂的问题，分解成若干个简单的部分进行处理。

2 指令流水线

一条指令的处理，通常分为 三个阶段：取值 → 分析 → 执行

2.1 图示

同上，现有三条指令（1，2，3），若每个指令的执行阶段用时为 1s，可知
未执行流水线总用时：9s
使用流水线总用时：5s
结论：使用流水线，效率更高

2.2 周期和时间

同上，现有 n 条指令，假设 取值、分析、执行 阶段的执行时间分别为：$t_1$、$t_2$、$t_3$，可知
流水线周期：$t_1$、$t_2$、$t_3$ 中的最大值 = $t_{max}$
流水线时间：$(t_1+t_2+t_3)+(n-1)\ast t_{max}$

【例题1】某三级指令流水线分别完成取指、分析、执行三步操作。若完成上述操作的时间依次为 8ns、9ns、4ns，则该流水线的操作周期应至少为（）ns。
A.4
B.8
C.9
D.21

参考答案：C
流水线周期：8、9、4 中的最大值 = 9

【例题2】将一条指令的执行过程分解为取指、分析和执行三步，按照流水方式执行，若取指时间t取指=4△t、分析时间t分析=2△t、执行时间t执行=3△t，则执行完100条指令，需要的时间为（） △t.
A.200
B.300
C.400
D.405

参考答案：D
根据 流水线时间公式：$(t_1+t_2+t_3)+(n-1)\ast t_{max}$ 可知
执行时间 $=(4+2+3)+(100-1)\ast 4=405$

2.3 技术指标：吞吐率、加速率、效率

技术指标	概念	计算公式
吞吐率	单位时间内执行指令的个数	$TP=\frac{n}{TK}$ ，n：指令条数，TK：流水线时间
加速比	使用流水线前后，时间比值	$S=\frac{TS}{TK}$ ， TS：未使用流水线时间，TK：流水线时间
效率	执行中的阶段与总阶段的比值	$\frac{执行中的阶段}{总阶段}$

理论吞吐率（最大吞吐率）= $\frac{1}{周期}$，即：周期的倒数

例：若指令流水线把一条指令分为取值、分析和执行三部分，且三部分的时间分别是
取值2ns，分析2ns，执行1ns，共 100 条指令。

吞吐率：
	n = 100
	Tk = (t1+t2+t3) + (n-1)*t1 = 203 ns
	TP = n / Tk = 100/203 条/ns
	理论吞吐率 = 1/T = 1/2 ns
  
加速比：
	TS = (2+2+1) * 100 = 500 ns
	S = TS / Tk = 500/203

效率：指令正在执行的阶段 / 指令总阶段   如下图

3 扩展

3.1 指令控制方式

3.2.1 顺序方式

• 顺序方式：各机器指令之间 顺序串行 地执行，执行完一条指令后才取下一条指令。
• 优点：控制简单
• 缺点：速度慢，各部件的利用率低

3.2.2 重叠方式

• 重叠方式：在解释第 $K$ 条指令的操作完成之前，就开始解释 $K+1$ 条指令，如下图 1-5 所示。通常采用的是 一次重叠，即在任何时候，指令分析部件和指令执行部件都只有相邻两条指令在重叠解释。
• 优点：速度有所提高，控制也不太负责
• 缺点：会出现冲突、转移和相关等问题，在设计时必须想办法解决

3.2.3 流水方式

• 流水线方式：模仿工业生产过程的流水线（如汽车装配线）而提出的一种指令控制方式。流水（pipe lining）技术是把 并行性 或 并发性 嵌入计算机系统的一种形式，它把重复的顺序处理过程分解为若干子过程，每个子过程能在专用的独立模块上有效地并发工作，如下图 1-6 所示。
• 补充说明：在概念上，“流水” 可以看成是 “重叠” 的延伸。差别仅在于 “一次重叠” 只是把一条指令分解为两个子过程，而 “流水” 则是分解为更过的子过程。