流水线
早在8086时代，处理器就已经有了指令预取队列。当指令执行时，如果总线是空闲的（没有访问内存的操作），就可以在指令执行的同时预取指令并提前译码，这种做法大大加快程序的执行速度。
处理器可以执行各种不同的指令，完成不同的功能，但这些事情大都不会在一个时钟周期内完成。执行一条指令需要从内存中取指令、译码、访问操作数和结果，并进行移位、加法、减法、乘法以及其他任何需要的操作。
为了提高处理器执行效率和速度，可以把一条指令的执行过程分解成若干个细小的步骤，并分配给相应的单元来完成。各个单元的执行是独立的、并行的。如此一来，各个步骤的执行在时间上就会重叠起来，这种执行指令的方法就是流水线（Pipe-Line）技术。
比如，一条指令的执行过程分为取指令、译码和执行三个步骤，而且假定每个步骤都要花1个时钟周期，那么，如下图所示，如果采用顺序执行，则执行3条指令需要9个时钟周期，每3个时钟周期才能得到一条指令的执行结果；如果采用3级流水线，则执行这3条指令只需5个时钟周期，每隔一个时钟周期就能得到一条指令的结果。
一个简单的流水线其实不过如此，但是它仍有很大的改进空间。原因很简单，指令的执行过程仍然可以继续细分。一般来说，
流水线的效率受执行时间最长的那一级的限制，要缩短各级的执行时间，就必须让每一级的任务减少，与此同时，就需要把一些复杂的任务再进行分解。比如，2000年之后推出的Pentinum 4处理器采用了NetBurst微结构，它进一步分解指令的执行过程，采用了31级超深流水线。
乱序执行
为了实现流水线技术，需要将指令拆分成更小的可独立执行部分，即拆分成微操作（micro-operations），简写为μops。
有些指令非常简单，因此只需要一个微操作。如：add eax,ebx。再比如 add eax,[mem] 可以拆分成两个微操作，一个用于从内存中读取数据并保存到临时寄存器，另一个用于将EAX寄存器和临时寄存器中的数值相加。再举个例子，这条指令：add [mem],eax。可以拆分成3个微操作，一个从内存中读取数据，一个执行相加的动作，第3个将结果写回到内存中。
一旦将指令拆分成微操作，处理器就可以在必要的时候乱序执行（Out-Of-Order Execution）程序。考虑以下例子：
mov eax,[mem1]
shl eax,5
add eax,[mem2]
mov [mem3],eax
这里，指令add eax,[mem2]可以拆分为两个微操作。如此一来，在执行逻辑左移指令的同时，处理器可以提前从内从中读取mem2的内容。典型地，如果数据不在高速缓存中，那么处理器在获取mem1的内容之后，会立即开始获取mem2的内容。与此同时，shl指令的执行早就开始了。
将指令拆分成微操作，也可以使得栈的操作更有效率。考虑以下代码片段：
push eax
call funcsub esp,4
mov [esp],eax寄存器重命名
考虑以下例子：
mov eax,[mem1]
shl eax,3
mov [mem2],eax
mov eax,[mem3]
add eax,2
mov [mem4],eax
IA-32架构处的理器只有8个32位通用寄存器，但通常都会被我们全部派上用场。因此，我们不能奢望在每个计算当中都使用新的寄存器。不过，在处理器内部，却有大量的临时寄存器可用，处理器可以重命名这些寄存器以代表一个逻辑寄存器，比如EAX。
寄存器重命名以一种完全自动和非常简单的方式工作。每当指令写逻辑寄存器时，处理器为那个逻辑寄存器分配一个新的临时寄存器。再来看一个例子：
mov eax,[mem1]
mov ebx,[mem2]
add ebx,eax
shl eax,3
mov [mem3],eax
mov [mem4],ebx
在所有的操作都完成之后，那个代表EAX寄存器最终结果的临时寄存器的内容被写入真实的EAX寄存器，该处理过程称为引退（Rstirement）。
所有通用寄存器，栈指针、标志、浮点寄存器，甚至段寄存器都有可能被重命名。
高速缓存
影响处理器速度的另一个因素是存储器。从处理器内部往外看，它们分别是寄存器、内存和硬盘。当然，现在有的计算机已经用上了固态硬盘。
寄存器的速度最快，因为它使用了触发器，这是一种反馈原理制作的存储电路。触发器的工作速度是纳秒级别的，当然也可以用来做内存的基本单元，即静态存储器（SRAM），缺点是成本太高，价格不菲。所以，制作内存芯片的材料一般是电容和单个晶体管，由于电容需要定时刷新，使得它的访问速度变得很慢，通常是几十纳秒。因此，它也获得了一个恰当的名字：动态存储器（DRAM），我们所用的芯片大部分都是DRAM。最后，硬盘是机电设备，是机械与电子的混合体，它的访问速度最慢，通常是毫秒级。
在这种情况下，因为需要等待内存和硬盘这样的慢速设备，处理器便无法全速运行。为了缓解这一矛盾，高速缓存（Cache）技术应运而生。高速缓存是处理器与内存（DRAM）之间的一个静态存储器（SRAM），容量较小，但速度可以与处理器匹配。
高速缓存的用处源于程序在运行时所具有的
局部性规律。首先，程序常常访问最近刚刚访问过的指令和数据，或者与它们相邻的指令和数据。比如，程序往往是序列化地从内存中取指令执行的，循环操作往往是执行一段固定的指令。当访问数据时，要访问的数据通常被安排在一起；其次，一旦访问了某个数据，那么，不久之后，它可能会被再次访问。
利用程序运行时的局部性原理，可以把处理器正在访问和即将访问的指令和数据从内存调入高速缓存中。于是，每当处理器要访问内存时，首先检索高速缓存。如果要访问的内容已经在高速缓存中，那么，很好，可以用极快的速度直接从高速缓存中取得，这称为命中（Hit）；否则，称为不中（Miss）。在不中的情况下，处理器在取得需要的内容之前必须重新装载高速缓存，而不是直接到内存中去取那个内容。高速缓存的装载是以块为单位的，包括那个所需数据的临近内容。为此，需要额外的时间来等待块从内存载入高速缓存，在该过程中所损失的时间成为不中惩罚（miss penalty）。
分支目标预测
流水线并不是百分之百完美的解决方案。实际上，有很多潜在的因素会使得流水线不能达到最佳效率。一个典型的情况是，如果遇到一条转移指令，则后面那些已经进入流水线的指令就都无效了。换句话说，我们必须清空（Flush）流水线，从要转移的目标位置处重新取指令放入流水线。
在现代处理器中，流水线操作分为很多步骤，包括取指令、译码、寄存器分配和重命名、微操作排序、执行和引退。指令的流水线处理方式允许处理器同时做很多事情。在一条指令执行时，下一条指令正在获取和译码。
流水线的最大问题是代码中经常存在分支。举个例子来说，一个条件转移允许指令
流前往任意两个方向。如果这里只有一个流水线，那么那个分支开始执行，在此之前，处理器将不知道应该用哪个分支填充流水线。流水线越长，处理器在用处理器在用错误的分支填充流水线时，浪费的时间越多。
随着复杂架构下的流水线变得越来越长，程序分支带来的问题开始变得很大。让处理器的设计者不能接受，毕竟不中惩罚的代价越来越高。
为了解决这个问题，在1996年的Pentium Pro处理器上，引入了分支预测技术（Branch Prediction）。分支预测的核心问题是，转移是发生还是不发生。换句话说，条件转移的条件会不会成立。举个例子来说：jne branch5。在这条指令还没有执行时，处理器就必须提前预测相等的条件在这条指令执行的时候是否成立。这当然是很困难的，几乎不可能。想想看，如果能提前知道结果，还执行这些指令干嘛。
但是，从统计学的角度来看，有些事情一旦出现，下一次还会出现的概率较大。一个典型例子就是循环，比如下面的程序片断：
xor si,si
lops:
......
cmp si,20
jnz lops
在处理器内部，有一个小容量的高速缓存，叫分支目标缓存器（Branch Target Buffer，BTB）。当处理器执行了一条分支语句，它会在BTB中记录当前指令的地址、分支目标的地址、以及本次分支预测的结果。下一次，在那条转移指令实际执行之前，处理器会查找BTB，看有没有最近的转移记录。如果能找到对应的条目，则推测执行和上一次相同的分支，把该分支的指令送入流水线。当该指令实际执行时，如果预测失败，那么，清空流水线，同时刷新BTB中的记录。这个代价较大。
2583
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
