处理器体系结构

处理器体系结构

Y86-64指令集体系结构

字节序列转换为Y86-64指令的方法总结如下：

• 通过代码部分确定指令长度，从而以指令为单位划分字节序列；
• 通过功能部分确定具体的指令；
• 通过寄存器指示符字节确定指令中涉及的寄存器；
• 通过转换数值部分以小段法编码的数字来确定立即数、偏移量、绝对地址等值。

ISA

一个处理器支持的指令和指令的字节级编码称为它的指令集体系结构ISA。
虽然每个厂商制造的处理器性能和复杂性不断提高，但是不同型号在ISA级别上都保持着兼容。因此，ISA在编译器编写者和处理器设计人员之间提供了一个概念抽象层。

概念抽象层即ISA模型：CPU允许的指令集编码，且顺序地执行指令，也就是先取出一条指令，等到它执行完毕，再开始下一条。然而，现代处理器的实际工作方式可能跟ISA隐含的计算模型大相径庭。通过同时处理多条指令的不同部分，处理器可以获得较高的性能。但其必须对外表现出符合ISA模型的执行结果。

在计算机科学中，用巧妙的方法在提高性能的同时，又保持一个更简单、更抽象模型的功能，这种思想是众所周知的（抽象）。

CPU硬件简介

大多数现代电路设计都是用信号线上的高电压和低电压来表示不同的位值。
要实现一个数字系统需要三个主要的组成部分：

1. 计算对位进行操作的函数的组合逻辑(ALU)
2. 存储位的存储器元素(寄存器)
3. 控制存储器元素更新的时钟信号

逻辑门是数字电路的基本计算元素，它们产生的输出，等于它们输入位值的某个布尔函数。
将很多逻辑门组合成一个网，就能构建计算块，称为组合电路。(相当于一个表达式)

算术/逻辑单元(ALU) 是一种很重要的组合电路，这个电路有三个输入：两个数据输入及一个控制输入。根据控制输入的设置，电路会对数据输入执行不同的算术或逻辑操作。

存储器和时钟

组合电路从本质上讲，不存储任何信息。它们只是简单地响应输入信号，产生等于输入的某个函数的输出。为了产生时序电路，也就是有状态并且在这个状态上进行计算的系统，我们必须引入按位存储信息的设备。

存储设备都是由同一个时钟控制，时钟是一个周期性信号，决定了什么时候要把新值加载到设备中。

大多数时候，寄存器都保持在稳定状态(用x表示)，产生的输出等于它的当前状态。信号沿着寄存器前面的组合逻辑传播，这时，产生了一个新的寄存器输入(用y表示)，但只要时钟是低电位的，寄存器的输出就仍然保持不变。当时钟变成高电位的时候，输入信号才加载到寄存器中，成为下一个状态y，直至下一个时钟的上升沿。

寄存器是作为电路不同部分中的组合逻辑之间的屏障。每当每个时钟到达上升沿时，值才会从寄存器的输入传送到输出。

寄存器文件(通用寄存器组成的逻辑块)

有两个读端口，还有一个写端口。电路可以读两个程序寄存器的值，同时更新第三个寄存器的状态。每个端口都有一个地址输入，表明选择哪个程序寄存器。

虽然寄存器文件不是组合电路，因为它有内部存储。不过，从寄存器文件读数据就好像它是一个以地址为输入、数据为输出的一个组合逻辑块。

指令编码

指令集的一个重要性质就是字节编码必须有唯一的解释。任意一个字节序列要么是一个唯一的指令序列的编码，要么就不是一个合法的字节序列。因为每条指令的第一个字节有唯一的代码和功能组合，给定这个字节，我们就可以决定所有其他附加字节的长度和含义。

每条指令需要1——6个字节不等，这取决于需要哪些字段。每条指令的第一个字节表明指令的类型：高4位是代码部分(例：6为整数类操作指令)，低4位是功能部分(例：1为整数类中的减法指令) 61合起来即为sub指令。

处理一条指令的序列：

取指(fetch)

取值阶段从**存储器读取指令字节，放到指令存储器(CPU中)**中，地址为程序计数器(PC)的值。
它按顺序的方式计算当前指令的下一条指令的地址(即PC的值加上已取出指令的长度)

译码(decode)

ALU从寄存器文件(通用寄存器的集合)读入最多两个操作数。（即一次最多读取两个寄存器中的内容）

执行(execute)

在执行阶段会根据指令的类型，将**算数/逻辑单元(ALU)**用于不同的目的。对其他指令，它会作为一个加法器来计算增加或减少栈指针，或者计算有效地址，或者只是简单地加0，将一个输入传递到输出。

条件码寄存器(CC)有三个条件位。ALU负责计算条件码新值。当执行一条跳转指令时，会根据条件码和跳转类型来计算分支信号cnd。

访存(memory)

访存阶段，数据存储器(CPU中) 读出或写入一个存储器字。指令和数据存储器访问的是相同的存储器位置，但是用于不同的目的。

写回(write back)

写回阶段最多可以写两个结果到寄存器文件。寄存器文件有两个写端口。端口E用来写ALU计算出来的值，而端口M用来写从数据存储器中读出的值。

更新PC(PC update)

根据指令代码和分支标志，从前几步得出的信号值中，选出下一个PC的值。

SEQ的时序

组合逻辑不需要任何时序或控制——只要输入变化了，值就通过逻辑门网络传播。

我们也将读随机访问存储器(寄存器文件、指令存储器和数据存储器)看成和组合逻辑一样的操作。（写随机访问存储器需要等待高电平）

由于指令存储器只用来读指令，因此我们可以将这个单元看成是组合逻辑。（内存向指令存储器中写指令是CPU外部的事件 不属于CPU内的时序）

每个时钟周期，程序计数器都会装载新的指令地址。
只有在执行整数运算指令时，才会装载条件码寄存器。
只有在执行mov、push、call指令时，才会写数据存储器。

要控制处理器中活动的时序，只需要寄存器和存储器的时钟控制。
因为指令运行计算的结果，写入寄存器或存储器中。

我们可以把取指、译码、执行等过程看做是组合逻辑的处理过程（因为它们不涉及写入寄存器）。把写回看做是另一个过程。

【举例详解】
有如下指令：
0x000 ： irmovl  $0x100, %ebx
0x006 ： irmovl  $0x200, %edx
0x00c ： addl    %edx, %ebx
0x00e ： je  dest
0x013 ： rmmovl  %ebx, 0(%edx)
0x019 ： dest: halt

在我们的SEQ处理器中，一个时钟周期(即两次高电平时间的时间间隔)执行一条指令。

流水线原理

通过将执行每条指令所需的步骤组织成一个统一的流程，就可以用很少量的各种硬件单元以及一个时钟来控制计算的顺序，从而实现整个处理器。不过这样一来，控制逻辑就必须要在这些单元之间路由信号，并根据指令类型和分支条件产生适当的控制信号。（CPU内有三种总线：控制总线、地址总线、数据总线）

SEQ处理器不能充分利用硬件单元，因为每个单元只在整个时钟周期的一部分时间内才被使用。我们会看到引入流水线能获得更好的性能。

在流水线化的系统中，待执行的任务被划分成了若干独立的阶段。

例如在汽车清洗中，这些阶段包括喷水、打肥皂、擦洗、上蜡和烘干。通常都会允许多个顾客同时经过系统，而不是要等到一个用户完成了所有从头至尾的过程才让下一个开始。

当前面一辆汽车从喷水阶段进入擦洗阶段时，下一辆就可以进入喷水阶段了。通常，汽车必须以相同的速度通过这个系统，以避免撞车。

流水线化的一个重要特性就是增加了系统的吞吐量，也就是单位时间内服务的顾客总数，不过它也会轻微地增加延迟，也就是服务一个用户所需要的时间。（例如一个只需要喷水的汽车，在非流水线的系统，它喷完水就可以走了。而在流水线化的系统，不管你是什么需求，都要走完整个流程的时间）

（我们之前的设计是一条指令执行完，下条指令才能进入CPU，（所不同的是时钟周期的粒度）。流水线化是允许多条指令在CPU中，每条指令在CPU中的时间是一样的，哪怕你一个周期就执行完了，你也得等剩下的阶段结束，使后面的指令被延迟了。

虽然流水线化，所有指令在CPU中待的时间都一样（且都按最耗时指令算的），但它们的时间是重叠的。假设一条指令在CPU中待6ms，那么12ms能处理7条指令，而非流水线，虽然一条指令最多执行6ms，但它们的时间是相加的，12ms可能只执行3条。12=6+2+4）

【例如】
一个简单地非流水化的硬件系统：
它是由一些执行计算的逻辑以及一个保存计算结果的寄存器组成的。时钟信号控制在每个特定的时间间隔加载寄存器。
（CD播放器中的译码器就是这样的一个系统。输入信号是从CD表面读出的位，逻辑电路对这些位进行译码，产生音频信号。计算块是用组合逻辑来实现的，意味着信号会穿过一系列逻辑门，在一定时间的延迟之后，输出就成为了输入的某个函数）

流水化的硬件系统

假设将系统执行的计算分成三个阶段（A、B和C），每个阶段需要100ps，然后在各个阶段之间放上流水线寄存器，这样每条指令都会按照三步经过这个系统，从头到尾需要三个时钟周期。
（流水线寄存器的作用：作为电路不同部分中的组合逻辑之间的屏障。保存每步组合逻辑的运算结果。这是为了分割流水而插入的寄存器。）
流水线，在稳定状态下，三个阶段应该都是活动的，每个时钟周期，一条指令离开系统，一条新的进入。
时钟周期的时间就是流水线分割的一个阶段的时间，这样，从宏观上看，是一个时钟周期执行一条指令。
注意
如果时钟运行得太快，就会有灾难性的后果。值可能会来不及通过组合逻辑，并且当时钟上升时，寄存器的输入还不是合法的值。（即时钟周期比流水线一个阶段的时间短）

而我们减缓时钟不会影响流水线的行为。信号传播到流水线寄存器的输入，但是直到时钟上升时才会改变寄存器的状态。（即时钟周期比流水线一个阶段的时间长）
故，我们通过改变倍频器的值来提高时钟频率的超频手段，其提高是有限的。

流水线的局限性

1. 不一致的划分
   之前的是一个理想的流水线化的系统，每个阶段需要的时间都相同。而实际系统通过各阶段的延迟一般是不同的。且运行时钟的速率是由最慢阶段的延迟限制的。（即系统吞吐量受最慢阶段的速度所限制）
2. 流水线过深，收益反而下降
   例如，我们把计算分成6个阶段，每个阶段需要50ps。在每对阶段之间插入流水线寄存器就得到了一个六阶段流水线。
   这个系统的最小时钟周期为50+20=70ps，吞吐量为14.29GIPS。性能比3阶段流水提高了14.29/8.33=1.71倍。由于通过流水线寄存器的延迟，吞吐量并没有加倍。这个延迟成了流水线吞吐量的一个制约因素。

为了提高时钟频率，现代处理器采用了很深的（15或更多的阶段）流水线。

分支预测

流水线化设计的目的就是每个时钟周期都发射一条新指令，要做到这一点，我们必须在取出当前指令之后，马上确定下一条指令的位置。

但如果取出的指令是条件分支指令，要到几个周期后，也就是指令通过执行阶段之后，我们才能知道是否要选择分支。类似的，如果取出的指令是ret，要到指令通过访存阶段，才能确定返回地址。

对条件转移来说，我们既可以预测选择了分支，那么新PC值应为valC，也可以预测没有选择分支，那么新PC值应为valP。

对ret指令，可能的返回值几乎是无限的，因为返回地址位于栈顶的字，其内容可以是任意的。在设计中，我们不会试图对返回地址做任何预测。只是简单地暂停处理新指令，直到ret指令通过写回阶段。

无论哪种情况，我们都必须以某种方式来处理预测错误的情况，因为此时已经取出并部分执行了错误的指令。

流水线冒险

使用流水线技术，当相邻指令间存在相关时会导致出现问题。
这些相关有：

1. 数据相关：下一条指令会用到这一条指令计算出的结果
2. 控制相关：一条指令要确定下一条指令的位置，例如在执行跳转、调用或返回指令时。

这些相关可能会导致流水线产生计算错误，称为冒险。

用暂停来避免数据冒险

暂停(stalling)是避免冒险的一种常用技术。让一条指令停顿在译码阶段，直到产生它的源操作数的指令通过了写回阶段，这样我们的处理器就能避免数据冒险。

暂停技术就是让一组指令阻塞在它们所处的阶段，而允许其他指令继续通过流水线。
【例】

irmovl  $10, %edx
irmovl  $3, %eax
addl   %edx, %eax
halt

当对addl指令译码之后，暂停控制逻辑发现了对两个源寄存器的数据冒险。（其发现前面的执行、访存或写回阶段中至少有一条指令会更新寄存器%edx或%eax 我们addl下一阶段就要取%eax和%edx的值，但却不能保证其是更新过的值）

暂停控制逻辑就在执行阶段中插入一个气泡，并在下个周期重复对addl的译码。

它再次发现对两个源寄存器的冒险，就在执行阶段中插入一个气泡，并在下个周期重复对addl的译码。

实际上，机器是动态地插入3条nop指令。（插到执行阶段，而不是从取指开始）

irmovl  $10, %edx
irmovl  $3, %eax
bubble
bubble
bubble
addl   %edx, %eax
halt

（这个过程就像，排队的时候前面的人前进了一步，但这时有另一个人插在了你前面的空缺中，你的位置保持不动，但前面的人都前进了一步。不断的有空缺，但不断地有人插入，你就一直在原地不动）

当确定前面的指令已经更新过了我们要的两个寄存器的值，则addl开始前行。

但是这样的解决方案得到的性能并不好，一条指令更新一个寄存器，紧跟其后的指令就使用被更新的寄存器，像这样的情况不胜枚举。这会导致流水线暂停长达三个周期，严重降低了整体的吞吐量。

用转发来避免数据冒险

在译码阶段从寄存器文件中读入源操作数，但是对这些源寄存器的写有可能要在写回阶段才能进行。与其暂停直到写完成，不如简单地将要写的值传到流水线寄存器E作为源操作数。
（即，我们不必等到irmovl $10, %edx和irmovl $3, %eax 完成对寄存器的写更新之后再继续addl，而是在addl译码阶段发现需要%edx、%eax值，译码逻辑不从寄存器文件中去读，而是用前面阶段未写入寄存器的值。）
这种将结果直接从一个流水线阶段传到较早阶段的技术称为数据转发。

加载/使用数据冒险

有一类数据冒险不能单纯用转发来解决，因为存储器读(访存阶段)在流水线发生的比较晚。
例：

mrmovl  0(%edx), %eax
addl  %ebx, %eax
halt

指令mrmovl读取存储器0(%edx)处的值，发生在访存阶段，而此时指令addl已经在执行阶段了！其已经读取了%eax的值了。即由于mrmovl指令获取的操作数值比较晚，来不及发送给后面需要用的指令了。

我们可以将暂停和转发结合起来，避免加载/使用数据冒险。（既然是来不及发送给后面的指令，那就让后面的指令暂停几个周期，再发送）

当mrmovl指令通过执行阶段时，流水线控制逻辑发现译码阶段中的指令(addl)需要从存储器中读出的结果。它会将译码阶段中的addl指令暂停一个周期，导致执行阶段中插入一个气泡。 mrmovl指令从存储器中读出的值可以从访存阶段转发到译码阶段中的addl指令。
这种用暂停来处理加载/使用冒险的方法称为加载互锁。加载互锁和转发技术结合起来足以处理所有可能类型的数据冒险。

异常处理

异常可以由程序执行从内部产生，也可以由某个外部信号从外部产生。
简单的三种内部异常：

1. halt指令
2. 非法指令
3. 访问非法地址
   （还有一些外部异常：网口收到新包、用户点击鼠标等）

在简化的ISA模型中，当处理器遇到异常时，会停止，设置适当的状态码，且应该是到异常指令之前的所有指令都已经完成，而其后的指令都不应该对程序员可见的状态产生任何影响。

在一个更完整的设计中，处理器会继续调用异常处理程序，这是操作系统的一部分。

★一般地，通过在流水线结构中加入异常处理逻辑，我们会在每个流水线寄存器中包括一个状态码Stat。如果一条指令在其处理器中于某个阶段产生了一个异常，这个状态字段就被设置成指示异常的种类。

异常状态和该指令的其他信息一起沿着流水线传播，直到它到达写回阶段。在此，流水线控制逻辑发现了异常，并停止执行。

异常事件不会对流水线中的指令流有任何影响，除了会禁止流水线中后面的指令更新程序员的可见状态（条件码寄存器和存储器），直到异常指令到达最后的流水线阶段。

因为指令到达写回阶段的顺序与它们在非流水化的处理器中执行的顺序相同，所以我们可以保证第一条遇到异常的指令会第一个到达写回阶段，此时程序执行会停止，流水线寄存器(W写回)中的状态码会被记录为程序状态。

其他问题

多周期指令

我们之前设计的处理器指令集中的所有指令都包括一些简单的操作，例如数字加法。这些操作可以在执行阶段中一个周期内处理完。

在一个更完整的指令集中，还有整数乘法除法、以及浮点运算。在我们之前设计的流水化处理器中，浮点加法需要3、4个周期，整数除法需要32个周期。

实现多周期指令的一种简单方法就是简单地扩展执行阶段逻辑的功能，添加一些整数和浮点算数运算单元。一条指令在执行阶段中逗留它所需要的多个时钟周期，会导致取指和译码阶段暂停。这种方法实现起来很简单，但是得到的性能并不是太好。

通过采用独立于主流水线的特殊硬件功能单元来处理较为复杂的操作，可以得到更好的性能。通常，有一个功能单元来执行整数乘法和除法，还有一个来执行浮点操作(协处理器)。

当一条指令进入到译码阶段时，它可以被发射到特殊单元。在这个特殊单元执行该操作时，流水线会继续处理其他指令。通常，浮点单元本身也是流水线化的，因此多条指令可以在主流水线和各个单元中并行执行。

不同单元的操作必须同步，以避免出错。

如果在不同单元执行的各个指令之间有数据相关，控制逻辑可能需要暂停系统的某个部分，直到由系统其他部分处理的操作的结果完成。

使用各种形式的转发，将结果从系统的一部分传递到其他部分，这和前面的PIPE流水线各个阶段之间的转发一样。虽然与PIPE相比，整个设计变得更复杂，但还是可以使用暂停、转发、以及流水线控制等同样的技术，使整体行为与顺序的ISA模型相匹配。

与存储系统的接口

在我们之前的流水化CPU中，我们假设取指单元和数据存储器都可以在一个时钟周期内读或是写存储器中任意的位置。

但是，实际情况是，我们以存储器位置的虚拟地址来引用数据，这就要求在执行实际的读写操作之前，要将虚拟地址翻译成物理地址。显然，要在一个时钟周期内完成所有这些处理是不现实的。更糟糕的是，要访问的存储器的的值可能位于磁盘上，这会需要上百万个时钟周期才能把数据读入到处理器存储器中。

存储系统：
CPU的存储系统是由多种硬件存储器和管理虚拟存储器的操作系统软件共同组成的。

存储系统被组织成一个层次结构，较快但是较小的存储器保持着存储器的一个子集，而较慢但是较大的存储器作为它的后备。

最靠近处理器的一层是高速缓存(cache)存储器，它提供对最常使用的存储器位置的快速访问。一般有2个一层cache——一个用于读指令，一个用于读写数据。

还有另一种类型的高速缓存存储器，称为TLB(Translation Look-aside Buffer翻译后备缓冲器)，它提供了从虚拟地址到物理地址的快速翻译。

将TLB和cache结合起来使用，在大多数时候，确实可能在一个时钟周期内读指令并读或是写数据。

缓存不命中：有些引用的位置不在高速缓存中，即出现高速缓存不命中。在最好的情况下，可以从较高层的cache或处理器的主存中找到不命中的数据，这需要3–20个时钟周期。同时，流水线会简单地暂停，将指令保持在取值或访存阶段，直到高速缓存能够执行读或写操作。

缺页异常：当被引用的存储器位置实际上是在磁盘存储器上的，硬件会产生一个缺页异常信号。同其他异常一样，这个异常会导致处理器调用操作系统的异常处理程序代码。然后这段代码会发起一个从磁盘到主存的传送操作。

让硬件调用操作系统例程，然后操作系统例程又会将控制返回给硬件，这就使得硬件和系统软件在处理缺页时能协同工作。

从处理器的角度来看，将用暂停来处理短时间的高速缓存不命中和用异常处理来处理长时间的缺页结合起来，能够顾及到存储器访问时由于存储器层次结构引起的所有不可预测性。

参考资料

《深入理解计算机系统》 第三版