计算机科学基础 -- 分支预测

分支预测的概念

分支预测（Branch Prediction） 是处理器中的一种重要技术，用于预测程序中的分支指令（如条件跳转、循环和函数调用）的执行路径。分支预测通过猜测分支的走向，让处理器提前执行预测路径上的指令，从而减少等待时间，提高整体性能。

分支预测的工作原理

当处理器遇到分支指令时，它还不知道条件是否成立（即分支是否跳转），这时分支预测器会做出一个猜测。根据预测的结果，处理器继续执行猜测路径上的指令。如果预测正确，处理器可以连续执行而不出现停顿；如果预测错误，处理器需要丢弃错误路径上执行的指令，并回退到正确路径重新执行。

分支预测的类型

1. 静态分支预测（Static Branch Prediction）

静态分支预测根据固定的规则做出预测，常见的静态策略有：

• 总是跳转：假设每次遇到分支指令都会跳转。
• 从不跳转：假设分支指令从不跳转。
• 基于方向预测：假设向后跳转的分支（通常是循环）大多数会继续执行，向前跳转的分支通常不执行。

2. 动态分支预测（Dynamic Branch Prediction）

动态分支预测通过观察程序的历史行为，动态调整预测策略：

• 单比特预测器：根据历史记录一个比特的状态（跳转或不跳转）来做预测。
• 双比特预测器：采用四个状态（强跳转、弱跳转、弱不跳转、强不跳转），只有连续两次错误预测后才改变预测方向，减少预测错误的振荡。
• 局部历史预测：根据特定分支的历史行为来预测未来走向。
• 全局历史预测：记录整个程序的分支行为，并根据历史预测当前分支指令的走向。
• 混合预测器：结合多种不同的预测策略，选择最适合当前场景的策略。

分支预测的实现

分支预测器依赖两个硬件单元：

1. 分支目标缓冲器（BTB）：用于存储分支指令的目标地址，帮助预测分支是否发生。
2. 分支历史表（BHT）：维护各个分支指令的过去行为，提供历史记录以做出预测。

分支预测的挑战

1. 预测失败的代价：预测错误时，处理器必须回滚已经执行的指令，导致性能损失。预测失败在深流水线处理器中代价更高。
2. 复杂的分支行为：一些程序的分支行为复杂，难以准确预测。
3. 偏斜分支问题：有些分支具有明显的跳转倾向，而其他分支则非常不稳定，预测器需要适应这种变化。
4. 预测表大小的权衡：更大的预测表可以提高预测准确性，但也会消耗更多硬件资源。

分支预测的优化

1. 使用更复杂的预测器（如混合预测器）提高预测准确率。
2. 使用更多历史数据增强预测的精度。
3. 改进分支预测恢复机制，减少预测失败后的回滚代价。
4. 优化分支预测表的结构，在资源消耗和预测精度之间找到平衡。

分支预测的例子

假设有一个循环，条件为 i < 100。在每次循环结束时，处理器都需要判断是否继续循环，这时分支预测器会尝试预测循环是否继续：

• 在循环开始时，i 从0开始，到99时条件 i < 100 都为真。因此，分支预测器会预测大多数情况下分支会跳转回循环开始处，继续执行下一次循环。
• 当 i = 100 时，条件不再成立，循环结束。此时如果预测器仍然预测跳转，就会产生预测错误，处理器需要丢弃已经执行的错误指令，并重新从正确路径执行。

分支预测的结果

1. 预测成功：如果预测器正确预测了跳转，处理器可以连续执行循环体中的指令而没有停顿。
2. 预测失败：如果在 i = 100 时预测错误，处理器必须回滚错误指令，导致性能下降。

分支预测的意义

分支预测能够减少处理器因分支指令导致的停顿，提高指令执行效率。对于循环等频繁出现的分支，分支预测的准确性对整体性能提升至关重要。