【CSAPP】 分支预测器

已于 2023-01-04 15:55:11 修改
阅读量1.5k 收藏 9
点赞数 11
分类专栏： CSAPP 文章标签： c++ c语言
于 2022-03-26 20:28:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52631482/article/details/123754103
版权

共有七个实验目标

  • 实验目标1：实现1位的分支预测器，并测试
  • 实验目标2：扩展全局分支历史长度，并测试
  • 实验目标3：为每个分支指令，分配完全独立的状态机，并测试
  • 实验目标4：扩展为3位状态机，并测试
  • 实验目标5：实现局部历史信息，并测试
  • 实验目标6：实现局部+全局历史信息，并测试
  • 实验目标7：考虑不用异或，使用其他hash函数（比如移位、加法） 来实现，并测试
  • 最终策略尽可能减少NUM_MISPREDICTIONS和MISPRED_PER_1K_INST的值

未改动：

#define PHT_CTR_MAX  3 

#define PHT_CTR_INIT 2

#define HIST_LEN   17

RAW
NUM_MISPREDICTIONSMISPRED_PER_1K_INST
SHORT_14346422.9176
SHORT_2392712111.3901
SHORT_33762773.7208
SHORT_419232135.1629
SHORT_24480.0005
SHORT_251740.0018
SHORT_271040.4710
SHORT_281040.0074
SHORT_3046200797.0143
LONG_13706610.5772
LONG_217625281.3861
LONG_399978247.7871
LONG_451700.0052


实验目标一：（实现一位的分支预测器）

即PHT_CTR_MAX = 1

实验目标二：（扩展全局分支历史长度）

即HIST_LEN  = 20

实验目标三：（为每个分支指令，分配完全独立的状态机）

将PC中的17位用逻辑与取出来

 所以在UpdatePredictor和GetPrediction函数中，改为

UINT32 phtIndex = (PC&0x7FFFC) % (numPhtEntries);

UINT32 phtCounter = pht[phtIndex];

实验目标四：（扩展为3位状态机）

PHT_CTR_MAX  = 7

实验目标五：（实现局部历史信息）

代码如下

///
  Copyright 2020 by mars.                                        //
///

#include <stdio.h>
#include <stdlib.h>

#include "common.h"

// 饱和计数器：加1
static inline UINT32 SatIncrement(UINT32 x, UINT32 max)
{
	if (x<max) return x + 1;
	return x;
}

// 饱和计数器：减1
static inline UINT32 SatDecrement(UINT32 x)
{
	if (x>0) return x - 1;
	return x;
}

// The state is defined for Gshare, change for your design
// Gshare分支预测器的状态信息，你需要根据自己的设计进行调整
UINT32 ghr;             // global history register  全局历史寄存器
UINT32 *pht;            // pattern history table    模式历史表
UINT32 *lht;            // local history table    局部历史表
UINT32 historyLength;   // history length           历史长度
UINT32 numPhtEntries;   // entries in pht           PHT中的项数
UINT32 numLhtEntries;   // entries in lht           LHT中的项数

#define PHT_CTR_MAX  3    //L为位数，则PHT_CTR_MAX=2**L-1
#define PHT_CTR_INIT 2

#define HIST_LEN   17   // 全局历史寄存器长度，取17位

#define TAKEN		'T'
#define NOT_TAKEN	'N'


void PREDICTOR_init(void)
{

	historyLength = HIST_LEN;
	ghr = 0;
	numPhtEntries = (1 << HIST_LEN);        // 模式历史表，就有2^17项
	numLhtEntries = (1 << (HIST_LEN-3));    // 局部历史表，就有2^14项
	pht = (UINT32 *)malloc(numPhtEntries * sizeof(UINT32));
	lht = (UINT32 *)malloc(numLhtEntries * sizeof(UINT32));
    // 将模式历史表，全部初始化为PHT_CTR_INIT
	for (UINT32 ii = 0; ii< numPhtEntries; ii++) {
		pht[ii] = PHT_CTR_INIT;
	}
	for (UINT32 ii = 0; ii< numLhtEntries; ii++) {
		lht[ii] = PHT_CTR_INIT;
	}

}

// Gshare分支预测器
// 将PC的低17位，与全局历史寄存器进行异或（加密），去索引PHT，得到对应的饱和状态
// 如果该状态的值超过一半，则预测跳转
// 如果该状态的值低于一半，则预测不跳转
char GetPrediction(UINT64 PC)
{
	UINT32 calculator = (PC>>2)%numLhtEntries;
	UINT32 join = (calculator<<3) | lht[calculator]%(1<<3);      //前14位来自PC,后三位来自LHT
	UINT32 phtIndex = join % (numPhtEntries);

	UINT32 phtCounter = pht[phtIndex];

	if (phtCounter > (PHT_CTR_MAX / 2)) {
		return TAKEN;
	}
	else {
		return NOT_TAKEN;
	}
}

// Gshare分支预测器
// 根据分支指令实际执行结果，来更新对应的饱和计数器
// 如果结果为跳转，则对应的饱和计数器+1
// 如果结果为不跳转，则对应的饱和计数器-1
// 更新全局历史寄存器：
// 结果为跳转，将1移位到GHR的最低位
// 结果为不跳转，将0移位到GHR的最低位
void  UpdatePredictor(UINT64 PC, OpType opType, char resolveDir, char predDir, UINT64 branchTarget)
{

    opType = opType;
    predDir = predDir;
    branchTarget = branchTarget;

	UINT32 calculator = (PC>>2)%numLhtEntries;
	UINT32 join = (calculator<<3) | lht[calculator]%(1<<3);      //前14位来自PC,后三位来自LHT
	UINT32 phtIndex = join % (numPhtEntries);

	UINT32 phtCounter = pht[phtIndex];
//	printf("PC=%016llx resolveDir=%c predDir=%c branchTarget=%016llx\n", PC, resolveDir, predDir, branchTarget);

	if (resolveDir == TAKEN) {
		pht[phtIndex] = SatIncrement(phtCounter, PHT_CTR_MAX);  // 如果结果为跳转，则对应的饱和计数器+1
	}
	else {
		pht[phtIndex] = SatDecrement(phtCounter);  // 如果结果为不跳转，则对应的饱和计数器-1
	}

	// update the LHT
	lht[calculator] = lht[calculator]<<1;
	if (resolveDir == TAKEN) {
		lht[calculator] = lht[calculator] | 0x1;
	}
	// update the GHR
	ghr = (ghr << 1);

	if (resolveDir == TAKEN) {
		ghr = ghr | 0x1;
	}
}

void PREDICTOR_free(void)
{
	free(pht);
	free(lht);
}

实验目标六：（实现局部+全局历史信息）

实验目标五在UpdatePredictor和GetPrediction函数中的

UINT32 phtIndex = join % (numPhtEntries);语句改为

UINT32 phtIndex = (join^ghr) % (numPhtEntries);即可

实验目标七：（考虑不用异或，使用其他hash函数）

在17位全局历史寄存器的情况下采用2^{17}附近的较大的素数：131111

即numPhtEntries = 131111

同理
20位时选取素数999983
25位时选取素数9999991

为神马是素数

但25位所需内存太大了 T_T

另将以上几个因素综合考虑尝试，得到以下数据：

 由实验数据可知：

  1. 选择适当的、较大的除数进行散列，分配较大的模式历史表（PHT），以及选择较大的全局历史GHR）可以有效减少不同指令的碰撞，对于分支预测准确度的提升有较为可观的效果。但是分配空间受硬件条件限制不能过大，且空间越大预测准确度提升幅度越小。
  2. 使用多位的状态机也可以有效地识别出程序目前所处的状态，从而更好地预测分支。但是状态机位数过高有损于在程序变换跳转模式时的分支预测准确度。经实验，取7位较合适，且每个PHT的初始值应选取7/2 = 3或4，这里取4。
  3. 在全局历史信息与PC进行运算的时候用其他的运算替换XOR效果不大；我用平方取中法对join操作，效果比直接用join好些。（这里感觉天马行空，没有可靠的方案）
  4.  为每个分支指令分配独立状态机、只实现局部历史信息，这样做没有将全局历史跳转信息考虑在内，效果很一般

最终选取 20位GHR + 除留余数法改进999983 + 三位状态机 + 平方取中 +局部信息+全局信息 

///
  Copyright 2020 by mars.                                        //
///

#include <stdio.h>
#include <stdlib.h>

#include "common.h"

// 饱和计数器：加1
static inline UINT32 SatIncrement(UINT32 x, UINT32 max)
{
	if (x<max) return x + 1;
	return x;
}

// 饱和计数器：减1
static inline UINT32 SatDecrement(UINT32 x)
{
	if (x>0) return x - 1;
	return x;
}

// The state is defined for Gshare, change for your design
// Gshare分支预测器的状态信息，你需要根据自己的设计进行调整
UINT32 ghr;             // global history register  全局历史寄存器
char  *pht;             // pattern history table    模式历史表
char  *lht;             // local history table      局部历史表
UINT32 historyLength;   // history length           历史长度
UINT32 numPhtEntries;   // entries in pht           PHT中的项数
UINT32 numLhtEntries;   // entries in lht           LHT中的项数

#define PHT_CTR_MAX  7    //L为位数，则PHT_CTR_MAX=2**L-1
#define PHT_CTR_INIT 4

#define HIST_LEN   20   // 全局历史寄存器长度，取20位

#define TAKEN		'T'
#define NOT_TAKEN	'N'


void PREDICTOR_init(void)
{

	historyLength = HIST_LEN;
	ghr = 0;
	numPhtEntries = 999983;//139999;//8209;//9999991;//999983;//(1 << HIST_LEN);        // 模式历史表，有999983项
	numLhtEntries = (1 << (HIST_LEN-3));                // 局部历史表，就有2^17项
	pht = (char *)malloc(numPhtEntries * sizeof(char)); //为节省空间，pht和lht均以char为单位
	lht = (char *)malloc(numLhtEntries * sizeof(char));
    // 将模式历史表，全部初始化为PHT_CTR_INIT
	for (UINT32 ii = 0; ii< numPhtEntries; ii++) {
		pht[ii] = PHT_CTR_INIT;
	}
	for (UINT32 ii = 0; ii< numLhtEntries; ii++) {
		lht[ii] = PHT_CTR_INIT;
	}

}

// Gshare分支预测器
// 将PC的低17位与局部历史表对应项拼接，再与全局历史寄存器进行异或（加密），去索引PHT，得到对应的饱和状态
// 如果该状态的值超过一半，则预测跳转
// 如果该状态的值低于一半，则预测不跳转
char GetPrediction(UINT64 PC)
{
	UINT32 calculator = (PC>>2)%numLhtEntries;
	UINT32 join = (calculator<<3) | lht[calculator]%(1<<3);      //前22位来自PC,后三位来自LHT
	UINT32 phtIndex = (((join*join)>>10)^ghr) % (numPhtEntries);

	UINT32 phtCounter = pht[phtIndex];

	if (phtCounter > (PHT_CTR_MAX / 2)) {
		return TAKEN;
	}
	else {
		return NOT_TAKEN;
	}
}

// Gshare分支预测器
// 根据分支指令实际执行结果，来更新对应的饱和计数器
// 如果结果为跳转，则对应的饱和计数器+1
// 如果结果为不跳转，则对应的饱和计数器-1
// 更新全局历史寄存器：
// 结果为跳转，将1移位到GHR的最低位
// 结果为不跳转，将0移位到GHR的最低位
// 同时更新LHT
void  UpdatePredictor(UINT64 PC, OpType opType, char resolveDir, char predDir, UINT64 branchTarget)
{

    opType = opType;
    predDir = predDir;
    branchTarget = branchTarget;

	UINT32 calculator = (PC>>2)%numLhtEntries;
	UINT32 join = (calculator<<3) | lht[calculator]%(1<<3);      //前22位来自PC,后三位来自LHT
	UINT32 phtIndex = (((join*join)>>10)^ghr) % (numPhtEntries);

	UINT32 phtCounter = pht[phtIndex];
//	printf("PC=%016llx resolveDir=%c predDir=%c branchTarget=%016llx\n", PC, resolveDir, predDir, branchTarget);

	if (resolveDir == TAKEN) {
		pht[phtIndex] = SatIncrement(phtCounter, PHT_CTR_MAX);  // 如果结果为跳转，则对应的饱和计数器+1
	}
	else {
		pht[phtIndex] = SatDecrement(phtCounter);  // 如果结果为不跳转，则对应的饱和计数器-1
	}

	// update the LHT
	lht[calculator] = (lht[calculator]<<1)%8;   //模8是为了防止char左移位时溢出
	if (resolveDir == TAKEN) {
		lht[calculator] = lht[calculator] | 0x1;
	}
	// update the GHR
	ghr = (ghr << 1);

	if (resolveDir == TAKEN) {
		ghr = ghr | 0x1;
	}
}

void PREDICTOR_free(void)
{
	free(pht);
	free(lht);
}
NUM_MISPREDICTIONS(raw)NUM_MISPREDICTIONS(improved)MISPRED_PER_1K_INST(raw)MISPRED_PER_1K_INST(improved)
SHORT_1434642  1426812.91760.9578
SHORT_23927121155970511.39014.5237
SHORT_33762773058733.72083.0246
SHORT_4192321314227425.16293.8194
SHORT_2448480.00050.0005
SHORT_251741740.00180.0018
SHORT_2710490.47100.0408
SHORT_281041080.00740.0077
SHORT_30462007913589617.01432.0632
LONG_1370661746910.57720.1163
LONG_2176252813800731.38611.0853
LONG_3999782495482307.78717.4369
LONG_4517060890.00520.0061

emmm~部分结果还是差强人意，就这样吧，这玩意太™玄了

PS：为了减小内存使用，把原程序的为节省空间，PHT和LHT均由以UINT32为单位改为以char为单位(但内存使用还是很大)

PSS：为便于跑出数据，改写了测试程序，使其能够连续测试13个数据集，并生成包含每次实验的NUM_MISPREDICTIONS和MISPRED_PER_1K_INST数值的data.test文件

谁吧好名字都抢了
关注
  • 11
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
（1）D触发器verilog描述
kouq123的博客
11-18 6837
2.1 D触发器verilog描述 2.1.1 本节目录 第一，本节目录； 第二，本节引言； 第三，FPGA简介； 第四，verilog简介； 第五，D触发器verilog描述实例； 第六，结束语。 2.1.2 本节引言 给FPGA一个支点，它可以撬动整个数字逻辑。““给我一根杠杆我就能撬动地球”是古希腊数学家、物理学家阿基米德说的，这句话是阿基米德的经典语录，这句话还被翻译为“给我一个支点，我就能撬起整个地球”，用了夸张的方式来说明杠杆原理。” 2.1.3 FPGA简介 FPGA（F
第四章：动态分支预测
Strive_LiJiaLe的博客
10-25 1281
认识cpu
【csapp实验5】分支预测器实验
Faustina__的博客
05-07 651
阿巴阿巴（其实就是他已经给了你一个Gshare分支预测器，前六个目标是在测试不同的参数和方案对你的分支预测的效果影响，最终根据这些，或者你有其他想法，在目标七里面实现你能做到的最好的分支预测器）？本实验采用一个给定的分支预测器框架，需要同学们实现自己的分支预测器算法，尽力降低。
【分支预测器】
最新发布
m0_73071554的博客
06-14 735
分支预测（Branch Prediction）在现代处理器中扮演着至关重要的角色。其主要目的是在执行指令流水线过程中预测分支指令的走向，从而提高处理器的执行效率。分支预测器根据历史信息和当前分支指令的特征来猜测下一个分支指令是否会被执行。通过减少分支错失（branch misprediction）导致的性能损失，分支预测技术可以显著提高指令流水线的效率。本文将介绍几种常见的分支预测器的实现，包括静态预测器、翻转预测器、相关预测器和GShare预测器。分支预测是提升处理器性能的重要手段。
CPU设计-分支预测
yueqiu693的博客
07-17 3316
CPU设计-分支预测
Gshare分支预测器的实现与优化
qq_56100912的博客
03-23 845
在较小的范围内，随着 PHT_CRT_MAX 的增大，除个别trace外，其余traces的预测准确度均有提高，但当PHT_CRT_MAX取较大值时，若出现连续若干个T或(N)，再想要反转就需要再经过若干个状态，故预测准确度就难以保证。对比发现，发现除LONG-2、LONG-3准确度下降外，其余的准确度均有较高的提升，其中SHORT-2准确度的提高更是翻了一倍，同时针对98317和196613而言，选取更大的数，会有更大的pht表，当遇到跳转指令更多的时候，更大的pht会有更大的容错率，故效果要好。
计算机体系结构基础知识介绍之高级分支预测（一）
欢迎交流！
07-09 939
由于需要通过分支危险和停顿来强制控制依赖，分支会损害管道性能。循环展开是减少分支危险数量的一种方法；我们还可以通过预测分支的行为来减少分支的性能损失。分支预测是一种计算机技术，它的目的是在执行分支指令之前，预测分支的方向和目标地址，从而减少流水线的停顿和冲突，提高处理器的性能。使用分支预测的原因是因为分支指令会中断指令流，导致处理器无法连续地取指和执行。如果处理器不做任何预测，就要等待分支指令执行完毕后才能确定下一条指令的地址，这样会造成很大的时间开销。
分支预测器实验简述
Hellsegamosken
03-29 1029
本来没打算写的，一是因为最近太忙了，二是因为这个东西太玄学了，很多地方都在吊打我的常识。开始做的时候已经是提交当天下午了（当时还没有延期的通知），所以前面没做好数据记录。 拿到代码以后我首先试了很多种平凡的改法，比如 PC xor ghr 改为 (PC << 2) xor ghr 之类的，改进不大，大多数情况下都要比基本的 gshare 劣。 然后实现了一个仅用局部历史的预测器，测量几组数据发现比 gshare 优秀。嗯，很好。然后我又写了个预测器来选择是采纳局部信息的预测器还是全局信息的预测器
csapp思维导图.zip
03-30
这部分探讨了代码优化技术，包括循环展开、分支预测、缓存利用等，以及如何通过理解编译器优化来改进程序性能。 6. **第六章：链接** 链接是将编译后的对象文件组合成可执行文件的过程。这一章会讲解静态链接和...
哈工大csapp课件ppt
03-05
6. **指令级并行**：介绍超标量、超线程、分支预测等提高处理器性能的技术，以及SIMD（单指令多数据）指令集用于高效处理数组操作。 7. **并发与同步**：分析进程和线程的并发执行，死锁、活锁和饥饿问题。讲解互斥...
csapp3e.rar
07-11
1. **处理器**：书中详细讲解了计算机处理器的工作原理，涵盖了指令集架构（ISA）、流水线技术、超标量设计、动态调度、分支预测等内容，帮助读者理解如何编写高效的机器级代码。 2. **内存管理**：讨论了虚拟地址...
中科大_高性能处理器体系结构_L6_动态分支预测
01-29
中科大 计算机体系结构 课程 动态分支预测 gshare BHT BHR
csapp lab archlab 解答
06-21
2. **减少分支预测错误**：分支指令如果预测错误，处理器需要花费额外的周期来恢复流水线，所以应尽量避免或优化可能导致预测错误的条件分支。 3. **内存访问优化**：减少不必要的内存访问，尤其是避免缓存未命中，...
分支预测详解
粉色挖掘机的博客
01-20 4371
分支预测详解：分支预测用于在微处理器中以流水线效率为目标来预测程序流。有许多方法来实现分支预测，通常在更好的预测结果和增加硬件做预测之间需要进行权衡。
预测饱和计数器中的迟滞位（hysteresis bit）
qq_40379102的博客
10-15 955
迟滞位的提出则是基于以下思考： 一直以来在大多数分支预测器的设计中默认使用 2-bit 饱和计数器进行预测。之所以选取2-bit，是因为使用2-bit预测效果比一位更好，而使用超过2-bit也并不能获得可观的改进效果。 是否存在一个k-bit 的计数器，其中1<k<2，其预测效果不逊于2-bit计数器，例如，一个1.4-bit的计数器。当然，不可能实现一个1.4位的计数器，但如果几个计数器共享某些位，从开销上来讲二者是一致的。 2-bit 计...
Vivado仿真网表输出高阻态
m0_46498597的博客
01-29 3919
1.1 Vivado仿真网表输出高阻态 1.1.1 本节目录 1）本节目录； 2）本节引言； 3）FPGA简介； 4）Vivado仿真网表输出高阻态； 5）结束语。 1.1.2 本节引言 “不积跬步，无以至千里；不积小流，无以成江海。就是说：不积累一步半步的行程，就没有办法达到千里之远；不积累细小的流水，就没有办法汇成江河大海。 1.1.3 FPGA简介 FPGA（Field Programmable Gate Array）是在PAL、GAL等可编程器件的基础上进一步发展的产物。它是作为
计算机体系结构——分支预测
TL2363023951的博客
04-09 1935
分支预测解决流水线冲突中的控制冒险。在指令集中，分支指令包括条件指令和非条件指令。对无条件指令来说，无需进行条件判断，就可以获得跳转后的地址；但是对条件跳转指令，无论是条件直接跳转还是条件间接跳转指令（RISC-V 无此类指令），都需要在执行阶段才可以确定是否跳转，这样会影响取值阶段的效率。
【CSAPP实验】分支预测器
qq_54628932的博客
07-28 973
分支预测器
【CPU微架构】分支预测（二）常用分支预测算法
L小台风
08-05 2796
本文主要介绍常用分支预测算法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值