【笔记】《C++性能优化指南》Ch3 测量性能

圣☆哥

已于 2023-09-05 15:52:06 修改

阅读量686

点赞数

分类专栏： C++ 文章标签：笔记 c++ 性能优化

于 2023-09-05 15:51:25 首次发布

本文链接：https://blog.csdn.net/weixin_42430021/article/details/132685227

版权

C++ 专栏收录该内容

23 篇文章 1 订阅

订阅专栏

【笔记】《C++性能优化指南》Ch3 测量性能

1. 优化思想

1.1 专业的性能测试流程

做出可测试的预测，并记录下预测；
保留代码变更记录；
使用可用的最优秀的工具进行测量；
保留实验结果的详细笔记。

1.2 优化准则

1.2.1 90/10规则

90/10规则，与80/20规则异曲同工，其揭示了某些代码是会被频繁执行的热点(hot spot)，而其他代码则几乎不会被执行，热点即我们进行性能优化的对象。

热点代码可以用汇编语言重写，不过由于使用汇编语言的代码范围极其有限，因此重写风险不大。

90/10规则的结论是：只需要优化一小部分代码就能带来显著的性能提升。识别出10%的热点代码是值得花时间的，而优化所有代码是浪费时间的。

1.2.2 Amdahl定律

阿姆达尔公式表示了优化后相较于优化前的速率提升，等式如下：

$S_T=\frac{1}{(1-P) + P / S_P}$

式中： $S_T$ —— 因优化而导致程序整体性能提升的比率； $P$ —— 被优化部分的运行时间占原来程序整体运行时间的比例； $S_P$ —— 被优化部分的性能改善比率。

阿姆达尔定律告诉我们，如果被优化的代码在程序的整体运行时间中占比不大，那么即使对它的优化再大也是不显著、不值得的。形象点说，不对症下药的话，其他方面再怎么好，最终也不能完全治愈疾病。

2. 进行实验

优秀的科学家是怀疑论者，他们总是对事物持有怀疑。这意味着他们会不断重复实验，直到实验结果能充分支持他们的预测，而不是轻易相信一次偶然得到的完美结果。

2.1 记实验笔记

如果每次的测试运行情况都被记录在案，那么就可以快速地重复实验。

记录的形式不限，可以是电子文本，也可以是纸笔记录等。

2.2 测量基准性能并设定目标

优化工作受到两个要素主导：优化前的性能基准测量值和性能目标值。

性能基准测量即测量每轮优化前的程序性能，性能目标值是每轮优化的目标时间性能。

常用的性能测试项目如下：

启动时间：从用户按下回车键直至程序进入主输入处理循环所经过的时间；
退出时间：从用户点击关闭图标或是输入退出命令直至程序实际完全退出所经过的时间；
响应时间：执行一个命令的平均时间或最长时间。它极大地影响了用户的满意度，通常粗略地以10的幂为单位划分为以下几个级别：
- 低于0.1秒：用户感觉在直接控制UI，任何高于此值的延迟都会让用户觉得是他们发送了一条命令让计算机去执行；
- 0.1到1秒：用户在控制命令，此时他们仍然觉得自己处于掌控状态，只不过该延迟会被用户理解为计算机执行了一条命令导致UI发生了变化；
- 1到10秒：计算机在控制，此时用户觉得自己失去了对计算机的控制。10秒是用户能保持注意力的最长时间，如果多次需要长时间等待UI发生改变，那么用户满意度会急速下降；
- 高于10秒：比如机器学习训练程序，此时用户认为他们有足够的时间去做一些其他事情。
吞吐量：与响应时间相对，表明在一定测试负载下，系统在单位时间内执行操作的平均次数。

通常，0.1秒以下的优化即过度优化，因为用户通常认为0.1秒是一瞬间的事，因此再进行优化带来的价值不大。

2.3 你只能改善你能够测量的

优化一个函数、子系统、任务或测试用例永远不等同于改善整个程序的性能。由于测试时的设置在许多方面都与处理客户数据的正式产品不同，在所有环境中都取得在测试过程中测量到的性能改善结果是几乎不可能的。

尽管某个任务在程序中负责大部分的逻辑处理，但使其变得更快未必会使得整个程序变得更快。

比如，对数据库的某个操作进行测试后，然后对该操作进行性能优化，但也仅仅是改善了该操作的性能，而数据库整体的性能可能无法获得提升。

3. 分析程序执行

分析器是一个可以生成另外一个程序的执行时间的统计结果的程序。

3.1 实现分析器的方式

共两种方式，一种同时支持Windows和Linux的方法如下：

程序员设置一个特殊的可以分析程序中所有函数的编译选项，重新编译一次程序，让程序变为可分析的状态。这涉及在每个函数的开始和结束处添加一些额外的汇编语言指令；
程序员将可分析的程序链接到分析库；
每次这个可分析的程序运行时都会在磁盘上生成一张分析表(profiling table)；
分析器读取分析表，然后生成一系列可阅读的文字或图形报告。

另一种分析方法如下：

通过将优化前的程序链接至分析库上使其变为可分析状态。分析库中的例程会以非常高的频率中断程序的执行，记录指令指针的值。
每次可分析的程序运行时都会在磁盘上生成一张分析表；
分析器读取分析表，然后生成一系列可阅读的文字或图形报告。

分析器的输出结果可能有多种形式，如下：

一份标记每行代码的执行次数的源代码清单；
一份由函数名和该函数被调用次数组成的清单；
每个函数的累计执行时间和在每个函数中进行的函数调用。
一份函数和在每个函数中花费的总时间的清单，但不包括调用其他函数的时间、调用系统代码的时间和等待事件的时间。

3.2 分析器的优缺点

分析器的分析功能都是量身定制的，它自身的性能开销非常小，因此它对程序的运行时间的影响也很小。通常，程序中的每个操作的执行速度只会被降低几个百分点。

分析器的最大优点是它直接显示出了代码中最热点的函数。

分析器的问题：

无法告诉你有更高效的算法可以解决当前的计算性能问题；
对于会执行许多不同任务的待优化的程序(比如数据库)，分析器无法给出明确的结果；
当遇到IO密集型程序或多线程程序时，分析器的结果中可能会含有误导信息，因为分析器减去了系统调用的时间和等待事件的时间。分析结果反映了程序做了多少事情，而不是花了多少实际时间去做这些事情。

以作者的分析经验来看，对Debug Build的分析结果和Release Build的一样。由于Debug Build没有隐藏内联函数，因此前者更易于分析。

专业优化提示：Windows上分析调试构建时，由于链接的是调试版本的运行时库。调试版本的内存管理器函数会执行一些额外的测试，以便更好地报告重复释放的内存和内存泄漏问题。这些额外测试的开销会显著的增加某些函数的性能开销。有一个环境变量可以让调试器不要使用调试内存管理器：向系统变量添加一个叫作_NO_DEBUG_HEAP的新变量并设定值为1。

分析器对于大多数程序来说，其分析结果已经足够好了，不需要再使用其他的优化方法了。

4. 测量长时间运行的代码

4.1 一点关于测量时间的知识

4.1.1 精确性、正确性和准确性

真正的测量实验必须能够应对可变性(variation)：可能破坏完美预测的误差源。可变性分为随机的和系统的两种。随机的可变性对每次测量的影响都不同，而系统的可变性对每次测量的影响都是相似的。

可变性自身也是可测量的。衡量一次测量过程中的可变性的属性被称为精确性(precision)和正确性(trueness)，两者组合成的直观特性称为准确性(accuracy)。

如果测量不受随机可变性的影响，它就是精确的；如果测量不受系统可变性的影响，它就是正确的。以打靶为例，如果弓箭手多次打靶都出现在某个位置邻域内，那么就认为他是精确的，但可能因为skill issue导致得分不高(打在外围)；而在精确性的基础上，提高弓箭手的技术(从而消除了系统误差)，使得打靶基本在中心，此时认为他是正确的。

只有同时具有精确性和正确性的测量才是准确的测量。

4.1.2 测量时间

本书中涉及的软件性能测量时间要么是测量持续时间(两个事件之间的时间)，要么是测量速率(单位时间内事件的数量，与持续时间相对)。用于测量时间的工具是时钟。

常见的时钟有：① 日晷；② 钟摆时钟；③ 电子时钟；④ 数字腕表。

时钟(日晷除外)并不会直接测量时分秒，它们只会对时标进行计数，然后只有将时标计数值与秒基准的时钟进行比较后才能校准时钟，显示出时分秒。

时标计数值肯定是一个无符号值。因此开发者要注意选用无符号类型。

4.1.3 测量分辨率

测量的分辨率是指测量所呈现的单位的大小。

时间测量的结果可以是一次或是两次时标，但不能是这两者之间。这些时标之间的间隔就是时钟的有效分辨率。

注意：在测量的准确性与它的分辨率之间是没有任何必需的关联的。

4.1.4 用多个时钟测量

当两个事件发生在相距很远的不同地点，可能需要两个时钟来测量时间，而两个不同的时钟的时标次数无法直接比较。

解决方案：通过设定国际协调时间(Universal Time Coordinated, UTC)同步。

如果两个时钟都和UTC完美地同步了，那么其中一个时钟的相对UTC时间可以直接与另一个相比较。但由于两个时钟都有各自独立的可变性因素，完全的同步是不可能的。

4.2 用计算机测量时间

4.2.1 硬件时标计数器的发展

多数现在流行的计算机体系结构在设计时都没有考虑过要提供很好的时钟。

计算机测量时间最大的问题并非周期性振动的振动源，更困难的是如何让程序得到可靠的时标计数值。

在Windows上它所测量的是经过时间而非CPU时间(CPU处理指令用时)。

需要了解的是，PC从来都不是设计作为时钟的，因此它们提供的时标计数器是不可靠的。

历代PC都提供的唯一可靠的时标计数器就是GetTickCount()返回的时标计数器了，尽管它也有缺点。

就作者的个人经验，对时间测量来说毫秒级别的准确性已经足够了。

4.2.2 返转

返转(wraparound)是指当前时钟的时标计数器值达到最大值后，如果再增加就变为0的过程。返转的问题出在缺少额外的位去记录数据，导致下次时间增加后的数值比上次时间的数值小。会返转的时钟仅适用于测量持续时间小于返转间隔的时间。

C++实现无符号算术的方式确保了即使在发生返转时也可以得到正确的结果。

4.2.3 分辨率不是准确性

GetTickCount()的分辨率是1ms，但调用GetTickCount()的准确性可能是10ms或15.67ms。

GetTickCount()特别让人沮丧的一点是，除了分辨率是1ms外，无法确保在两台Windows计算机中该函数是以某种方式或者相同方式实现的。

下面的代码用于测量GetTickCount()在某台计算机上的可用分辨率，之所以是“可用分辨率”，这是因为这里测量了两次调用GetTickCount()之间的平均时标数目，它们将蕴含在程序的测量时间中，那么如果真实的待测程序执行时间为 $x$ ，那么实测的执行时间则为 $x+\epsilon$ ，其中 $\epsilon$ 即为可用分辨率。

#include<windows.h>
#include<iostream>
using namespace std;
int main(){
	unsigned nz_count = 0, nz_sum = 0;
	ULONG last, next;	
	for (last = GetTickCount(); nz_count < 100; last = next){
		next = GetTickCount();
		if(next != last){
			nz_count++;
			nz_sum += next - last;
		}
	}
	if(nz_count){
		cout << "GetTickCount() mean resolution "
		     << (double)nz_sum / nz_count
		     << " ticks" << endl;
	}	
	return 0;
}

运行结果：

GetTickCount() mean resolution 15.63 ticks

注：上述代码计算了非零差值的平均值，以排除操作系统偷用时间片段去执行其他任务的误差。

在PC上，可使用的最快的时标计数器的分辨率是100纳秒级的，而且它们的基础准确性可能比它们的分辨率更低。这就导致不太可能测量函数的一次调用的持续时间。

4.2.4 延迟

延迟是指从发出命令让活动开始到它真正开始之间的时间。

就计算机上的时间测量而言，之所以会有延迟是因为启动时钟、运行实验和停止时钟是一系列的操作。整个测量过程可分解为以下五个阶段：

“启动时钟”涉及调用函数从操作系统中获取一个时标计数。在函数调用过程中，会实际地从处理器寄存器中获取时标计数器的值。这个值就是开始时间，称其为间隔 $t_1$ ；
读取时标计数器的值后，它仍然必须被返回和赋值给一个变量。这个过程的间隔为 $t_2$ ；
测量实验开始，然后结束，称其为 $t_3$ ；
“停止时钟”涉及另外一个函数调用去获取一个时标计数值，称函数运行至读取时标计数值的过程间隔为 $t_4$ ；
读取时标计数器的值后，它仍然必须被返回和赋值给一个变量，过程间隔为 $t_5$ 。

因此，实际测量时间应当为 $t_3$ ，但测量到的值为 $t_2+t_3+t_4$ ，因此延迟为 $t_2+t_4$ 。如果延迟占比很大，那么必须从实验结果中减去延迟。

如果同一个函数既在实验前被调用了，也在实验后被调用了，那么有 $t_1=t_4$ 和 $t_2=t_5$ ，也就是说，延迟就是计时函数的执行时间。

下面的代码可用于测量Windows计时函数的延迟：

#include<windows.h>
#include<iostream>
using namespace std;

int main(){
	ULONG start = GetTickCount();
	unsigned nCalls = 100000000;
	for (unsigned i=0; i<nCalls; ++i){
		GetTickCount();
	}	
	ULONG stop = GetTickCount();
	cout << (stop - start)
		 << "ms for 100m GetTickCount() calls" << endl;
	cout << (stop - start) * 1000000 / nCalls << "ns for each call" << endl;
	return 0;
}

运行结果：

204ms for 100m GetTickCount() calls
2ns for each call

对于纳秒级的延迟，它们对于在循环中连续调用函数约1秒的测量结果的准确性造成的影响不大。

延迟问题在慢速处理器上更严重。

4.2.5 非确定性行为

计算机是带有大量内部状态的异常复杂的装置，其中绝大多数状态对于开发人员是不可见的。执行函数会改变计算机的状态(如高速缓存中的内容)，这样每次重复执行指令时，情况都会与前一条指令不同。因此，内部状态的不可控的变化是测量中的一个随机变化源。

操作系统对任务的安排也是不可预测的。操作系统甚至可能会暂停执行正在被测量的代码，将CPU时间分配给其他程序。但是在暂停过程中，时标计数器仍在计时。这是一种会对测量造成更大影响的随机变化源。

4.3 克服测量障碍

别为小事烦恼：如果希望从性能优化中获得线性改善效果，误差只需要有两位有效数字就可以了；Windows上测量1秒时间的各变化源的影响度如下：
- 时标计数器函数的延迟： < 0.00001
- 基本时钟的稳定性 < 0.01
- 时标计数器的可用分辨率 < 0.1
测量相对性能：优化后代码的运行时间与优化前的比率被称为相对性能。它可以抵消系统可变性，因为两次测量受到的系统可变性是一样的。
通过测量模块测试改善可重复性：模块测试，即使用预录入的输入数据进行子系统测试，可以让分析运行或性能测量变得具有可重复性。每位开发人员都知道为什么他们应当构建由松耦合的模块组合而成的软件系统；每位开发人员都知道为什么他们应当维护优秀的测试用例库。优化只是应当这样做的又一个理由。
根据指标优化性能：开发人员仍然有一线希望可以基于不可预测的最新数据优化性能。这种方式就是不测量临界响应时间等值，而是收集指标、代码统计数据(例如中间值和方差)，或是响应时间的指数平滑平均数。由于这些统计数字是从大量的独立事件中得到的，因此这些数字的持续改善表明对代码的修改是成功的。

可能遇到的问题：
- 代码统计必须基于大量事件才有效，因而更耗时；
- 相比于分析代码和测量运行时间，收集指标需要更完善的基础设施。通常都需要持久化的存储设备来存放统计数据。而存储的时间开销非常大，会对性能产生影响。收集指标的系统必须设计得足够灵活，可以支持多种实验；
- 尽管有行之有效的方法去验证或是推翻基于统计的假设，但是这种方法需要开发人员能够妥当地应对一些统计的复杂性。
通过取多次迭代的平均值来提高准确性：对一个函数调用进行多次迭代测量可以抵消随机变化性。

提高优先级减少操作系统的非确定性行为：通过提高测量进程的优先级，可以减小操作系统使用CPU时间片段去执行测量程序以外的处理的几率。Windows上提高进程/线程优先级的方法：

SetPriorityClass(GetCurrentProcess(), ABOVE_NORMAL_PRIORITY_CLASS);
SetThreadPriority(GetCurrentThread(), THREAD_PRIORITY_HIGHEST);
// do testing
// 测量结束，恢复正常优先级
SetPriorityClass(GetCurrentProcess(), NORMAL_PRIORITY_CLASS);	
SetThreadPriority(GetCurrentThread(), THREAD_PRIORITY_NORMAL);

非确定性发生了就克服它：测量性能时尽量在“安静”的机器上进行，不要主动干除了测量性能之外的其他事情(比如移动鼠标等)，当然对多核处理器来说影响不大；另外，高速缓存对循环调用同一个函数的时间测量有影响，但因为测试的是分析器指出的热点函数，因此实际情况下也会在高速缓存中，影响不大。

4.4 创建Stopwatch类

使用Stopwatch类来测量程序中部分代码的执行时间并分析代码。它是一个模板类，独立于操作系统和C++标准，而类型T是依赖于操作系统和C++标准的简单计时器类。

4.4.1 Stopwatch类

书上的Stopwatch类没有给出具体定义，因此根据我个人的理解和实践，对它进行了定义，并去掉了部分接口和成员，定义如下：

#include<iostream>

typedef unsigned long counter_t;

template<typename T> class Stopwatch: T{
	typedef T BaseTimer;
public:
	// 创建一个秒表，开始计时(可选)
	explicit Stopwatch(bool start): m_log(std::cout){
		if(start){
			Start();
		}
	}
	explicit Stopwatch(char const* activity = "Stopwatch", bool start=true): 
		m_log(std::cout), m_activity(activity){
		if(start){
			Start();
		}	
	}
	Stopwatch(std::ostream& log, 
		char const* activity = "Stopwatch", bool start=true): 
			m_log(log), m_activity(activity){
		if(start){
			Start();
		}		
	}
	
	// 停止并销毁秒表 
	~Stopwatch(){
		Stop();
	}
	
	// 判断：如果秒表正在运行，则返回true
	bool IsStarted() const{
		return T::IsStarted();
	}
	
	// 启动(重启)秒表
	void Start(char const* event_name="start"){
		m_log << m_activity << ": " << event_name << "\n";
		T::Start();
	}
	
	void Show(char const* event_name="show"){
		counter_t diff = T::GetMs();
		m_log << m_activity << ": " << event_name << " " << diff << " ms\n";
	}
	
	// 停止正在计时的秒表
	void Stop(char const* event_name="stop"){		
		counter_t diff = T::GetMs();
		m_log << m_activity << ": " << event_name << " " << diff << " ms\n";
		T::Clear();
	}
private:
	std::ostream& m_log; // 用于记录事件的流 
	char const* m_activity; // 活动名称字符串 	
};

4.4.2 简单计时器TimerBase类

下面仅列出C++11的可移植的简单计时器TimerBase类：

#include<chrono>
using namespace std::chrono;

class TimerBase{
public:
	TimerBase(): m_start(system_clock::time_point::min()){}
	
	void Clear(){
		m_start = system_clock::time_point::min();
	}
	
	bool IsStarted()const{
		return m_start.time_since_epoch() != system_clock::duration(0);
	}
	
	void Start(){
		m_start = system_clock::now();
	}
	
	counter_t GetMs(){
		if(IsStarted()){
			system_clock::duration diff;
			diff = system_clock::now() - m_start;
			return (counter_t)(duration_cast<milliseconds>(diff).count());
		}
		return 0;
	}
	
private:
	system_clock::time_point m_start;
};

4.4.3 使用测试套件测量热点函数

一旦通过分析器或是运行时分析找出了一个候选的待优化函数，一种简单的改善它的方法是构建一个测试套件，在其中多次调用该函数，这样可以将该函数的运行时间增大为一个可测量的值，同时还可以抵消因后台任务、上下文切换等对运行时间造成的影响。

使用Stopwatch类测量基于数组的和基于链式结构的堆排序的执行时间：

int main(){	
	int n = 100000;
	std::vector<int> a(n);
	std::iota(a.begin(), a.end(), 1);
	auto seed = std::chrono::system_clock::now().time_since_epoch().count();
	std::shuffle(a.begin(), a.end(), std::default_random_engine(seed));
	// test heap_sort()
	{
		std::vector<int> b(a);
		Stopwatch<TimerBase> sw("heap_sort()");
		heap_sort(b.begin(), b.end());	 	
	}
	// test heap_sort_treeBased()
	{
		std::vector<int> b(a);
		Stopwatch<TimerBase> sw("heap_sort_treeBased()");
		heap_sort_treeBased(b.begin(), b.end());	
	}
	return 0; 
}

注意：

上述对Stopwatch类的用法用到了“资源获取就是初始化”(Resource Acquisition Is Initialization，RAII)惯用法(花括号包围)；
如果开发人员试图测试微秒级别的活动的时间，那么间接开销的比重将会显著增大，测试结果的准确度也因此会降低；
测量运行时间的最大缺点可能是需要直觉和经验去解释这些结果；
当在大型程序中含有许多全局变量时，程序在main()外消耗的时间可能会变成间接成本。

通过测试获得的有意思的发现：当数组元素个数在 $1, 10^5]$ 范围内时，基于数组的以及基于链式结构的堆排序性能差异很小，而且后者在 $10^5$ 反而比前者快一点，但到了 $10^7$ 的量级时，基于数组的堆排序更快。