1. 记住阿姆达尔定律:
- 不经常使用的代码不需要做较多优化考虑(或者完全不优化)。
- 这里有句俗语:让经常执行的路径运行更加高效,而运行稀少的路径正确运行。
2. 代码先保证正确,然后再考虑优化
所有频繁调用的函数,都需要优化。
3. 我所了解的那些写出非常高效代码的人说,他们优化代码的时间,是写代码时间的两倍。
4.跳转和分支执行代价高,如果可能,尽量少用。
- 函数调用需要两次跳转,外加栈内存操作。
- 优先使用迭代而不是递归。
- 使用内联函数处理短小的函数来消除函数调用开销。
- 将循环内的函数调用移动到循环外(例如,将for(i=0;i<100;i++) DoSomething();改为DoSomething() { for(i=0;i<100;i++) { … }})。
- if…else if…else if…else if…很长的分支链执行到最后的分支需要很多的跳转。如果可能,将其转换为一个switch声明语句,编译器有时候会将其转换为一个表查询单次跳转。如果switch声明不可行,将最常见的场景放在if分支链的最前面。
5. 仔细思考函数下标的顺序。
- 两阶或更高阶的数组在内存中还是以一维的方式在存储在内存中,这意味着(对于C/C++数组)array[i][j] 和 array[i][j+1]是相邻的,但是array[i][j] 和array[i+1][j]可能相距很远。
- 以适当的方式访问存储实际内存中的数据,可以显著地提升你代码的执行效率(有时候可以提升一个数量级甚至更多)。
- 现代处理器从主内存中加载数据到处理器cache,会加载比单个值更多的数据。该操作会获取请求数据和相邻数据(一个cache行大小)的整块数据。这意味着,一旦array[i][j]已经在处理器cache中,array[i][j+1]很大可能也已经在cache中了,而array[i+1][j]可能还在内存中。
6. 使用指令层的并行机制
- 尽管许多程序还是依赖单线程的执行,现代处理器在单核中也提供了不少的并行性。例如:单个CPU可以同时执行4个浮点数乘,等待4个内存请求并执行一个分支预判。
- 为了最大化利用这种并行性,代码块(在跳转之间的)需要足够的独立指令来允许处理器被充分利用。
- 考虑展开循环来改进这一点。
- 这也是使用内联函数的一个好理由。
7. 避免或减少使用本地变量。
- 本地变量通常都存储在栈上。不过如果数量比较少,它们可以存储在CPU寄存器中。在这种情况下,函数不但得到了更快访问存储在寄存器中的数据的好处,也避免了初始化一个栈帧的开销。
- 不要将大量数据转换为全局变量。
8. 减少函数参数的个数。
- 和减少使用本地变量的理由一样——它们也是存放在栈上。
9. 通过引用传递结构体而不是传值
- 我在射线追踪中还找不到一个场景需要将结构体使用传值方式(包括一些简单结构如:Vector,Point和Color)。
10. 如果你的函数不需要返回值,不要定义一个。
11. 尽量避免数据转换。
- 整数和浮点数指令通常操作不同的寄存器,所以转换需要进行一次拷贝操作。
- 短整型(char和short)仍然使用一整个寄存器,并且它们需要被填充为32/64位,然后在存储回内存时需要再次转换为小字节(不过,这个开销一定比一个更大的数据类型的内存开销要多一点)。
12. 定义C++对象时需要注意。
- 使用类初始化而不是使用赋值(Color c(black); 比Color c; c = black;更快)
13. 使类构造函数尽可能轻量。
- 尤其是常用的简单类型(比如,color,vector,point等等),这些类经常被复制。
- 这些默认构造函数通常都是在隐式执行的,这或许不是你所期望的。
- 使用类初始化列表(Use Color::Color() : r(0), g(0), b(0) {},而不是初始化函数Color::Color() { r= g = b = 0; } .)
14. 如果可以的话,使用位移操作>>和<<来代替整数乘除法
15. 小心使用表查找函数
- 许多人都鼓励将复杂的函数(比如:三角函数)转化为使用预编译的查找表。对于射线追踪功能来说,这通常导致了不必要的内存查找,这很昂贵(并不断增长),并且这和计算一个三角函数并从内存中获取值一样快(尤其你考虑到三角查找打乱了cpu的cache存取)。
- 在其他情况下,查找表会很有用。对于GPU编程通常优先使用表查找而不是复杂函数。
16. 对大多数类,优先使用+= 、 -= 、 *= 和 /=,而不是使用+ 、 -、 * 、 和?/
- 这些简单操作需要创建一个匿名临时中间变量。
- 例如:Vector v = Vector(1,0,0) + Vector(0,1,0) + Vector(0,0,1);?创建了五个匿名临时Vector: Vector(1,0,0), Vector(0,1,0), Vector(0,0,1), Vector(1,0,0) + Vector(0,1,0), 和 Vector(1,0,0) + Vector(0,1,0) + Vector(0,0,1).
- 对上述代码进行简单转换:Vector v(1,0,0); v+= Vector(0,1,0); v+= Vector(0,0,1);仅仅创建了两个临时Vector: Vector(0,1,0) 和 Vector(0,0,1)。这节约了6次函数调用(3次构造函数和3次析构函数)。
17. 对于基本数据类型,优先使用+?、?-?、?*?、?和?/,而不是+=?、?-=?、?*= 和 /=
18. 推迟定义本地变量
- 定义一个对象变量通常需要调用一次函数(构造函数)。
- 如果一个变量只在某些情况下需要(例如在一个if声明语句内),仅在其需要的时候定义,这样,构造函数仅在其被使用的时候调用。
19. 对于对象,使用前缀操作符(++obj),而不是后缀操作符(obj++)
- 这在你的射线追踪算法中可能不是一个问题
- 使用后缀操作符需要执行一次对象拷贝(这也导致了额外的构造和析构函数调用),而前缀的构造函数不需要一个临时的拷贝。
20. 小心使用模板
- 对不同的是实例实现进行不同的优化。
- 标准模板库已经经过良好的优化,不过我建议你在实现一个交互式射线追踪算法时避免使用它。
- 使用自己的实现,你知道它如何使用算法,所以你知道如何最有效的实现它。
- 最重要的是,我的经历告诉我:调试STL库非常低效。通常这也不是一个问题,除非你使用debug版本做性能分析。你会发现STL的构造函数,迭代器和其他一些操作,占用了你15%的运行时间,这会导致你分析性能输出更加费劲。
21. 避免在计算时进行动态内存分配
- 动态内存对于存储场景和运行期间其他数据都很有用。
- 但是,在许多(大多数)的系统动态内存分配需要获取控制访问分配器的锁。对于多线程应用程序,现实中使用动态内存由于额外的处理器导致了性能下降,因为需要等待分配器锁和释放内存。
- 即便对于单线程应用,在堆上分配内存也比在栈上分配内存开销大得多。操作系统还需要执行一些操作来计算并找到适合尺寸的内存块。
22. 找到你系统内存cache的信息并利用它们
- 如果一个是数据结构正好适合一个cache行,处理整个类从内存中只需要做一次获取操作。
- 确保所有的数据结构都是cache行大小对齐(如果你的数据结构和一个cache行大小都是128字节,仍有可能因为你的结构体中的一个字节在一个cache行中,而其他127字节在另外一个cahce行中)。
23. 避免不需要的数据初始化
- 如果你需要初始化一大段的内存,考虑使用memset。
24. 尽早结束循环和尽早返回函数调用
- 考虑一个射线和三角形交叉,通常的情况是射线会越过三角,所以这里可以优化。
- 如果你决定将射线和三角面板交叉。如果射线和面板交叉t值是负数,你可以立即返回。这允许你跳过射线三角交叉一大半的质心坐标计算。这是一个大的节约,一旦你知道这个交叉不存在,你就应该立即返回交叉计算函数。
- 同样的,一些循环也应该尽早结束。例如,当设置阴影射线,对于近处的交叉通常都是不必须的,一旦有类似的的交叉,交叉计算就应该尽早返回。(这里的交叉含义不太明白,可能是专业词汇,译者注)
25. 在稿纸上简化你的方程式
- 许多方程式中,通常都可以或者在某些条件中取消计算。
- 编译器不能发现这些简化,但是你可以。取消一个内部循环的一些昂贵操作可以抵消你在其他地方的好几天的优化工作。
26. 整数、定点数、32位浮点数和64位双精度数字的数学运算差异,没有你想象的那么大
- 在现代CPU,浮点数运算和整数运算差不多拥有同样的效率。在计算密集型应用(比如射线追踪),这意味这可以忽略整数和浮点数计算的开销差异。这也就是说,你不必要对算数进行整数处理优化。
- 双精度浮点数运算也不比单精度浮点数运算更慢,尤其是在64位机器上。我在同一台机器测试射线追踪算法全部使用double比全部使用floats运行有时候更快,反过来测试也看到了一样的现象(这里的原文是:I have seen ray tracers run faster using all doubles than all floats on the same machine. I have also seen the reverse)。
27. 不断改进你的数学计算,以消除昂贵的操作
- sqrt()经常可以被优化掉,尤其是在比较两个值的平方根是否一致时。
- 如果你重复地需要处理 除x 操作,考虑计算1/x的值,乘以它。这在向量规范化(3次除法)运算中赢得了大的改进,不过我最近发现也有点难以确定的。不过,这仍然有所改进,如果你要进行三次或更多除法运算。
- 如果你在执行一个循环,那些在循环中执行不发生变化的部分,确保提取到循环外部。
- 考虑看看你的计算值是否可以在循环中修改得到(而不每次都重新开始循环计算)。