现代x86计算机架构的性能瓶颈变化

过去40年，计算机处理器的速度增长一直遵循半导体技术演进的摩尔定律，折算为每年加快52％。然而，计算机内存运行方面的提速仅为每年9％，硬盘性能的提速平均每年只有6％。现在计算机内存的运行速度只有CPU速度的约400分之一，这导致数据读取延迟，形成“存储墙”。CPU一级、二级、三级缓存构成的台阶将二者相连，而台阶的容量决定了有多少待处理的数据能够站在台阶上。所以现代CPU的价格不再主要由CPU主频决定了，而主要有CPU核心数量和CPU缓存大小决定。同样核心的情况下，服务器CPU，比如至强系列，要比桌面版CPU的三级缓存大不少，所以价格也贵很多了。

现代的追求性能软件开发者要很仔细、很小心地运用内存（主要是数据结构的定义和存取），不要让数据搬运跨越CPU的cache line而降低cache命中率。另外随着多线程性能的要求提供，越来越多的无锁原子操作库被使用在线程共享数据上，那些不愿意在缓存台阶上停留的（直接内存存取）变量数量也越来越多，这对多处核心多内存控制器的cache流水线是个破坏，开发者也得仔细权衡使用。不过线程局部缓存的用法也越来越多了，比如google的tcmalloc内存分配库就对多线程程序提高内存使用性能很有利。