cpu cache对程序性能的影响

标签: 数组存储方式 cache 性能
142人阅读 评论(0) 收藏 举报
分类:

一、补充内容:
  由于计算机的内存是一维的,多维数组的元素应排成线性序列后存入存储器。数组一般不做插入和删除操作,即结构中元素个数和元素间的关系不变。所以采用顺序存储方法表示数组

1、 行优先存储

  将数组元素按行向量排列,第i+1个行向量紧接在第i个行向量后面。
【例】二维数组A[m][n]按行优先存储的线性序列为:
A[0][0]、A[0][1]…A[0][n]、A[1][1]、A[1][1]…A[1][n]…A[m][n]、A[m][1]…A[m][n]
在PASCAL和C语言中数组按行优先顺序存储。

2、 列优先存储

  将数组元素按列向量排列,第i+1个列向量紧接在第i个列向量后面。
【例】二维数组A[m][n]按列优先存储的线性序列为:
A[0][0]、A[1][0]…A[m][0]、A[0][1]、A[1][1]…A[m][1]…A[m][1]、A[0][n]…A[m][n]
ORTRAN语言中,数组按列优先顺序存储。

二、以矩阵乘法为例,了解cpu cache对程序性能的影响

/*square1.cpp*/  
/*未经优化的矩阵乘法程序*/  
#include <iostream>  
using namespace std;  
const int N = 1000;  
int a[N][N] = {0}, b[N][N] = {0}, c[N][N] = {0};  
int main() {  
    int i, j, k;  
    for (i = 0; i < N; i++) {  
        for (j = 0; j < N; j++) {  
            a[i][j] = i+j;  
            b[i][j] = i+j;  
        }  
    }  
    for (i = 0; i < N; i++) {  
        for (j = 0; j < N; j++) {  
            for (k = 0; k < N; k++) {  
                c[i][j] += a[i][k] * b[k][j];  
            }  

        }  
    }  
    return 0;
}
/*square2.cpp*/    
/*优化过的矩阵乘法程序*/    
#include <iostream>    
using namespace std;    
const int N = 1000;    
int a[N][N] = {0}, b[N][N] = {0}, c[N][N] = {0};    
int main() {    
    int i, j, k;    
    for (i = 0; i < N; i++) {    
        for (j = 0; j < N; j++) {    
            a[i][j] = i+j;    
            b[i][j] = i+j;    
        }    
    }    
    for (i = 0; i < N; i++) {    
        for (k = 0; k < N; k++) {    
            for (j = 0; j < N; j++) {    
                c[i][j] += a[i][k] * b[k][j];    
            }    

        }    
    }
    return 0;    
}


  两段程序的唯一差别,就是把 三层循环中的 j 循环 和k 循环的顺序交换了一下。
  square1.cpp中因为第三层循环(最内层循环)是对k进行循环,因此b[k][j]是对b逐列进行访问。我们知道内存中二维数组是以行为单位连续存储的,逐列访问将会每次跳1000*4(bytes)。根据cpu cache的替换策略,将会有大量的cache失效。因此square2.cpp将j循环和k循环交换位置,这样就保证了

c[i][j] += a[i][k] * b[k][j];

  这条语句对内存的访问是连续的,增加了cache的命中率,大大提升了程序执行速度。
  我们来看一下实测效果:(测试环境:64位双核2.4GHz cpu)

这里写图片描述
  执行时间测试:
这里写图片描述

转自:http://blog.csdn.net/dhl0317/article/details/5471601
http://blog.csdn.net/a775700879/article/details/11750703

查看评论

sysbench工具测试query cache对性能的影响

一.sysbench安装和使用说明 1.下载sysbench工具 wget sysbench-0.5.tar.gz cd /data/software tar -zxvf sysbench-0.5.t...
  • zengxuewen2045
  • zengxuewen2045
  • 2016-08-27 06:57:58
  • 568

高速缓存对程序性能的影响

本篇博客以“SSD6-Exercise5:Cache Lab”为例,首先介绍存储器的层次结构,重点阐述了提高程序局部性的重要性,以及编写高速缓存友好代码的方法。...
  • TomMMRunNEr
  • TomMMRunNEr
  • 2017-12-23 21:32:18
  • 149

Cpu Cache对程序性能分析

转自:http://igoro.com/archive/gallery-of-processor-cache-effects/ Most of my readers will understan...
  • cpucooler2011
  • cpucooler2011
  • 2016-01-24 19:23:08
  • 384

以矩阵乘法为例,了解cpu cache对程序性能的影响

#include using namespace std; #define N 1000 int a[N][N] = {0}, b[N][N] = {0}, c[N][N] = {0}; int m...
  • A775700879
  • A775700879
  • 2013-09-16 23:52:21
  • 2612

影响软件性能的因素

软件性能是软件的一种非功能特性,它关注的不是软件是否能够完成特定的功能,而是在完成该功能时展示出来的及时性。由于感受软件性能的主体是人,不同的人对于同样的软件能有不同的主观感受,而且不同的人对于软件性...
  • ansenamerson
  • ansenamerson
  • 2017-05-06 00:24:06
  • 928

优化程序性能总结

性能优化有三个层次: 系统层次 算法层次 代码层次 系统层次关注系统的控制流程和数据流程,优化主要考虑如何减少消息传递的个数;如何使系统的负载更加均衡;如何充分利用硬件的性能和设施;如何减少系...
  • u013240812
  • u013240812
  • 2015-10-23 14:34:57
  • 3111

CSAPP:优化程序性能(四)

了解一些限制程序性能的因素 一. 寄存器溢出 如果我们的并行度P超过了可用寄存器的数量,那么编译器就会通知溢出,将某些临时值存放在内存中,通常是运行时堆栈上分配空间,聚个例子,当把combine6的多...
  • a547720714
  • a547720714
  • 2017-06-21 22:00:47
  • 252

使CPU运行的更快--Cache

使CPU运行的更快--Cache 高速缓冲存储器Cache是位于CPU与内存之间的临时的存储器,它的容量比内存小但是交换速度快。 在Cache中的数据是内存中的一小部分,但是这一小部分是C...
  • dhauwd
  • dhauwd
  • 2017-06-22 22:20:16
  • 213

多核cache一致性

1 多核cache标志位 多核cache主要有两种一致性协议,一种所基于监听的,另外一种是基于目录,在这里我们主要考察基于监听的。 标志位有: valid: 是否有效 dirty: 脏位 exclus...
  • pkufergus
  • pkufergus
  • 2013-12-05 17:31:53
  • 2104

程序性能 CPU cache

对程序优化进行,一般是采用良好的算法,合理使用编程语法,但有些时候我们也要考虑硬件的问题,比如CPU cache的优化。 CPU cache对性能会有什么影响呢,先考虑一个例子: 假设我们需要对一...
  • hongjiqin
  • hongjiqin
  • 2011-08-01 11:57:36
  • 826
    个人资料
    持之以恒
    等级:
    访问量: 8万+
    积分: 1765
    排名: 2万+
    最新评论