关闭

等号赋值与memcpy的效率问题

标签: memcpy直接赋值C内存优化
3168人阅读 评论(0) 收藏 举报
分类:

偶尔看到一个说法,说,小内存的拷贝,使用等号直接赋值比memcpy快得多。结合自己搜集到的资料,整理成此文。

事实:strcpy等函数的逐字节拷贝,memcpy是按照机器字长逐字进行拷贝的,一个字等于4(32位机)或8(64位机)个字节。CPU存取一个字节和存取一个字一样,都是在一条指令、一个内存周期内完成的。显然,按字拷贝效率更高。

先给出一个程序:

#include <stdio.h>
#define TESTSIZE        128
struct node {
        char buf[TESTSIZE];
};
int main()
{
        char src[TESTSIZE] = {0};
        char dst[TESTSIZE];
        *(struct node*)dst = *(struct node*)src;
}

编译:gcc -g -o test test.c

获得汇编:objdump -S test

可以看到有这么一些汇编,对应的是等号赋值操作:

*(struct node*)dst = *(struct node*)src;
  4004b6: 48 8d 85 00 ff ff ff  lea    0xffffffffffffff00(%rbp),%rax
  4004bd: 48 8d 55 80           lea    0xffffffffffffff80(%rbp),%rdx
  4004c1: 48 8b 0a              mov    (%rdx),%rcx
  4004c4: 48 89 08              mov    %rcx,(%rax)
  4004c7: 48 8b 4a 08           mov    0x8(%rdx),%rcx
  4004cb: 48 89 48 08           mov    %rcx,0x8(%rax)
  4004cf: 48 8b 4a 10           mov    0x10(%rdx),%rcx
  4004d3: 48 89 48 10           mov    %rcx,0x10(%rax)
  4004d7: 48 8b 4a 18           mov    0x18(%rdx),%rcx
  4004db: 48 89 48 18           mov    %rcx,0x18(%rax)
  4004df: 48 8b 4a 20           mov    0x20(%rdx),%rcx
  4004e3: 48 89 48 20           mov    %rcx,0x20(%rax)
  4004e7: 48 8b 4a 28           mov    0x28(%rdx),%rcx
  4004eb: 48 89 48 28           mov    %rcx,0x28(%rax)
  4004ef: 48 8b 4a 30           mov    0x30(%rdx),%rcx
  4004f3: 48 89 48 30           mov    %rcx,0x30(%rax)
  4004f7: 48 8b 4a 38           mov    0x38(%rdx),%rcx
  4004fb: 48 89 48 38           mov    %rcx,0x38(%rax)
  4004ff: 48 8b 4a 40           mov    0x40(%rdx),%rcx
  400503: 48 89 48 40           mov    %rcx,0x40(%rax)
  400507: 48 8b 4a 48           mov    0x48(%rdx),%rcx
  40050b: 48 89 48 48           mov    %rcx,0x48(%rax)
  40050f: 48 8b 4a 50           mov    0x50(%rdx),%rcx
  400513: 48 89 48 50           mov    %rcx,0x50(%rax)
  400517: 48 8b 4a 58           mov    0x58(%rdx),%rcx
  40051b: 48 89 48 58           mov    %rcx,0x58(%rax)
  40051f: 48 8b 4a 60           mov    0x60(%rdx),%rcx
  400523: 48 89 48 60           mov    %rcx,0x60(%rax)
  400527: 48 8b 4a 68           mov    0x68(%rdx),%rcx
  40052b: 48 89 48 68           mov    %rcx,0x68(%rax)
  40052f: 48 8b 4a 70           mov    0x70(%rdx),%rcx
  400533: 48 89 48 70           mov    %rcx,0x70(%rax)
  400537: 48 8b 52 78           mov    0x78(%rdx),%rdx
  40053b: 48 89 50 78           mov    %rdx,0x78(%rax)

获得libc的memcpy汇编代码:objdump -S /lib/libc.so.6

00973a30 <memcpy>:
  973a30:       8b 4c 24 0c             mov    0xc(%esp),%ecx
  973a34:       89 f8                   mov    %edi,%eax
  973a36:       8b 7c 24 04             mov    0x4(%esp),%edi
  973a3a:       89 f2                   mov    %esi,%edx
  973a3c:       8b 74 24 08             mov    0x8(%esp),%esi
  973a40:       fc                      cld
  973a41:       d1 e9                   shr    %ecx
  973a43:       73 01                   jae    973a46 <memcpy+0x16>
  973a45:       a4                      movsb  %ds:(%esi),%es:(%edi)
  973a46:       d1 e9                   shr    %ecx
  973a48:       73 02                   jae    973a4c <memcpy+0x1c>
  973a4a:       66 a5                   movsw  %ds:(%esi),%es:(%edi)
  973a4c:       f3 a5                   rep movsl %ds:(%esi),%es:(%edi)
  973a4e:       89 c7                   mov    %eax,%edi
  973a50:       89 d6                   mov    %edx,%esi
  973a52:       8b 44 24 04             mov    0x4(%esp),%eax
  973a56:       c3                      ret
  973a57:       90                      nop
原来两者都是通过逐字拷贝来实现的。但是“等号赋值”被编译器翻译成一连串的MOV指令,而memcpy则是一个循环。“等号赋值”比memcpy快,并不是快在拷贝方式上,而是快在程序流程上。
测试发现,“等号赋值”的长度必须小于等于128,并且是机器字长的倍数,才会被编译成连续MOV形式,否则会被编译成调用memcpy。而同样的,如果memcpy复制的长度小于等于128且是机器字长的整数倍,会被编译成MOV形式。所以,无论你的代码中如何写,编译器都会做好优化工作。
 
而为什么同样是按机器字长拷贝,连续的MOV指令就要比循环MOV快呢?
在循环方式下,每一次MOV过后,需要:1、判断是否拷贝完成;2、跳转以便继续拷贝。
循环还是比较浪费的。如果效率要求很高,很多情况下,我们需要把循环展开(比如在本例中,每次循环拷贝N个字节),以避免判断与跳转占用大量的CPU时间。这算是一种以空间换时间的做法。GCC就有自动将循环展开的编译选项(如:-funroll-loops)。
 
循环展开也是应该有个度的,并不是越展开越好(即使不考虑对空间的浪费)。因为CPU的快速执行很依赖于cache,如果cache不命中,CPU将浪费不少的时钟周期在等待内存上(内存的速度一般比CPU低一个数量级)。而小段循环结构就比较有利于cache命中,因为重复执行的一段代码很容易被硬件放在cache中,这就是代码局部性带来的好处。而过度的循环展开就打破了代码的局部性。如果要拷贝的字节更多,则全部展开成连续的MOV指令的做法未必会很高效。
综上所述,“等号赋值”之所以比memcpy快,就是因为它省略了CPU对于判断与跳转的处理,消除了分支对CPU流水的影响。而这一切都是通过适度展开内存拷贝的循环来实现的。
 
如果将libc的memcpy换成时等号循环赋值,效率会如何,程序如下timememcpy.c:
#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include <sys/time.h>

#define LEN 0x20000
#define MYM 1
#define LIBM 0
char *dst;
char *src;

typedef struct memcpy_data_size
{
	int a[16];
}DATA_SIZE, *P_DATA_SIZE;

void *mymemcpy(void *to, const void *from, size_t size)
{
	P_DATA_SIZE dst = (P_DATA_SIZE)to;
	P_DATA_SIZE src = (P_DATA_SIZE)from;

	int new_len  = size/sizeof(DATA_SIZE)-1;
	int remain  = size%sizeof(DATA_SIZE)-1;
	
	while (new_len >= 1)
	{
		*dst++ = *src++;
		new_len--;
	}
#if 0
	while (new_len >= 2)
	{
		*dst++ = *src++;
		*dst++ = *src++;
		new_len = new_len -2;
	}
	if(new_len == 1)
	{
		*dst++ = *src++;
	}
#endif
	while (remain >= 0)
	{
		*((char *)dst + remain) = *((char *)src + remain);
		remain--;
	}

	return to;
}


int main(int argc, char const* argv[])
{
	int type = 0;
	struct timeval start, end;
	unsigned long diff;

	gettimeofday(&start, NULL);
	if(argc != 2){
		printf("you should run it as : ./run 1(or 0)\n");
		printf("1: run my memcpy\n");
		printf("0: run lib memcpy\n");
		exit(0);
	}
	type = atoi(argv[1]);
	if(MYM != type && LIBM != type){
		printf("you should run it as : ./run 1(or 0)\n");
		printf("1: run my memcpy\n");
		printf("0: run lib memcpy\n");
		exit(0);
	}

	dst = malloc(sizeof(char)*LEN);
	if (NULL == dst) {
		perror("dst malloc");
		exit(1);
	}

	src = malloc(sizeof(char)*LEN);
	if (NULL == src) {
		perror("src malloc");
		exit(1);
	}
	if(MYM == type){
		mymemcpy(dst, src, LEN);
		printf("my memcpy:\n");
	}
	else{
		memcpy(dst, src, LEN);	
		printf("lib memcpy:\n");
	}
	free(dst);
	free(src);
	
	gettimeofday(&end, NULL);
	diff = 1000000*(end.tv_sec - start.tv_sec)+ end.tv_usec - start.tv_usec;
	printf("run time is %ld us\n",diff);
	
	return 0;
}

被注释掉的几行代码本来是用来循环展开的,可测试结果并没发现有什么好处,故,先注释掉。
在测试程序中,经过多次测试,并无法真正确定libc和自己实现的memcpy效率谁优谁劣。可能是由于运行时间太短以及进程调度所致。
 
目前为止,还没找到更好的测试方法,去验证效率的优劣。
现将我的测试数据粘贴至此,仅供参考:
编译程序:gcc -g -o timememcpy timememcpy.c
执行测试脚本为:run.sh
#!/bin/sh
./timememcpy 1
./timememcpy 1
./timememcpy 1
./timememcpy 1
./timememcpy 1
./timememcpy 0
./timememcpy 0
./timememcpy 0
./timememcpy 0
./timememcpy 0
运行该脚本,得结果如下:
[root@SPA c]# ./run.sh
my memcpy:
run time is 435 us
my memcpy:
run time is 237 us
my memcpy:
run time is 249 us
my memcpy:
run time is 304 us
my memcpy:
run time is 300 us
lib memcpy:
run time is 262 us
lib memcpy:
run time is 222 us
lib memcpy:
run time is 335 us
lib memcpy:
run time is 281 us
lib memcpy:
run time is 247 us
 脚本内容修改为:
#!/bin/sh
./timememcpy 0
./timememcpy 0
./timememcpy 0
./timememcpy 0
./timememcpy 0
./timememcpy 1
./timememcpy 1
./timememcpy 1
./timememcpy 1
./timememcpy 1

再次运行,得结果:
[root@SPA c]# ./run.sh
lib memcpy:
run time is 479 us
lib memcpy:
run time is 461 us
lib memcpy:
run time is 512 us
lib memcpy:
run time is 405 us
lib memcpy:
run time is 365 us
my memcpy:
run time is 399 us
my memcpy:
run time is 314 us
my memcpy:
run time is 309 us
my memcpy:
run time is 510 us
my memcpy:
run time is 324 us
参考:
注:这个程序是起了一个计数线程,与实际的memcpy线程并发执行。本人感觉运行时间这么短的程序,要是使用一个线程去计数的话,由于进程调度机制并无法保证计数线程和该程序运行时间相同,误差会更大,所以,在本文的程序中摒弃理论这种计数方式。
 
0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:110189次
    • 积分:1845
    • 等级:
    • 排名:千里之外
    • 原创:77篇
    • 转载:27篇
    • 译文:1篇
    • 评论:7条
    文章分类
    思想旅游