关于CUFFT

我们知道，程序在首次执行调用GPU函数时，会有一个初始化的过程。该初始化过程有很大的开销，不应被计入实际执行时间。然而我们发现，在调用CUFFT库的时候，第一次生成plan handle 也会有很大的开销：

void main()
{
	int n = 100;
	float2 *data_h = new float2[n];
	for (int i=0; i<n; ++i)
	{
		data_h[i].x = i;
		data_h[i].y = 0;
	}
	float2 *data_d;
	cudaMalloc((void**)&data_d, n * sizeof(float2));
	cudaMemcpy(data_d, data_h, n * sizeof(float2), cudaMemcpyHostToDevice);

	static StopWatchInterface *timer;
	sdkCreateTimer(&timer);

	sdkStartTimer(&timer);

	cufftHandle plan1;
	cufftPlan1d(&plan1, n, CUFFT_C2C, 1);

	sdkStopTimer(&timer);
	cout<<"Create plan1: "<<sdkGetTimerValue(&timer)<<"ms"<<endl;

	sdkResetTimer(&timer);
	sdkStartTimer(&timer);

	cufftExecC2C(plan1, data_d, data_d, CUFFT_FORWARD);
	cufftDestroy(plan1);

	sdkStopTimer(&timer);
	cout<<"Execute plan1: "<<sdkGetTimerValue(&timer)<<"ms"<<endl;

	sdkResetTimer(&timer);
	sdkStartTimer(&timer);

	cufftHandle plan2;
	cufftPlan1d(&plan2, n, CUFFT_C2C, 1);

	sdkStopTimer(&timer);
	cout<<"Create plan2: "<<sdkGetTimerValue(&timer)<<"ms"<<endl;

	sdkResetTimer(&timer);
	sdkStartTimer(&timer);

	cufftExecC2C(plan2, data_d, data_d, CUFFT_INVERSE);
	cufftDestroy(plan2);

	sdkStopTimer(&timer);
	cout<<"Execute plan2: "<<sdkGetTimerValue(&timer)<<"ms"<<endl;

}

运行结果：

Create plan1: 228.562ms
Execute plan1: 0.27255ms
Create plan2: 0.328378ms
Execute plan2: 0.275842ms

可以看到，第一次调用 cufftPlan1d 函数时，耗时高达228毫秒，远远超过执行第二次调用 cufftPlan1d 函数以及执行FFT的时间。因此，大家在测试 CUFFT 运行时间时，应该注意吧首次生成 Plan 的函数排除在外，或者在此之前执行一个额外的 Plan 调用。

更多0