没有最好，只有更好！

简介简介统一内存使得分配和访问系统中任何处理器上运行的代码都可以使用的数据遍历非常容易，CPU或GPU。使用分配统一内存非常简单，只须将malloc，new的调用替换为对**cudaMallocManaged()**的调用，这是一个分配函数，返回可从任何处理器的访问的指针。cudaError_t cudaMallocManaged(void **ptr, size_t size);当在CPU或GPU上运行的代码访问这种分配的数据（通常称为CUDA管理数据），CUDA系统软件和硬件负责将M

MPI数据通信常用函数：int MPI_Init(int *argc, char **argv[]);功能：用于并行环境初始化，其后面的代码到MPI_Finalize()函数之前的代码在每个进程中都会被执行一次。除MPI_Initialized()外，其余MPI函数都应在其后被调用。MPI系统将通过argc,argv得到命令行参数，即main函数必须带参数，否则会出错。int MPI_Finalize(void);功能：退出MPI系统，所有进程正常退出都必须调用。它用于并行代码的结束，即结束除

CUDA编程GPU内存总结CUDA内存主要包括：分页内存、锁页内存、零拷贝内存、统一虚拟寻址、统一内存地址。分页内存：简介：使用cudaMalloc()申请的主机内存，即可分页内存。特点：可分页内存传输数据到设备时，首先需要分配固定内存，在传递到设备端。对主机而言，分页内存可提高主机性能。锁页内存：简介：使用cudaMallocHost()申请锁页内存，需使用cudaFreeHost()释放锁页内存。特点：设备可直接访问锁页内存，可提高传输性能。零拷贝内存：简介：利用cudaHostAll

1Flops/s简写为T/s，是数据流量的计数单位，意思是“1万亿次浮点指令每秒”，它是衡量一个电脑计算能力的标准。1TFlops=1024GFlowps，即1T=1024G。各种FLOPS的含义：1） 一个MFLOPS（megaFLOPS）等于每秒1百万（=10^6）次的浮点运算；2） 一个GFLOPS（gigaFLOPS）等于每秒10亿（=10^9）次的浮点运算；3） 一个TFLOP...