CUDA Core理解

背景

目前为止，自己已经接触GPU一年多了, 最近才发现对最基础的cuda core 认识错误，具体的原因是：当在《CUDA C编程权威指南 》上看延迟隐藏章节的时候疑惑很大，书上说隐藏延迟需要的线程数=延迟*吞吐？当一个warp调度器发射一个除法指令给某一个cuda core的时候，假如需要5个时钟周期，我自己理解应该是5个周期后才能接收下一个指令，但是根据书上的意思，cuda core 在下一个周期就可以接收另外的除法指令了，为什么？

定义

cuda core是可以执行 32 位浮点加法、32 位浮点乘法、32 位到 8 位整数运算（如移位、加法、muls 和类似操作）的管道（pipe），并且还可以在其 SM 单元上生成内存请求以提供数据以不断处理数据 . 还要求特殊函数计算并由 SM 单元同步，以正确计算并行算法。

结论

就离谱，原来cuda core不是元操作，而是一个pipe, 所以一个cuda core如果执行一个除法指令需要N个时钟周期，一个SM中有M个cuda core，那么这个SM至少需要N*M个除法指令才能把这个cuda core(pipe)利用完全，好吧，又颠覆了自己的认知, 自学cuda真的好难😂