CUDA编程 基础与实践 学习笔记（一）

开个坑…
用pytorch太不灵活了，学习一下CUDA编程。
研究生都第二年了，坚持不下去就有点丢人了奥。
书名见标题，樊哲勇老师的著作，清华大学出版社出版。
重点看前面十二章。
初次阅读，如有理解错误恳请大家批评指正~mua

第一章
GPU(graphics processing unit)，显卡。与CPU的区别：CPU有更多晶体管，用于数据缓存和流程控制，只有少数几个逻辑计算单元，适合完成复杂的逻辑计算；GPU有数千个核心，适合大规模矩阵运算。

（GPU的DRAM和CPU的DRAM是通过PCIe总线来通信的~，所以两者在程序中是否能够直接访问对方的存储空间呢？）
异构计算指CPU+GPU两种不同设备的协作计算，CPU为host,GPU为device。书中使用的GPU均为Nvidia GPU，CUDA编程目前仅支持该公司的GPU。有以下几个系列：

雀食，实验室的GPU都是Tesla,自己打游戏的主机是GeForce的。
计算能力表达为X.Y的形式：

前者为主