操作系统碎碎念

进程&线程

进程是现代计算机系统最成功最深刻的抽象概念之一，进程的目的主要是方便计算机的使用，不同的程序，可以看起来各自独立的运行在计算机上，就像自己在独占计算机一样。对现代的计算机使用者来说，进程就像空气一样稀松平常无时不刻不在使用，但进程不是计算机与生俱来的；进程的调度，切换，是操作系统最基本最重要的功能之一。
进程的出发点并不是提高程序并行的效率，进程的切换，代价是比较高的，进程上下文的保存切换，还有一些缓存的切换，会使缓存命中下降。

线程主要是从提高程序运行效率角度设计的，线程的主要特点是并行计算。
比如可以并行计算的逻辑，多个cpu处理器，不同线程可以在多个核上并行。
比如需要io等待的业务，不使用多线程，某个io一直在阻塞，对cpu是极大的浪费。

其实你想想对cpu来说，是没有进程的概念的，它就是在一直执行一条条指令。进程的概念，是操作系统抽象出来的，但这个概念太重要了，没有他就不叫计算机，没有进程的话，就是那种专用的芯片专门做一个功能的。

tf模型内存撑爆，显存

GPU显存是另外一个设备自己带的内存，可以认为 它和CPU的主存之间 需要有专门的命令和通道（数据总线）来交换数据。

——以上是和CS内功修炼大佬学习到的，看来得尽快看《深入理解计算机系统》了~