【科普】CPU、GPU、NPU

已于 2024-10-12 16:56:34 修改
阅读量888 收藏 3
点赞数 21
文章标签： NPU
于 2024-10-10 21:11:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Aimonii/article/details/142832104
版权

在这里插入图片描述
三张图均包括Control（控制单元）、ALU（运算单元）、Cache（高速缓冲存储器）
CPU(CentralProcessingUnit):中央处理器，大部分都是控制单元、少量的ALU进行运算，是一个串行结构，所以在进行计算密集型任务时效率不高，
GPU(Graphics Processing Unit):图形处理器 架构有一些小的control和cache单元用来存储数据和调度任务，但80%的ALU构成的，所以GPU的算力很强，并行运算
GPU拥有强大的并行计算能力，但功耗高，体积大，价格贵，无法用到一些小型移动设备上。因此才有了NPU——体积小、功耗低、计算效率高
NPU(NeuralNetwork Processing Unit):神经网络处理单元(AI处理器)，由于深度学习计算的规则性，Npu使用解耦合的mem，ITCM和OTCM作为存储单元二是根据深度学习本身的特点，使NPU具有数据流的架构，各个计算单元PE间是有通信的，充分利用数据的复用性可以减少数据，在PE和I T C M这些存储单元之间的通信在减少功耗的同时，减少通信的实验
特点：计算和存储一体化
视频
视频

CPUCentralProcessingUnit大量Control、少量ALU串行
GPUGraphics Processing Unit小的control和cache单元用来存储数据和调度任务，80%的ALU并行
NPUNeuralNetwork Processing UnitNPU并行
【科普系列】AI芯片：CPU GPU TPU DPU NPU BPU简介
若北辰
11-26 3985
AI芯片也被称为AI加速器或计算卡，即专门用于处理人工智能应用中的大量计算任务的模块需要注意：其他非计算任务仍由CPU负责GPU 图形处理器（graphics processing unit，缩写：GPU）FPGA 现场可编程逻辑门阵列（Field Programmable Gate Array，缩写：FPGA）ASIC 专用集成电路(Application Specific Integrated Circuit，缩写：ASIC)所谓的AI芯片，一般是指针对AI算法的ASIC（专用芯片）
CPU/GPU/TPU/NPU...XPU都是什么意思？
吴建明wujianming_110117
05-10 1319
CPU/GPU/TPU/NPU…XPU都是什么意思？ 现在这年代，技术日新月异，物联网、人工智能、深度学习等概念遍地开花，各类芯片名词GPU, TPU, NPU，DPU层出不穷…都是什么鬼？与CPU又是什么关系？ HW发布了新款Mate 手机，里面有个叫什么NPU的，听起来很厉害，这是什么东西啊？就是人工智能处理器。 什么是人工智能处理器？和CPU有啥区别？和GPU有啥区别？不都带个PU吗？ 本文通俗易懂的科普一下这些所谓的“XPU”！ CPU CPU( Central Processing Unit,
CPU,GPU,NPU的架构差异对比
tugouxp的专栏
07-11 1万+
有价值的脑力劳动永远比单调枯燥乏味的体力劳动更能产生价值，所以，或许有一天，算力的最终形态的载体可能不是NPU，GPU甚至是CPU，但是，那个烙印在算力载体上的最深刻的基因，一定是来自于CPU的。从设计角度，传统处理器为减少每个核心上顺序代码的执行时间而优化，从而增加每个内核的复杂性是以提供功更少的核心为代价的，传统的处理器通常使用复杂的控制逻辑和大的缓存处理器，目的为了有效的处理条件分支，流水线STALL，数据局部性差的问题。支持顺序，循环，分支选择三种执行流，所以图灵完备，NPU显然不是。
CPU / GPU / NPU
qq_38844835的博客
10-11 1010
CPU -- Central Processing Unit 中央处理器。 GPU -- Graphics Processing Unit, 图形处理器，采用多线程SIMD架构，为图形处理而生。 NPU -- Neural Network Processing Unit，神经网络处理器，是基于神经网络算法与加速的新型处理器总称，如中科院计算所/寒武纪公司出品的diannao系列。 TPU -- Tensor Processing Unit 张量处理器， Google 公司推出的加速人工智能算法的专用处
GPU-NPU 异构推理任务自动调度与负载均衡策略实战详解
最新发布
努力分享一些人工智能相关的知识干货！
05-06 1140
随着国产 NPU 芯片的稳定落地和 AI 推理场景复杂度持续提升，越来越多的企业开始构建基于 **GPU + NPU 异构架构**的智能推理系统，实现算力资源最大化利用。本文基于实际项目经验，系统剖析 GPU 与 NPU 异构部署中的 **自动调度体系、任务分发机制与负载均衡策略**，从调度引擎设计、任务识别与分级、异构节点资源管理、动态流量分发、容错策略、性能指标采集等维度展开，并附以完整的代码示例、容器部署实践与调度决策样本，帮助工程团队构建具备智能决策能力的多平台 AI 推理系统。
CPU / GPU串行/并行翻转图片（一）
weixin_43087913的博客
11-09 418
参考书籍：《基于CUDA的GPU并行程序开发指南》 在Windows10中的项目，原来的程序可以在Linux中直接运行，这里做了一点修改。 测试电脑为：四核心八线程 单线程水平方向翻转： 单线程竖直方向翻转： 多线程水平方向翻转： 多线程竖直方向翻转： 可以看到多线程处理计算密集型任务是很有效的，后面继续改进程序。 源码地址：待定 ...
今日思考（2） — 训练机器学习模型用GPU还是NUP更有优势（基于文心一言的回答）
weixin_48878618的博客
10-19 4884
深度学习用GPU，强化学习用NPU。GPU侧重浮点计算能力TFLOPS（每秒万亿次浮点运算），在深度学习中，大量的矩阵计算需要浮点计算能力，对于强化学习相对不需要进行太多矩阵计算，而NPU,更侧重定点计算能力TOPS（每秒万亿次操作）在深度学习模型中，TFLOPS通常更有优势。由于深度学习模型涉及到大量的矩阵乘法和卷积操作，这些操作需要高精度的浮点数计算，而TFLOPS的高精度和灵活性可以更好地满足这种需求。
大模型落地：GPU向上，NPU向下
lvaolan的博客
07-23 1910
在这个即将到来的大模型时代，“GPU向上”意味着GPU更加适用于云侧等高性能计算场景，“NPU向下”代表NPU使用趋势是向更低功耗、边缘设备上的应用方向发展。GPU与NPU将是大模型应用落地的双重引擎。
GPU、NPU、LPU分别是啥,还有别的吗?
kcarly的专栏
02-10 1542
GPU、NPU和LPU分别针对图形渲染、神经网络计算和自然语言处理进行了优化，各自在特定领域表现出色。此外，还有CPU、TPU、APU等其他类型的处理器，它们在通用计算、AI推理和特定任务中各有优势。随着AI技术的发展，这些处理器将在不同场景中发挥更大的作用。
BPU, CPU, DPU, GPU, IPU, MCU, MPU, NPU, SoC,TPU 区别
u013669912的博客
09-02 2604
……
【性能王者】：NPU与GPU在深度学习中的对决
随着深度学习技术的飞速发展，神经处理单元(NPU)和图形处理单元(GPU)已成为推动其进步的关键技术组件。本文详细探讨了NPU和GPU在深度学习中的角色，涵盖了它们的理论基础、工作原理、性能对比以及适用场景。通过对...
【科普文】三种处理器：CPU,GPU,NPU到底是什么？
03-15 1万+
CPU (中央处理器)CPU是计算机系统的核心，负责执行程序指令、处理数据和控制其他硬件设备。它通常由控制单元、算术逻辑单元（ALU）和寄存器组成。CPU的设计使其能够处理各种类型的计算任务，包括复杂的逻辑运算和数据处理。CPU的通用性使其成为执行操作系统和应用程序的理想选择。通用性：能够执行各种类型的计算任务。复杂性：能够处理复杂的指令集和多任务操作。性能：在单线程性能上通常优于专用处理器。Intel - 明星产品：Core i9、Core i7、Core i5 系列、Xeon 服务器处理器。
CPU、GPU、NPU、VPU和DPU 简介
ygyglg的专栏
04-09 4400
在SoC（System on Chip）设计中，NPU、GPU、CPU、VPU和DPU是不同类型的处理器单元，它们各自针对不同的计算任务和应用场景进行了优化。下面详细介绍每一种处理器单元的特点、区别以及用途。
CPU, GPU, TPU, NPU, DPU介绍
人无远虑，必有近忧
04-14 3432
中央处理单元CPU的结构主要包括运算器（ALU, Arithmetic and Logic Unit）、控制单元（CU, Control Unit）、寄存器（Register）、高速缓存器（Cache）和它们之间通讯的数据、控制及状态的总线。简单来说就是：计算单元、控制单元和存储单元，架构如下图所示：从字面上我们也很好理解，计算单元主要执行算术运算、移位等操作以及地址运算和转换；存储单元主要用于保存运算中产生的数据以及指令等；控制单元则对指令译码，并且发出为完成每条指令所要执行的各个操作的控制信号。
CPU,GPU,TPU,NPU都是什么？
热门推荐
冷色调的夏天的博客
09-28 18万+
CPU,GPU,TPU,NPU都是什么？ 什么是CPU? 中央处理器（CPU），是电子计算机的主要设备之一，电脑中的核心配件。其功能主要是解释计算机指令以及处理计算机软件中的数据。CPU是计算机中负责读取指令，对指令译码并执行指令的核心部件。中央处理器主要包括两个部分，即控制器、运算器，其中还包括高速及实现它们缓冲处理器之间联系的数据、控制的总线。电子计算机三大核心部件就是CPU、内部存储...
三U之CPU、GPU、NPU
缘友一世的博客
03-15 1265
CUDA Core仍是并行计算的基石，RT Core让实时光线追踪成为可能，则推动AI与图形学的深度结合。RTX 3060作为主流显卡，完美融合三者，既能满足1080p光追游戏需求，也适用于轻量级AI开发。未来，随着芯片制程和架构的升级，这种“三核协同”的模式将继续定义高性能计算的边界。附加建议如果你是一名游戏玩家，RT Core和DLSS（依赖Tensor Core）能显著提升体验；若从事AI开发，Tensor Core的INT8量化能力可加速模型推理，而CUDA Core则适用于传统HPC任务。
通俗易懂告诉你CPU/GPU/TPU/NPU...都是什么意思？
耐心的小黑的博客
09-26 1万+
前言： 现在这年代，技术日新月异，物联网、人工智能、深度学习等概念遍地开花，各类芯片名词GPU, TPU, NPU，DPU层出不穷…它们都是什么鬼？与CPU又是什么关系？ 一、CPU CPU( Central Processing Unit, 中央处理器)就是机器的“大脑”，也是布局谋略、发号施令、控制行动的“总司令官”。 CPU的结构主要包括运算器（ALU, Arithmetic and Logic Unit）、控制单元（CU, Control Unit）、寄存器（Register）、高速缓存器（Cach
NPU是什么？电脑NPU和CPU、GPU区别介绍
weixin_56386428的博客
12-16 8345
随着人工智能技术的飞速发展，计算机硬件架构也在不断演进以适应日益复杂的AI应用场景。其中，NPU（Neural Processing Unit，神经网络处理器）作为一种专为深度学习和神经网络运算设计的新型处理器，正逐渐崭露头角。本文将深入探讨NPU的含义，以及它与传统处理器——CPU（Central Processing Unit，中央处理器）和GPU（Graphics Processing Unit，图形处理器）之间的显著区别。
什么是CPU、GPU、NPU？（包懂+会）
weixin_61944480的博客
09-11 6765
CPU（Central Processing Unit）是计算机的核心处理单元，通常被称为计算机的大脑。它负责执行计算机中的所有指令，处理基本的算术、逻辑运算、控制操作等任务。GPU（Graphics Processing Unit）是专为图形计算设计的处理器，尤其擅长并行处理大量的数据。最早，GPU的主要功能是加速图形渲染，尤其是3D图形的生成，但随着其并行计算能力的增强，GPU已经在科学计算、人工智能等领域获得广泛应用。NPU（Neural Processing Unit）是一种专门用于加速神经网络计算
CPU GPU和NPU
02-14
### CPU、GPU 和 NPU 的区别及其应用场景 #### 中央处理器 (CPU) 中央处理器(CPU)，通常被称为计算机的大脑，设计用于处理广泛类型的计算任务。这些任务包括但不限于运行操作系统功能、管理输入输出操作以及执行...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值