【白皮书下载】Imagination 张量分块技术（Tensor Tiling）

于 2021-04-26 08:00:00 发布
阅读量246 收藏 1
点赞数 1
文章标签： 芯片 物联网 项目管理 html css
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_49393016/article/details/116178810
版权

对于试图应对汽车行业日益增长的挑战的系统设计师来说，在硬件加速推理系统中减少外部 DDR 系统带宽是首要需求。DDR 带宽的减少不仅等同于功耗的降低，还能降低在系统上运行网络的处理延迟。

本白皮书重点介绍了 IMG 4系列神经网络加速器（NNA）中的Imagination张量分块技术（IIT）如何被专门设计来帮助SoC设计者实现这些目标。

为了尽可能地提高效率，深度神经网络加速器必须尽可能减少对外部存储器的带宽从而提高图形执行性能。大多数情况下，提供给深度神经网络加速器的可用DDR带宽存在理论上的最大值——实际受限于一个更低可用值。

请扫描下方二维码，获取白皮书

推荐阅读

END

Imagination Technologies是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。获取更多物联网、智能穿戴、通信、汽车电子、图形图像开发等前沿技术信息，欢迎关注 Imagination Tech ！

长按识别二维码

关注我们

博客
智能无人设备从IP核到系统的全流程功能安全问题初探
05-22 5
除了源自IEC 61508标准的、适用于汽车行业的功能安全标准ISO 26262和相应的ASIL系列认证，近年来随着低空经济和无人飞行器产业的快速的发展，《航空器机载电子设备硬件设计保障指南（DO-254）》，以及相应的航空电子硬件开发的适航标准框架AMC 20-152A（基本上是DO-254的补充）这两个用于航空设备和飞行器的通用标准，成为开发航空机载电子设备硬件的功能安全标准。为例，其在保障图形渲染和计算性能的同时，通过分布式安全机制在有限的面积开销下实现了功能安全支持，并通过了相关第三方认证。
博客
Gartner发布云技术发展的六大趋势
05-19 12
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。在未来几年，云技术将继续催生新的商业模式、带来竞争优势，并为企业实现业务目标提供新的思路。建议，企业应根据具体情况，识别特定用例，规划企业内部可从跨云部署模式中受益的分布式应用和数据，这样能够让工作负载在不同云平台、本地和托管设施间协同运行。不切实际的期望、欠佳的实施方式、难以控制的成本等原因，而。
博客
突破智能驾舱边界，Imagination如何构建高安全GPU+AI融合计算架构
05-16 735
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。然而，传统的异构计算架构中，各处理单元各自独立，导致资源分配不均和系统开销增大等问题，已难以适应未来汽车芯片的发展需求。首先，郑魁表示随着智能驾驶和多模态交互的快速发展，汽车芯片正面临着愈发复杂的计算任务挑战。性能支持，芯片面积成本，以及灵活性等方面优势显著，是智能座舱芯片的理想方案。
博客
一文讲透 AI 历史上的 10 个关键时刻
05-15 29
这种算法能够在训练过程中动态调整网络中的权重，使神经网络更有效地逼近正确输出，从而实现了对多层网络的高效训练，打破了 Minsky 在 1966 年提出的感知器局限，成为神经网络发展的关键转折点。从 1956 年达特茅斯会议上的一纸设想到 2025 年大模型走入千行百业，人工智能的发展从未是一帆风顺的直线，而是一条曲折、迂回却令人惊叹的演化之路。而下一次“奇点”，也许正在悄然靠近。这一定义标志着人工智能研究方向的转变，强调了数据驱动算法的重要性，并推动了能够随着时间不断适应和提升性能的人工智能系统的发展。
博客
Staff Graphics Software Engineer
05-14 17
是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。获取更多物联网、智能穿戴、通信、汽车电子、图形图像开发等前沿技术信息，欢迎关注 Imagination Tech！
博客
【研讨会回放】50分钟Imagination E系列GPU超详细解读
05-14 26
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。获取更多物联网、智能穿戴、通信、汽车电子、图形图像开发等前沿技术信息，欢迎关注 Imagination Tech！它为未来的边缘应用提供了一种通用且可编程的解决方案，涵盖图形渲染、桌面和智能手机等领域，可实现自然语言处理、工业计算机视觉以及自动驾驶等应用。Imagination 重磅推出的 E系列GPU。
博客
Imagination 宣布推出 E-Series GPU：开启Edge AI 与图形处理新时代
05-08 694
对需要同时运行图形与计算任务的系统设计者而言，E-Series GPU 提供了一种高度灵活的解决方案，既无需依赖额外的向量处理器或固定功能 AI 加速器，又能在降低整体系统设计成本的同时，实现面向未来的可扩展性。“Edge AI 硬件与软件的深度融合对于释放端侧智能的潜力至关重要，”Counterpoint Research 高级分析师 Parv Sharma 表示，“E-Series使开发者能够在多种应用场景和终端设备上部署端侧 AI 算法。当代设备日益复杂，处理器需同时支持图形与AI多项工作负载。
博客
Imagination 宣布推出 E-Series GPU：开启Edge AI 与图形处理新时代
05-08 90
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。它为未来的边缘应用提供了一种通用且可编程的解决方案，涵盖图形渲染、桌面和智能手机等领域，可实现自然语言处理、工业计算机视觉以及自动驾驶等应用。E-Series 凭借其高效的并行处理架构，在提供卓越图形性能的同时，针对人工智能工作负载，其。加速器，又能在降低整体系统设计成本的同时，实现面向未来的可扩展性。
博客
提升AI训练性能：GPU资源优化的12个实战技巧
05-06 86
混合精度技术的核心优势在于减少了 GPU 内存与计算核心之间的数据传输量—由于 16 位值占用的内存空间仅为 32 位值的一半，因此单位时间内可以加载更多数据到 GPU 缓存中，从而提高整体计算吞吐量。在构建 GPU 集群环境时，可考虑使用带有 GPU 资源分配功能的 Kubernetes 平台，以实现对多 GPU 节点的高效管理。该技术通过在执行权重更新前计算多个小批次的梯度，在不超出内存限制的情况下有效扩大了等效批处理大小，从而在保持内存使用效率的同时提升计算性能。
博客
小白学大模型：从零实现 LLM语言模型
04-30 18
Transformer 块是 Transformer 架构的核心单元，它通过组合多头注意力机制和前馈网络（MLP），并应用层归一化（Layer Normalization）以及残差连接（Residual Connections），来处理输入并学习复杂的模式。例如，在处理一个句子时，自注意力头可以突出显示单词之间的关系，比如代词与其所指代的名词之间的关系。现在我们已经完成了模型的编码工作，接下来需要定义训练参数，包括注意力头的数量、Transformer 块的数量等，以及数据路径等相关配置。
博客
下载白皮书 | AI处理器的真正本质
04-29 331
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。然而，在太多情况下，与AI的关联可能是牵强的，甚至在最糟糕的情况下完全具有误导性。在白皮书中，他对AI及其相关硬件选项进行了分类，特别聚焦于设备端（即边缘） AI，为大家提供了实用的背景知识，帮助大家更好地理解聚焦AI的新一波热潮。云端AI、边缘AI、AI训练、AI推理等术语的定义。扫描二维码，马上下载。
博客
具身智能×边缘计算：AI的“大脑”和“身体”如何联手闯荡世界？
04-28 293
从智慧城市交通系统的高效协同，到医疗康复设备的精准个性化服务，再到教育领域的智能辅助，这一组合正在成为多个行业变革的核心动力。具身智能的核心理念是：智能体通过“感知—决策—行动”的闭环，与环境进行实时互动，展现出灵活的智能行为。具身智能与边缘计算的结合，不仅是技术的突破，更是人类与科技关系的重新定义。举个例子，无人机通过边缘计算实时分析飞行环境数据，在空中动态调整飞行姿态，这种“聪明的反应”正是边缘计算的功劳。它们就像是智能世界的“大脑”和“身体”，通过协同合作，让机器从“能听话”进化到“懂世界”。
博客
写给小白的芯片封装入门科普
04-25 800
，并逐渐派生出SOJ（J型引脚小外形封装）、TSOP（薄小外形封装）、VSOP（甚小外形封装）、SSOP（缩小型SOP）、TSSOP（薄的缩小型SOP）及SOT（小外形晶体管）、SOIC（小外形集成电路）等。然后，进行晶圆级封装，最后再切割。RDL是在芯片表面沉积金属层和相应的介电层，形成金属导线，并将IO端口重新设计到新的、更宽敞的区域，形成表面阵列布局，实现芯片与基板之间的连接。由于垂直互连线的距离最短、强度较高，所以，硅通孔可以更容易实现小型化、高密度、高性能等优点，非常适合叠加封装（3D封装）。
博客
18个常用的强化学习算法整理：从基础方法到高级模型的理论技术与代码实现
04-23 126
熵温度调节：熵温度参数(Alpha)展示了动态调整过程，初期减小，在主要学习阶段(20-55回合)显著增加，随后再次降低，这与策略从初始探索逐渐转向利用阶段的预期行为一致。演员网络(负责选择最优动作)和评论家网络(负责评估状态-动作价值)均展现出有效的学习特征，尽管评论家损失增加是这类算法中常见的现象，反映了价值函数适应过程的复杂性。由于SARSA在更新中使用Q(s',a')（下一个实际选择的动作的值，可能是探索性动作），相比Q学习，它倾向于学习更为保守的策略，特别是在存在潜在风险的环境中（如悬崖问题）。
博客
边缘计算与AI融合：技术创新与产业变革的交汇点
04-21 133
与传统的冯·诺依曼架构不同，神经形态芯片模拟人脑的神经元和突触结构，具有超低功耗和并行处理能力，特别适合边缘设备上的AI应用。面对这一趋势，技术从业者需要持续关注边缘AI的前沿进展，企业需要制定合适的边缘智能战略，政策制定者需要为这一新兴领域创造有利的发展环境。特别是5G的网络切片和移动边缘计算(MEC)技术，能够为不同类型的边缘AI应用提供定制化的网络资源，确保关键业务的服务质量。通过将机器学习、深度学习等AI技术引入边缘节点，边缘设备不再仅仅是数据的中转站，而是具备了本地数据分析和决策能力的智能终端。
博客
读懂极易并行计算：定义、挑战与解决方案
04-17 989
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。架构的引入，以及计算机视觉技术的突破，包括零样本学习和自监督模型，显著提升了计算复杂性，并推动了硬件需求的转变。在此背景下，通用性指的是可编程能力、更广泛的工作负载支持能力，以及对快速演进的算法需求的适应能力。通过深入理解这类任务的独特特性，并利用适当的硬件架构，开发者可以充分释放这些任务的潜力。
博客
从AI算力爆发到图形革命 ，Imagination重构嵌入式设备的性能平衡模式
04-16 55
Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。还有很多边缘需求，比如通用计算和调度，云边混合带来的加密和隐私需求，图形渲染图像画质增强需求，功能安全和信息安全需求，设备自学习需求等。与此同时，模型不断优化也带来了硬件设计的变革，从单一算力需求转变为对算力、存储、中间通讯三者的平衡，新的硬件架构是发展的必然趋势。工作负载时，保证全天候的电池续航。
博客
CPU渲染、GPU渲染、XPU渲染详细对比：哪个渲染最快，哪个效果最好？
04-15 463
追求最佳性能和灵活调度的系统：对于渲染农场来说，采用XPU渲染能够同时利用CPU、GPU及其他加速硬件，在混合渲染任务中达到最优平衡，但需要应对系统架构和调度的复杂性。在主流的渲染模式分类中，按照渲染硬件的类型，即CPU渲染、GPU渲染，是非常常见的模式。动画3D渲染技术需要应对复杂的计算任务和精细的图像处理，作为渲染技术人员，选择合适的渲染模式，会直接影响制作效率和成品质量。高效渲染流水线：在渲染农场中，通过XPU调度技术，可以同时利用多种硬件资源，优化大规模任务的计算效率。
博客
明天见！Imagination与您相约2025慕尼黑电子盛会
04-14 35
据官方介绍，本届大展将有1800家海内外展商参展，涵盖半导体、传感器、电源、半导体智造、分销商、无源器件、显示等等。此外，展会同期将举办多个“创新论坛”，涉及电动车、汽车电子、人形机器人、三代半、嵌入式系统、人工智能、物联网、储能、智能制造、医疗电子、连接器、电机驱动、无人机等热门应用市场与高速发展行业。Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。
博客
上海见！Imagination与您相约2025慕尼黑电子盛会
04-10 47
据官方介绍，本届大展将有1800家海内外展商参展，涵盖半导体、传感器、电源、半导体智造、分销商、无源器件、显示等等。此外，展会同期将举办多个“创新论坛”，涉及电动车、汽车电子、人形机器人、三代半、嵌入式系统、人工智能、物联网、储能、智能制造、医疗电子、连接器、电机驱动、无人机等热门应用市场与高速发展行业。Imagination Technologies 是一家总部位于英国的公司，致力于研发芯片和软件知识产权（IP），基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作场所中使用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值