2024 极术通讯- 抢占端侧大模型部署制高点，NPU将为端侧提供关键动力

最新推荐文章于 2024-05-21 11:37:57 发布

极术社区

最新推荐文章于 2024-05-21 11:37:57 发布

阅读量421

点赞数 3

分类专栏：极术通讯文章标签： Arm技术

本文链接：https://blog.csdn.net/weixin_47569031/article/details/138844084

版权

极术通讯专栏收录该内容

95 篇文章 10 订阅

订阅专栏

导读：极术社区推出极术通讯，引入行业媒体和技术社区、咨询机构优质内容，定期分享产业技术趋势与市场应用热点。

芯方向

Keil MDK 第六版现已全面推出

Keil MDK第六版于近期全面发布，它主要针对Cortex-M和Arm Ethos-U处理器进行了优化，支持MLOps工作流程和Arm虚拟硬件验证。新特性包括基于Visual Studio Code的Keil Studio开发平台，免费使用的MDK中间件，CMSIS工具箱，以及Arm虚拟硬件平台。此外，它还引入了基于用户的授权许可简化授权过程。(来源：极术社区Arm技术博客专栏)

在GPU上加速RWKV6模型的Linear Attention计算

本文探讨了在GPU上加速RWKV6模型的Linear Attention计算的方法，包括使用flash-linear-attention库和RWKV-CUDA自定义高性能CUDA kernel。通过对比naive实现、RWKV-CUDA和flash-linear-attention中的实现，展示了Triton在LLM时代开发中的趋势和优势。同时，文章还介绍了使用PyTorch Profiler TensorBoard插件进行性能分析的方法，并提供了相关代码和性能测试结果。最后，作者分享了flash-rwkv库的开发迭代历程和未来优化方向。(来源：极术社区嵌入式AI专栏)

AI 加持，Arm 车载算力全面升级

AI技术在汽车行业的应用推动了数字化转型，带来高算力需求和研发复杂性。Arm新推出汽车增强 IP 和汽车计算子系统 (CSS)，与合作伙伴共建虚拟原型平台和全栈软件解决方案，以应对挑战，推动AI汽车高效开发和技术创新。(来源：极术社区极术公开课订阅专栏)

分享一个软硬件开源的低功耗时钟项目

本文分享了一款基于AVR128DA48的超低功耗LCD时钟项目，可使用CR2032电池或太阳能电池供电三年以上。它采用片上温度传感器，I2C接口可连接外部传感器，同时使用单片机定时器实现时钟功能，节省成本。作者进行了不同频率下的功耗测试，并开源了软硬件资料。(来源：极术社区嵌入式客栈专栏)

创客项目秀｜基于树莓派Rasberry Pi的桌面机器人 - MBO

BMO-AI是一款基于树莓派Raspberry Pi 3B+的3D打印桌面机器人，原型来自动漫Adventure Time中的MBO角色。它利用Raspbian Bullseye操作系统、Adafruit CRICKIT Hat进行伺服电机控制和信号输入，具有四个关节点和5英寸显示屏，可显示面部表情和图像。BMO-AI还集成了多种AI功能，包括语音描述绘制图片、生成描述性图像等。本文详细介绍了该机器人项目的软硬件设计。(来源：极术社区柴火创客空间专栏)

芯观察

安谋科技杨磊：抢占端侧大模型部署制高点，NPU将为端侧提供关键动力丨GenAICon 2024

近期智东西举办了2024中国生成式AI大会，安谋科技产品总监杨磊受邀发表了演讲。他强调了NPU在端侧大模型部署中的关键作用。随着AI任务处理从云侧向端侧迁移，NPU作为端侧AI应用的核心算力资源，将为大模型的分布式落地演进提供核心动力。杨磊预测，未来两年，不论是高价位手机还是性价比优良的千元机，都有望具备本地部署AI大模型的硬件计算能力。此外，杨磊还提到，异构计算是端侧大模型部署的最优解决方案，安谋科技将打造一体化、高质量的异构计算IP平台，推动AI大模型在端侧设备加速落地。(来源：极术社区智东西专栏)

2024北京车展 - 中国汽车的智能化怎么样了？

2024北京车展聚焦中国汽车智能化进展，展示了智能座舱、GPT应用、智能驾驶安全技术、端到端大模型方案、智能硬件与中央算力平台等创新技术与应用。智能语音控制和AEB系统备受关注，高通和英伟达等芯片厂商竞争激烈。合资品牌如大众也加入智能化潮流，但燃油车架构限制了部分功能。中国汽车行业正面临同质化竞争，未来会更注重差异化产品定位和技术创新。(来源：极术社区Vehicle公众号专栏)

荣威RX5 MAX版智驾域控制器拆解分析

荣威RX5 MAX版域控制器采用创时智驾设计方案，主控SOC为德州仪器DRA829，支持多种智能辅助驾驶功能。存储芯片包括三星EMMC和DDR4，解串器为美信MAX96718和MAX96722，以太网芯片为恩智浦JA1101A，电源管理芯片包括德州仪器TPS6594、美信MAX20087和LM5143，CAN总线驱动芯片为恩智浦TJA1043。DRA829处理器基于Jacinto™ 7架构，面向ADAS和AV应用，具有高性能计算、深度学习引擎、信号和图像处理专用加速器等特性，支持多种传感器数据实时处理和融合，具备高速数据传输和存储能力，配备高性能AI处理器进行实时决策与规划，并具备多重安全机制。(来源：极术社区汽车电子与软件专栏)

相关阅读