携手生态伙伴,Imagination GPU助力边缘生成式AI

9月 10 日,奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题,汇聚了 EICT 领域的专家、学者等重磅嘉宾,共同探讨 AI 时代背景下 RISC-V 的发展机遇。Imagination 作为重要生态合作伙伴受邀出席活动,与奕斯伟等业界伙伴携手加速 RISC-V 在各行各业的深度融合和应用落地。

417daeecb5bcf897c20ac415d8f96f7c.jpeg

活动现场,Imagination 产品管理高级总监 Stephen Barton 从芯片 IP 的角度,分享了Imagination 如何通过RSIC-V 和PowerVR 助力边缘生成式 AI 的发展。

首先,他表示,深度学习已成为推动大型计算机工作的有效方法,这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机,未来 AI 在小型计算机上将如何发展?对此,他探讨了两种方式,一是通过更大的计算机、晶体管调度、芯粒(chiplet)堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展,并且是通用的。RISC-V 则是很好的示例,作为一个不断发展的开放标准,专注于 RISC-V 解决方案可以让你充分利用系统的潜力。同时,CPU 是通用的,可以用于多种场景。

在边缘端,功耗、带宽等资源受限,更需要确保边缘计算的高效扩展。当运行生成式 AI 推理时,可能专注于峰值TOPS 和带宽,游戏也可能会占用大量的 GPU 资源,同时还可能有一些加密操作占用了大量 CPU 时间。为了保证通用性运行工作负载,并减少系统的核数量,可以通过 NPU 牺牲一些灵活性以实现高性能;也可以通过 GPU 牺牲一些芯片面积来获得更好的 PPA 并扩展加速能力。

与此同时, RISC-V 在边缘计算中也发挥着重要作用。Stephen 讲到,向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时,RISC-V 具有很大的灵活性,不需要 API 可直接使用。同时 AI 领域中 RISC-V 具有最低的面积开销,等等。

b81b1f03cbe39fe3fddc2a520340f854.png

最后,Stephen 特别提及到 Imagination 与奕斯伟、SiFive 的合作——奕斯伟 EIC77 系列,涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X,双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由 Imagination 的 GPU IP、SiFive 的 CPU IP,以及奕斯伟计算的专有神经网络单元 NPU 无缝集成而成,可为从机器视觉应用(如行为识别和人脸识别)到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。

未来 Imaginaiton 期待与更多伙伴合作,在边缘计算、AI PC 和 AI 加速等领域打造更多高性能产品,共同推动RISC—V 数字基础设施生态创新和产业发展。

END

欢迎加入Imagination GPU与人工智能交流2群

79d144e1d67386966cc5eb587e5100a1.jpeg

入群请加小编微信:eetrend77

(添加请备注公司名和职称)

推荐阅读

245c803ce9673e2d811f8d88b3a0b657.png

Imagination Technologies 是一家总部位于英国的公司,致力于研发芯片和软件知识产权(IP),基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作 场所中使用。获取更多物联网、智能穿戴、通信、汽车电子、图形图像开发等前沿技术信息,欢迎关注 Imagination Tech!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值