2024 极术通讯- 从芯片到生态，端侧生成式AI领域的最新进展

导读：极术社区推出极术通讯，引入行业媒体和技术社区、咨询机构优质内容，定期分享产业技术趋势与市场应用热点。

芯方向

GPT-4o 屠龙式震撼！多模态、实时交互、全员免费可用，丝滑语音交互的 ChatGPT 这把赢麻了

OpenAI 发布了GPT-4o，提供多模态、实时交互能力，支持文本、音频和图像输入输出，性能强大且免费开放给所有用户。GPT-4o 在语音交互、实时翻译、情绪分析等方面有显著提升，预示着未来人机交互将更加自然流畅。同时，OpenAI 也在安全和隐私方面进行了优化。(来源：极术社区超神经HyperAI专栏)

LLM推理入门指南：剖析模型性能

本文深入探讨了影响机器学习模型性能的四种瓶颈类型：计算受限、内存带宽受限、通信受限和计算开销受限。文章分析了这些瓶颈的原因、识别方法以及相应的优化策略。同时，文章还讨论了如何通过提高算术强度和改善算法实现来提高吞吐量和资源利用率。最后，文章强调了识别模型时延主要成因的重要性，以便采取针对性的优化措施。(来源：极术社区嵌入式AI专栏)

浅谈NoC

本文主要介绍了片上网络（NoC）的基本概念、拓扑结构、路由算法、流量控制机制以及功耗控制策略。文中详细讨论了NoC的ring、mesh、torus等拓扑结构，并分析了节点度、网络直径、对分带宽和平局距离等关键指标。同时，文章还探讨了死锁问题、电路交换与分组交换、存储-转发、直通、虫洞等流量控制机制，以及虚拟通道、反压和基于信用的流量控制协议。最后，文章还提到了路由器流水线设计、动态调压调频（DVFS）技术和服务质量（QoS）在NoC设计中的重要性。(来源：极术社区IC设计专栏)

边聊安全 | 功能安全开发之MPU

本文主要探讨了三个问题：什么是MPU、MPU解决哪些问题以及功能安全开发对MPU的功能安全需求有哪些。 (来源：极术社区平台安全架构(PSA)专栏)

芯观察

从芯片到生态，联发科在端侧生成式AI领域火力全开

联发科近期举办了天玑开发者大会，探讨如何将生成式AI普及到各行各业。会上推出了天玑AI开发套件，提供快速高效的开发体验，赋能终端生成式AI应用开发全流程。同时，联发科联合多家企业，启动天玑AI先锋计划，发布了《生成式AI手机产业白皮书》，构建从云端到终端的AI新生态，加速生成式AI技术在智能终端上的普及。 (来源：极术社区半导体行业观察专栏)

2024北京车展：车载SoC芯片企业基本情况梳理

2024北京车展上，车载SoC芯片企业展示了其在智能座舱、ADAS、自动驾驶等领域的芯片产品和解决方案。安霸半导体、地平线、芯驰科技、黑芝麻智能、杰发科技和芯擎科技等公司均发布了新产品，展示了其在车载SoC芯片领域的技术实力和市场布局。这些企业的产品涵盖了从入门级到高阶的智能座舱、ADAS和自动驾驶解决方案，展现了车载SoC芯片领域的竞争态势和技术发展趋势。(来源：极术社区汽车电子与软件专栏)

联发科的SoC会改变座舱市场格局吗？

联发科与英伟达合作，推出采用3nm工艺的CT-X1智能座舱SoC，内置AI计算单元，支持大语言模型，实现硬件整合，降低开发成本。联发科有望在智能汽车SoC市场成为重要玩家，与高通竞争。AI技术赋能智能汽车，实现舱驾一体，推动自动驾驶体验的革命性演变。(来源：极术社区芝能汽车电子设计专栏)

NVIDIA 携手 Alphabet 旗下 Intrinsic 让下一代机器人技术触手可及

NVIDIA与Alphabet旗下Intrinsic合作，利用NVIDIA AI和Isaac Manipulator技术，推进自主机器人操纵领域的发展。Isaac Manipulator基于transformer架构，提供零样本学习能力，通过Isaac Sim仿真评估，加速AI模型训练和任务程序改编。合作旨在为机械臂带来灵巧性和模块化AI功能，降低开发成本，提高终端用户灵活性。(来源：极术社区NVIDIA Triton推理服务器专栏)

相关阅读

• 2024 极术通讯- 抢占端侧大模型部署制高点，NPU将为端侧提供关键动力
• 2024 极术通讯-北京车展智能驾驶及座舱看展指南
• 2024 极术通讯-生成式AI的发展现状与未来趋势
• 2024 极术通讯-Arm 推出新一代 Ethos-U AI 加速器及全新物联网参考设计平台

更多内容可关注极术通讯专栏