边缘AI推理芯片

AI推理芯片

芯片型号	规格	主要功能	典型应用领域	大模型性能
Snapdragon X Elite	4nm工艺，12核Oryon CPU（最高4.3GHz），Adreno GPU（4.6 Tflops），75 TOPS AI性能	支持超过130亿参数的大型语言模型，4K 120Hz HDR视频播放，支持5G和Wi-Fi 7	高性能笔记本电脑、移动设备	能够轻松支持 130 亿参数大模型的终端侧部署与运行
MediaTek 天玑 9300	4nm工艺，Cortex-X3超大核（最高3.35GHz），Immortalis-G715 GPU，11核GPU	支持移动端硬件光线追踪，AI超级分辨率（AI-SR）和AI降噪（AI-NR）	高端智能手机	最高可达 330 亿参数的 AI 大语言模型。
Snapdragon 8cx Gen 3	5nm工艺，4×Cortex-X1超大核（最高3.0GHz）+ 4×Cortex-A78大核，Adreno GPU	支持4K HDR视频录制，5G下载速率最高10Gbps	Windows笔记本、平板电脑
MediaTek 天玑 9200	4nm工艺，Cortex-X3超大核（最高3.35GHz），Immortalis-G715 GPU	支持移动端硬件光线追踪，AI省电技术	高端智能手机
麒麟 970	10nm工艺，4个Cortex-A73大核（最高2.4GHz）+ 4个Cortex-A53小核，Mali-G72 MP12 GPU	集成NPU，支持LTE（4G）Cat.18	智能手机	AI运算能力FP16 1.92 TFLOP
此芯P1	6nm工艺，12核心（8大核+4小核），主频最高3.2GHz，旗舰系列10核GPU，30TOPS AI算力	支持8K60解码/8K30编码，LPDDR5-6400内存支持	AI PC、边缘计算设备	可运行 100 亿参数以内的端侧大模型，运行大语言模型吞吐量可达 30tokens / s 以上。
RK3588	8nm工艺，四核Cortex-A76 + 四核Cortex-A55，Mali-G610 GPU，6TOPS NPU	支持H.265/VP9 8K@60fps解码，LPDDR4/LPDDR4X/LPDDR5内存支持	基于ARM的PC、边缘计算设备、个人移动互联网设备和其他数字多媒体应用
苹果M1	5nm工艺，8核CPU（4个高性能核心+4个高效核心），8核GPU，16TOPS AI性能	支持统一内存架构，集成神经网络引擎	苹果MacBook Air、MacBook Pro、Mac mini
苹果M2	5nm工艺，8核CPU（4个高性能核心+4个高效核心），10核GPU，50TOPS AI性能	支持统一内存架构，集成神经网络引擎，性能提升25%	苹果MacBook Air、MacBook Pro、Mac mini
苹果M3	5nm工艺，8核CPU（4个高性能核心+4个高效核心），18核GPU，60TOPS AI性能	支持统一内存架构，集成神经网络引擎，性能提升65%	苹果MacBook Air、MacBook Pro、Mac mini	可以运行包含数十亿个参数的规模更大的Transformer模型

边缘AI推理芯片型号及规格的列表格对比分析：

芯片型号	算力（TOPS）	工艺（nm）	核心架构	支持视频编解码	功耗（W）	备注
云天励飞Edge10C	8	未提供	8核CPU	未提供	未提供	适用于边缘计算领域
云天励飞Edge10标准版	12	未提供	10核CPU	未提供	未提供	适用于边缘计算领域
云天励飞Edge10Max	48	未提供	40核CPU	未提供	未提供	适用于边缘CV大模型
寒武纪MLU220	8	未提供	未提供	未提供	8.25	边缘端的人工智能加速卡
寒武纪MLU270-S4	128	未提供	未提供	未提供	70	数据中心级的加速卡
华为昇腾310	16	未提供	未提供	支持	8	主要应用于推理场景
NVIDIA Jetson-TX2	1.30	未提供	未提供	支持	7.5/15	嵌入式设备的加速卡
NVIDIA T4	130	未提供	未提供	支持	70	主打数据中心的推理加速卡
酷芯微AR9341	4	28	CPU+DSP+NPU	支持	未提供	集成了酷芯微电子自研的NPU，适合高端智能IPC等领域
亿智电子SV823	未提供	未提供	未提供	支持	未提供	集成自研NPU，主要应用于智能安防场景
地平线旭日3系列	5TOPS（X3M）	未提供	BPU	未提供	未提供	包括X3M和X3E两颗芯片，面向AIoT场景
杭州国芯GX8010	未提供	未提供	NPU	未提供	未提供	多核异构架构，集成NPU神经网络处理器
爱芯科技AX630A	57.6	12nm	未提供	4K@60fps	未提供	高端边缘侧AI芯片，适用于多个物联网领域
瓴盛科技JA310	2	11nm	Arm Cortex-A55	4K@30fps	未提供	面向视觉计算的AIoT SoC
瑞芯微RK3588	未提供	未提供	未提供	未提供	未提供	支持端侧模型部署，适用于边缘AI芯片领域
时擎科技AT5055	未提供	未提供	RISC-V	未提供	未提供	端侧智能视觉芯片，搭载Timesformer Bumblebee 600V处理器
炬芯科技ATS3607D	未提供	未提供	Cortex-A5	未提供	未提供	智能语音交互SoC，专为智能家居、智能办公和会议音箱等应用而设计