NVIDIA Grace™ CPU是专为加速大型AI、HPC、云和超大规模工作负载而设计的。随着AI模型的复杂性和规模爆炸性增长,它们不仅强化了包含数百TB数据的深度推荐系统,改进了包含数千亿参数的对话式AI,还实现了科学发现。
Grace采用ARM Poseidon AE内核,单线程性能在业内属最强。Grace Hopper™ 超级芯片是为大规模AI和高性能计算应用打造的创新加速CPU,提供高性能、能效和高带宽连接,满足不同数据中心需求。
相比之下,Orin采用ARM Cortex A78微架构,但由于需要编译CUDA,未被用于座舱芯片以避免性能占用。
1)过去对计算性能的要求不是很高,什么活都交给CPU去干。然而CPU是通用处理器,虽然什么都能干,但在效率和性能上并不强。 后来,随着人工智能、深度学习对算力的巨大需求呈现指数级增长,计算性能被高度重视,因此,能够发挥强大计算性能的异构架构成为必然趋势。
2)对于计算过程复杂,但计算量不大的场景,CPU非常擅长;而对于计算量非常大,但计算过程不复杂的场景,GPU、FPGA、NPU等具有非常大优势。当异构计算成为主流趋势,则芯片企业会更倾向于自己能掌控的ARM架构CPU,或是RISC-V架构CPU。
3)要有CPU+异构单元(例如:CPU+GPU、CPU+FPGA、CPU+ASIC,CPU+NPU神经网络处理器或CPU+IPU人工智能处理器)