华为昇腾Ascend系列 之 01 什么是昇腾芯片?AIGC浪潮已至,进一步推动对芯片和算力的需求,主流 GPGPU/ASIC 产品性能对比(Ascend 910、Ascend 910B)

华为昇腾Ascend 910和910B处理器是AI算力核心产品,应对AIGC浪潮带来的算力需求。GPT3.5训练需数千张H100,而昇腾910单卡Int8算力达0.6 P,与主流GPU竞争。文章讨论了选择昇腾芯片的原因及与其他产品的性能对比。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

什么是昇腾Ascend 910、Ascend 910B

昇腾 310 和 910 处理器为华为AI 算力领域核心产品,910 单卡 Int8 算力大致可达 0.6 P,最大功耗为 300W,已可对标国际主流 GPU。且昇腾计算产业在硬件方面坚持“硬件开放”策略,通过自有硬件和合作硬件相结合的方式,可为客户提供多样化的算力选择。

为什么需要昇腾芯片

AIGC浪潮已至,进一步推动对芯片和算力的需求。当下,由于互联网公司、云计算提供商和企业客户都迫切希望将生成式AI应用到自身业务中,算力供应短缺的问题已经成为行业的普遍热点。

GPT3.5 对应数千张 H100,多模态需求再提升数倍至十倍。

GPT3.5 同级别模型约需要数千张 H100 进行训练。针对他们与 GPT3.5 相当的大语言模型,其使用了大约 3500 张 H100 进行训练。同时,对于初创公司而言,其需要数千张 H100 对大语言模型进行训练,需要几十张或者小几百张 H100 做微调。考虑 H100 价格约为 3-4 万美元/张,对用算力投入约为近亿美元。H100 价格约合人民币 24 万元,对应 3-4 万美元/张。投入在 3500 张级别,对应总投入或约为近亿美元。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

知识大胖

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值