神经网络加速基础知识

神经网络加速基础知识

执行过程

image-20230113203422048

image-20230113203441770

image-20230113203508271

image-20230113203537998

image-20230113203559003

image-20230113203613299

image-20230113203841681

指令执行时间

image-20230113203940431

处理器

image-20230113204215702

image-20230113204225349

image-20230113204312842

image-20230113204324870

image-20230113204414694

image-20230113204431226

image-20230113204502159

image-20230113204544646

image-20230113204606365

image-20230113204722216

image-20230113204813737

image-20230113204835472

image-20230113204947865

image-20230113205032249

image-20230113205053034

image-20230113205206966

算力瓶颈计算代码

import torch
import torchvision
from tqdm import tqdm

DEVICE = "cuda:0"

model = torchvision.models.mobilenet_v2(pretrained=True)
model = model.to(DEVICE)

with torch.no_grad():
    data = torch.rand(size=[1,3,224,224])
    for i in tqdm(range(1024)):
        o = model.forward(data.to(DEVICE))

    data = torch.rand(size=[128,3,224,224])

    for i in tqdm(range(128)):
        o = model.forward(data.to(DEVICE))

image-20230113210152829

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值