mindspore如何查看算子显存

最新推荐文章于 2024-10-29 09:57:15 发布

小乐快乐

最新推荐文章于 2024-10-29 09:57:15 发布

阅读量425

点赞数

文章标签：大数据

本文链接：https://blog.csdn.net/weixin_45666880/article/details/125447963

版权

问题描述：

如何查看算子显存占用情况，是否有啥教程

解答：

可以在context设置save_graphs=True保存图，查看task_info_graph_****文件查看算子的内存地址和大小

上述ir图中的地址和大小就是显存的地址和大小，您也可以参考下面的两个链接使用可视化工具：
MindSpore Ascend 内存管理
 内存使用情况分析

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

小乐快乐

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

【AI Code】CodeGeex：你的免费AI编程助手——基于清华ChatGLM的130亿参数预训练大模型

AI天才研究院

04-12

2万+

CodeGeeX是一个具有130亿参数的多编程语言代码生成预训练模型。CodeGeeX采用华为MindSpore框架实现，在鹏城实验室“鹏城云脑II”中的192个节点（共1536个国产昇腾910 AI处理器）上训练而成。截至2022年6月22日，CodeGeeX历时两个月在20多种编程语言的代码语料库（>8500亿Token）上预训练得到。高精度代码生成。

MindSpore Ascend 内存管理

Kenji_Shinji的博客

09-15

1209

在调试网络的时候，我们经常会遇到报错，下面基于MindSpore r1.5分支代码介绍下MindSpore在Ascend设备上对内存的管理。Ascend在对内存分为静态内存和动态内存，它们分别指：MindSpore对Ascend设备内存分成4层进行管理： Runtime直接对板载的32GB内存进行管理如果用户在网络脚本中使用了Context配置MindSpore后端使用的内存大小， MindSpore则按照用户设置大小去向下一层Runtime申请，如果用户没有设置，则默认申请30GB内存，预留2GB内存给系

参与评论您还未登录，请先登录后发表或查看评论

MindSpore数据增强后，内存不足，自动退出

skytttttt9394的博客

02-20

263

目前在minspore==1.6.0后版本已对该阈值进行更新，在内存占用超过0.8时会进行告警，用户可在发现内存不足之后及时进行处理。此报错信息不是导致退出的直接原因，可在日志中查看到有警告提示：“Memory consumption is more than...”，根据警告提示定位到是由于内存不足导致程序退出。用户在使用mindspore框架进行大数据训练时，需要多注意内存占用率，防止内存占用过高导致直接退出。当出现内存占用警告提示时，应该减少per_batch_map里面的内存占用。

MindSpore运行模式与PyNative内存调优分析

Kenji_Shinji的博客

09-16

1057

既然这样，那就需要将内存池的大小改小，以便多些内存给其它场景使用。context.set_context(mempool_block_size=“30GB”, max_device_memory=“31GB”)，通过max_device_memory接口，提供给内存池的设备内存可用大小为31GB，去掉persistent block的1GB，取min(mempool_block_size, max_device_memory - 1GB)值，那么实际生效的common block大小就是30GB。

在windows系统上安装mindspore GPU版本

qq_44786227的博客

07-30

807

由于win系统只能安装mindspore cpu版本，训练模型速度很慢，要使用gpu版本可以使用docker安装一个ubuntu系统，在ubuntu系统中安装mindspore。如果没有安装docker可以参考：https://www.runoob.com/docker/windows-docker-install.html。

tensorflow、pytorch、mindspore，caffe判断GPU是否可用及 GPU信息

Areigninhell的博客

12-25

1891

机器学习代码测试

深度学习框架人工智能操作系统训练&前向推理 PyTorch Tensorflow MindSpore caffe 张量加速引擎TBE 深度学习编译器多面体 polyhedral AI集群框架

万有文的博客

04-03

1087

深度学习框架发展到今天，目前在架构上大体已经基本上成熟并且逐渐趋同。无论是国外的Tensorflow、PyTorch，亦或是国内最近开源的MegEngine、MindSpore，目前基本上都是支持EagerMode和GraphMode两种模式。

【MindSpore】DCPUE网络性能优化 -- CPU训练篇

sinat_35418091的博客

11-01

598

问题描述训练条件： Linux Euler OS x86; 8 显卡; 物理 CPU 2; 每个物理 CPU 中的核数 26; 逻辑 CPU 104; MindSpore 1.2.0 TensorFlow 1.15.0 CPU 训练时长 MindSpore(不绑定核): 33:00 TensorFlow(不绑定核): 01:06 MindSpore(绑定一个逻辑 CPU)：3小时左右 TensorFlow(绑定一个逻辑 CPU): 01:47

基于MindStudio的Tensorflow 模型命令行推理一键式精度比对

BedivereYang的博客

11-05

615

对应的视频教程链接：基于MindStudio的Tensorflow模型命令行推理一键式精度比对_哔哩哔哩_bilibili目录第1章. 引言... 第2章. 前置知识与基础介绍... 模型推理与模型保存格式... 模型转换（从pb转为om）与图优化... 华为模型转换工具... 精度损失与精度比对工具... MindStudio软件... 第3章. 环境准备... MindStudio 安装与基本设置... 和远程开发环境相连... 第4章. 实验... 脚本获取... 启动项目... 查看

深度学习AI编译器-TVM简介

wsq_zqfl的博客

05-27

2644

深度学习编译器主要为解决不同框架下训练的模型部署到指定的某些设备上时所遇到的一系列复杂的问题，即将各种深度学习训练框架的模型部署到各种硬件所面临的问题；

MindSpore性能调试（Ascend）

JIAJIA14754545的博客

12-10

808

在Ascend AI处理器上使用MindSpore Profiler进行性能调试。流程准备训练脚本，并在训练脚本中调用性能调试接口，接着运行训练脚本。启动MindInsight，并通过启动参数指定summary-base-dir目录(summary-base-dir是Profiler所创建目录的父目录)，例如训练时Profiler创建的文件夹绝对路径为/home/user/code/data，则summary-base-dir设为/home/user/code。启动成功后，根据IP和端口访问可视

昇腾Ascend处理器相关介绍

IT菜鸟

10-08

8928

昇腾AI处理器本质上是一个片上系统（System on Chip，SoC），该芯片大致可以划为：芯片系统控制CPU（Control CPU），AI计算引擎（包括AI Core和AI CPU），多层级的片上系统缓存（Cache）或缓冲区（Buffer），数字视觉预处理模块（Digital Vision Pre-Processing，DVPP）等。目前主流SoC芯片的主存一般由DDR（Double Data Rate）或HBM（High Bandwidth Memory）构成，用来存放大量的数据。

看这里！带你快速体验MindSpore V1.0（For ubuntu 18.04）

华为云官方博客

10-13

2071

摘要：本文介绍了如何在Ubuntu 18.04上安装CPU版本的MindSpore V1.0。并使用安装好的MindSpore进行了LeNet的模型训练。 Part One：引言在HC2020大会中，张小白就透露出了想试玩MindSpore V1.0的愿望。MindSpore是华为开发的一款深度学习的开源框架，今天这个愿望就要实现了。。。先来分析下该怎么玩转。。。让我们看下https://www.mindspore.cn/install官网的介绍文档：体验MindSpore V1.0 的...

【mindspore】【训练】训练过程内存占用大

weixin_45666880的博客

06-30

956

问题描述：我目前在做pytorch reconet模型在mindspore上复现的工作，现在遇到了显存溢出的问题，而且显存占用是torch中的三倍以上，pytorch只需要7.6G显存，而mindspore 24G都溢出了在pytorch中，在训练初始时加载一次vgg模型，在每个batch中vgg当做一个特征提取工具，也不需要参与模型梯度回传，训练步骤大体如下model = ReCoNet().cuda() vgg = Vgg16().cuda() optimizer = torch.optim.Adam(

关于模型训练的时候所需要的GPU显存的计算以及模型参数，计算量的计算

qq_38376205的博客

12-05

4119

对于模型参数以及模型计算的时候计算量的计算我懂的，但是对于所需要的显存计算，我一脸懵逼。幸亏看到了一篇较好的文章参考这篇文章（按照这个模型中的方法来计算）然后基于我目前的一个模型，我计算了下～写笔记计算了下，基本是这样～但是其实我对于原文链接 ...

MindSpore GPU训练过程中，gpu使用率无限增大，导致内存不足，中止训练

weixin_45666880的博客

07-28

1025

exportGLOG_v=1打开info级别日志，搜索“CompileGraphgraph_id”字样，看下是否存在多图场景，如果是单图，那就是正常的显存不足报错提示。输入图像大小是512*512，batchsize=1，主要问题是内存在刚开始占用很小，慢慢变大，然后内存不足。使用nvidia-smi命令，查看GPU有没有运行多个进程，是否存在其他进程消耗显存的情况。初步看就是编译阶段的显存不足，编译阶段显存消耗是逐渐上升的。GPU-TITAN显存12G，训练的网络是VGG16....

以AI赋能身份验证，Jumio助力中国企业出海

趣味科技v

10-28

724

近年来，越来越多的中国企业开始扬帆出海积极拓展全球市场。而能够为企业出海提供各种助力的技术与解决方案，也成为了众多企业关注的焦点。作为全球领先的在线身份验证和欺诈预防解决方案提供商，Jumio于近日在北京举办了中国媒体见面会，旨在向中国的媒体和业界介绍Jumio的最新技术进展、市场布局以及如何通过其创新解决方案助力中国企业出海。多年的技术创新与专利积累介绍Jumio的基本情况时，Jumio亚太区区...

人工智能和大数据如何改变企业？