昇思25天学习打卡营第四天|初学入门/初学教程/09-保存与加载-CSDN博客

本文链接：https://blog.csdn.net/guojun0718/article/details/140424131

心得

本次课程，先试试一个想法。如下所示的工具栏中的工具快进。

点击后欣喜发现，能自动的跑完所有代码。

如果用这个方式跑代码，那么以前由于网络延迟等带来的问题，是不是能避免了呢？有些期待。

对于熟悉编译型编程的程序员来说，比如c++，有个强大的工具，就是加断点，在断点状态下，观察变量以及内存堆栈的实时状况，能很好的进行分析。在训练网络模型的过程中，保存中间变量，是不是就是一个道理呢？

打卡截图：

上一章节主要介绍了如何调整超参数，并进行网络模型训练。在训练网络模型的过程中，实际上我们希望保存中间和最后的结果，用于微调（fine-tune）和后续的模型推理与部署，本章节我们将介绍如何保存与加载模型。

[1]:

%%capture captured_output

# 实验环境已经预装了mindspore==2.2.14，如需更换mindspore版本，可更改下面mindspore的版本号

!pip uninstall mindspore -y

!pip install -i https://pypi.mirrors.ustc.edu.cn/simple mindspore==2.2.14

[2]:

import numpy as np

import mindspore

from mindspore import nn

from mindspore import Tensor

[3]:

def network():

    model = nn.SequentialCell(

                nn.Flatten(),

                nn.Dense(28*28, 512),

                nn.ReLU(),

                nn.Dense(512, 512),

                nn.ReLU(),

                nn.Dense(512, 10))

    return model

保存模型使用save_checkpoint接口，传入网络和指定的保存路径：

[4]:

model = network()

mindspore.save_checkpoint(model, "model.ckpt")

要加载模型权重，需要先创建相同模型的实例，然后使用load_checkpoint和load_param_into_net方法加载参数。

[5]:

model = network()

param_dict = mindspore.load_checkpoint("model.ckpt")

param_not_load, _ = mindspore.load_param_into_net(model, param_dict)

print(param_not_load)

[]

param_not_load是未被加载的参数列表，为空时代表所有参数均加载成功。

除Checkpoint外，MindSpore提供了云侧（训练）和端侧（推理）统一的中间表示（Intermediate Representation，IR）。可使用export接口直接将模型保存为MindIR。

[6]:

model = network()

inputs = Tensor(np.ones([1, 1, 28, 28]).astype(np.float32))

mindspore.export(model, inputs, file_name="model", file_format="MINDIR")

MindIR同时保存了Checkpoint和模型结构，因此需要定义输入Tensor来获取输入shape。

已有的MindIR模型可以方便地通过load接口加载，传入nn.GraphCell即可进行推理。

nn.GraphCell仅支持图模式。

[8]:

mindspore.set_context(mode=mindspore.GRAPH_MODE)

graph = mindspore.load("model.mindir")

model = nn.GraphCell(graph)

outputs = model(inputs)

print(outputs.shape)

(1, 10)

[9]:

import time

print(time.strftime("%Y-%m-%d %H:%M:%S", time.localtime()),'guojun0718')

2024-07-14 13:55:50 guojun0718

[ ]: