CPU架构训练出了.mindir模型，并且生成了.cpkt文件，如何在CPU架构下直接进行推理使用呢？

最新推荐文章于 2023-05-16 10:53:21 发布
最新推荐文章于 2023-05-16 10:53:21 发布
阅读量620 收藏 1
点赞数
文章标签： 算法 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45666880/article/details/127800375
版权

https://www.mindspore.cn/news/newschildren?id=354

在进行如上链接中的实验时，有两个问题想要求助一下

1.生成好的训练模型.mindir文件直接在CPU上如何使用？链接中给的是转换为.ms文件在Android上使用，想请问在win10系统CPU架构下可否直接使用呢？有相关使用教程吗？

2.这个实验中模型训练后仅可以进行两种类型分类，修改哪个脚本可以增加分类类型呢？

****************************************************解答*****************************************************

您好，MINDIR格式是mindspore可以直接支持的模型格式，很多mindspore的样例工程是支持MINDIR格式进行直接推理的。

您可以参考下面的例子：

Ascend 310 AI处理器上使用MindIR模型进行推理 — MindSpore master documentation

ckpt文件可以使用以下的方式进行推理：

加载模型用于推理或迁移学习 — MindSpore master documentation

小乐快乐
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
bert模型cpkt、h5转pb格式，tf serving部署restful、grpc、flask访问,curl、wget post访问
weixin_42357472的博客
02-03 2145
参考：https://gist.github.com/liprais/78ef34ac0779fb6b604eae044d789f90 注意：os.environ[‘TF_KERAS’] = ‘1’ 放在bert4keras，keras 前 1、保存pb格式 import numpy as np import os from collections import Counter os.environ['TF_KERAS'] = '1' from bert4keras.backend import kera
MindSpore训练出来ckpt模型如何转成om模型
xi_xiyu的博客
11-04 374
只有Atlas200DK，没有Ascend910训练服务器，现在使用GPU训练生成了ckpt文件，如何转成om模型进行推理。MindSpore生成的ckpt文件是否只能通过Ascend910转成AIR模型，再转为om。
深入了解MindSpore训练推理框架设计
qq_31768873的博客
08-31 945
深入了解MindSpore训练测试流程构建
【Atlas300T训练产品】【bert模型加载功能】推理过程ckpt中部分参数未加载
weixin_45666880的博客
07-03 387
问题描述：参考models: Models of MindSpore - Gitee.com 训练完成。使用bert推理，每次运行pooled_output结果不一致，日志如下load_path = /home/gitee/models/official/nlp/bert/model/bert_base_ascend_v130_zhwiki_official_nlp_bs256_acc91.72_recall95.06_F1score93.36.ckpt[WARNING] ME(76534:2814735
基于mindspore的口罩检测训练与在线推理
jameschen9051的博客
03-15 5008
mindspore安装地址：https://www.mindspore.cn/install mindspore开源模型库：https://gitee.com/mindspore/models 测试平台为昇腾Atlas800训练服务器，Ubuntu18.04系统，搭载昇腾910AI加速芯片，FP16算力为320T。 数据集为VOC_MASK口罩数据集，在使用数据集之前需要对数据集文件进行转换，将voc标注文件由xml转为coco的j...
AI大语言模型架构图.zip
09-01
6. **优化算法与损失函数**：在训练过程中，使用梯度下降算法优化模型参数，常见的有Adam、RMSprop等。损失函数通常是交叉熵损失，用于衡量模型预测结果与真实标签之间的差异。 7. **模型并行与分布式训练**：由于...
算法部署-在CPU上推理MPT-30B大模型-附项目源码-优质项目实战.zip
最新发布
05-16
在这个名为“算法部署-在CPU上推理MPT-30B大模型-附项目源码-优质项目实战.zip”的压缩包文件中，我们主要探讨的是一个高质量的实战项目，其核心是将大型语言模型MPT-30B在CPU环境下进行有效部署和推理。这个项目...
Windows下cpu部署运行清华大学ChatGLM-6B语言模型（详解).docx
06-08
在本文档中，我们将深入探讨如何在Windows操作系统下部署和运行清华大学开发的ChatGLM-6B语言模型。ChatGLM-6B是一款强大的开源对话语言模型，具备中英双语支持和图像理解功能，其基础是General Language Model (GLM...
全球1000+研究员在Twitter直播训练超大模型？？.pdf
08-13
BigScience的成果包括训练了GPT-style架构的多语言预训练语言模型，以及尝试训练千亿参数的多语言预训练语言生成模型。期间遇到了很多难题，例如1040亿参数的模型训练不收敛，反而1760亿参数的模型训练很稳定。 ...
预训练模型技术实践.pdf
08-02
7. 预训练模型技术实践：预训练模型技术实践是指使用预训练模型技术来提高语言模型的性能和泛化能力。这种技术可以应用于各种自然语言处理任务，如对话生成、机器翻译和文本分类等。 ChatGLM-6B 模型是一个基于预...
MindSpore 执行推理模型
JIAJIA14754545的博客
12-12 2682
通过调用Model的eval接口可以实现推理。为了方便评估模型的好坏，可以在Model接口初始化的时候设置评估指标Metric。 Metric是用于评估模型好坏的指标。常见的主要有Accuracy、Fbeta、Precision、Recall和TopKCategoricalAccuracy等，通常情况下，一种模型指标无法全面的评估模型的好坏，一般会结合多个指标共同作用对模型进行评估。 常用的内置评估指标： Accuracy（准确率）：是一个用于评估分类模型的指标。通俗来说，准确率是指我们的模型预测
tensorflow模型ckpt转pb和测试推理
旧人旧事的博客
10-12 1000
import cv2 import tensorflow as tf from tensorflow.python.framework import graph_util def freeze_graph(input_checkpoint ,output_graph): ''' :param input_checkpoint: :param output_graph: PB模型保存路径 :return: ''' with tf.name_scope('.
【模型转换】将.mindir文件转换成.ms文件（Windows篇）
qq_42962847的博客
05-16 603
首先需要在MindSpore中训练好并经过评估可用的模型，可以以标准格式（例如onnx, mindir等）导出，得到.mindir模型文件（例如lenet.mindir）。为了将模型部署到自定义应用中，还需要将其转换为更为紧凑和高效的ms格式模型，用于在MindSpore-Lite环境中推理，这可以通过MindSpore Lite提供的模型转换工具converter_lite完成。
Stable Diffusion作图
weixin_45450338的博客
10-20 4263
利用技术工具对传统画画方式降维打击，stable diffusion，ai作图框架。
训练自己的yolov3算法
机器学习-最近邻算法（knn)
10-11 959
在上文主要讲到了跑深度学习算法网络的一些基础环境和数据，所以这篇主要是叙述网络的运行以及了解算法中的一些小奥秘。本文以现在比较流行的目标检测算法yolo为例，主要讲述yolov3检测目标与训练过程。 yolo简单介绍 深度学习中的目标检测算法如果要分类，那么一类可以是one-stage,一类是two-stage。这里的two-stage指的是区域提取【Regional extract】和目标分类...
如何从已存在的检查点文件（cpkt文件）种解析出里面变量——无需重新创建原始计算图
David's Tweet
08-03 3795
  import tensorflow as tf import os CheckpointReader tf.train.NewCheckpointReader是一个创建检查点读取器（CheckpointReader）对象的完美手段。 CheckpointReader中有几个非常有用的方法： get_variable_to_shape_map()  -  提供具有变量名称和形状的字典 ...
保存和载入模型cpkt
magic_shuang的博客
04-13 1856
tensorflow 模型保存：保存模型其实就是保存sess # 关键句子 saver=tf.train.Saver() saver.save(sess, model_path) # 在语境中 import tensorflow as tf def Cnn(x_image): ... ... result = tf.nn.softmax(logit, name=...
Tensorflow之用自己的训练好的cpkt模型，进行测试识别
热门推荐
csuzhaoqinghui的博客
07-06 1万+
上街讲了如何使用tensorflow生成自己的图片训练模型cpkt。这节讲述如何讲如何使用训练好的cpkt模型进行测试识别。    直接线上代码：     ############################################################################################ #!/usr/bin/python2.7 #
在A100和3080平台上使用2080ti的深度学习环境训练的模型进行推理？CPU、GPU是如何变化？
02-06
在 A100 和 3080 平台上使用 2080ti 进行深度学习模型训练时，CPU 和 GPU 的使用情况可能会有所不同。 在训练过程中，CPU 主要负责处理数据的输入和预处理，GPU 则负责训练模型的实际运算。因此，如果 CPU 和 GPU ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值