pytorch
文章平均质量分 91
Tina姐
微信公众号【医学图像人工智能实战营】,医学图像处理领域,坚持已实践为主,手把手带你做项目,打比赛,写论文。
展开
-
pytorch lightning 手写数字分类实例 (三)
今天通过手写数字来学习如何利用pytorch-lightning进行分类代码同第二部分的差不多,新增了断点训练和测试部分。项目使用jupyter notebook演示此部分代码很简单,小白也能上手,赶快来试一试吧~~~文章目录SET SEEDdataloadertrainingtesting测试结果显示import torchfrom torch import nnimport pytorch_lightning as plfrom torch.utils.data import DataL原创 2021-05-29 16:34:11 · 1468 阅读 · 5 评论 -
如何从Pytorch 到 Pytorch Lightning (二) | 简要介绍
这篇文章主要介绍为什么使用pytorch时,需要使用Lightning的最常见问题。PyTorch非常易于使用,可以构建复杂的AI模型。但是一旦研究变得复杂,并且将诸如多GPU训练,16位精度和TPU训练之类的东西混在一起,用户很可能引入Bug。PyTorch Lightning完全解决了这个问题。Lightning会构建您的PyTorch代码,以便可以抽象出训练的细节。这使得AI研究可扩展且可快速迭代。文章目录1 谁适用PyTorch Lightning?1 谁适用PyTorch Lightnin翻译 2021-05-21 10:31:17 · 2029 阅读 · 1 评论 -
pytorch-lightning入门(一)—— 初了解
最近PyTorch Lightning的风很大,来看看为啥它这么火????文章目录1 什么是pytorch-lighting2 如何将PyTorch代码组织到Lightning中2.1 安装 PyTorch Lightning2.1 定义LightningModule1 什么是pytorch-lightingpytorch-lighting(简称pl),它其实就是一个轻量级的PyTorch库,用于高性能人工智能研究的轻量级PyTorch包装器。缩放你的模型,而不是样板。它可以清晰地抽象和自动化ML原创 2021-05-19 16:08:12 · 39042 阅读 · 4 评论 -
五折交叉验证/K折交叉验证, python代码到底怎么写
五折交叉验证: 把数据平均分成5等份,每次实验拿一份做测试,其余用做训练。实验5次求平均值。如上图,第一次实验拿第一份做测试集,其余作为训练集。第二次实验拿第二份做测试集,其余做训练集。依此类推~但是,道理都挺简单的,但是代码我就不会写,比如我怎么把数据平均分成5份?我怎么保证每次实验的时候,数据都是这么划分的?本来一般的训练时,把数据按6:2:2分成训练集、验证集和测试集,在训练集上训练图像,验证集上保存最佳模型,测试集用来最后的测试。现在交叉验证没有验证集了,怎么保存模型?以下为大家一一解答。..原创 2021-04-28 19:40:13 · 63214 阅读 · 14 评论 -
全网都在讲迁移学习,可你会写代码了吗?收藏我这个,10分钟开始你的迁移学习训练
文章目录前言第一步 加载预训练模型并修改类别数第二步 选择模型所有层/最后一层进行反向传播优化探讨:如何确定模型最后一层的名字是什么方法一: 查询源代码方法二: 查询模型的子模块名字前言首先,这里不讲迁移学习的理论,只讲实践,因为理论已经全网飞了~~,不懂得大家先去学理论,理论学了再来实操。今天,在这里只想给大家介绍一种代码写法,适用于基于pytorch的迁移学习。迁移学习主要用在分类模型上,把原本在ImageNet或其他数据集上训练好的模型,迁移到自己的项目上来。所以对于分类模型,我们要把模型最后原创 2021-04-26 21:55:54 · 6900 阅读 · 7 评论 -
Pytorch中设置哪些随机数种子,才能保证实验可重复
在深度学习训练中,为什么使用同样的代码,就是和别人得到的结果不一样。怎么样才能保证自己每次跑同一个实验得到的结果都是一样的。这就涉及到随机数的设定,代码很短,但是很有用。强烈建议收藏⭐️,或者把这段代码添加进pycharm活动模板即可快速使用~~~~~。1. 就这几句话????import numpy as npimport torchimport randomimport osseed_value = 2020 # 设定随机数种子np.random.seed(seed_valu原创 2021-03-03 17:51:31 · 6805 阅读 · 2 评论 -
最快最好用的数据增强库「albumentations」 一文看懂用法
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar原创 2021-02-26 17:54:46 · 50544 阅读 · 33 评论 -
Pytorch & MONAI — 手撸各种loss
1. BCEloss1.1 简介全称:Binary CrossEntropyLoss, 二值交叉熵损失。顾名思义,只用于二值的情况,即label为0和1的情况公式:其中,yi表示label, 取值为0 或1。yi^ 表示prediction,取值为[0, 1].公式中没有写求N个样本的平均,因为可以根据自己需求来,是求平均还是求和1.2 pytorch中调用方法torch.nn.BCELoss(weight=None, size_average=None, reduce=None,.原创 2021-01-07 15:39:30 · 3220 阅读 · 9 评论 -
tensorwatch 可视化pytorch 网络结构
1.安装tensorwatchpip install tensorwatch2.安装后调用发现会有很多错误,包括但不限于2.1 AttributeError: module 'torch.onnx' has no attribute 'set_training'原因:pytorch版本太高,我是1.6,而1.6以下的版本torch.onnxhas 才有属性 'set_training'办法:把pytorch的版本降低,可以直接使用pip install -i https://pypi原创 2020-11-10 20:28:58 · 2877 阅读 · 3 评论 -
深度学习训练中,CPU/GPU使用情况是否合理问题总述
深度学习训练中,不仅要注意显卡内存(Memory-Usage)的使用情况,还要注意GPU利用率(Volatile GPU-Util)问题。GPU利用率总是0,训练是不合理的,说明数据处理占用了非常多的时间。具体方案见:深度学习PyTorch,TensorFlow中GPU利用率较低,CPU利用率很低,且模型训练速度很慢的问题总结与分析...原创 2020-11-06 16:46:19 · 4778 阅读 · 0 评论 -
深度学习-错误集锦
项目:pneu_classification 框架:pytorch 1.0 类型:图片分2类1.target = target.cuda(async=True) AttributeError: 'list' object has no attribute 'cuda'查看自己的target类型,原为['1','0','1','1']。这种列表试字符串型。而应该修改为to...原创 2019-02-18 19:59:32 · 8334 阅读 · 6 评论 -
pytorch -- topk()
torch.topk(input, k, dim=None, largest=True, sorted=True, out=None) -> (Tensor, LongTensor)pytorch中文官网文档:http://www.mamicode.com/info-detail-2217311.html沿给定dim维度返回输入张量input中k个最大值。如果不指定dim,...原创 2019-01-17 15:51:47 · 62943 阅读 · 11 评论 -
CAM、热力图 pytorch可视化卷积层
参考github:https://github.com/sixitingting/CAM/blob/master/pytorch_CAM.py也就是类激活映射(CAM)原作者所给,想要懂理论的去看论文,本次着重实践。CAM结果展示:top1 prediction: mountain bike, all-terrain bike, off-roader------------...原创 2018-12-30 22:55:03 · 23178 阅读 · 36 评论 -
pytorch 加载(.pth)格式的模型
有一些非常流行的网络如 resnet、squeezenet、densenet等在pytorch里面都有,包括网络结构和训练好的模型。pytorch自带模型网址:https://pytorch-cn.readthedocs.io/zh/latest/torchvision/torchvision-models/按官网加载预训练好的模型:import torchvision.models...原创 2018-12-28 22:42:02 · 88493 阅读 · 29 评论 -
Some important Pytorch tasks - A concise summary from a vision researcher
链接:https://spandan-madan.github.io/A-Collection-of-important-tasks-in-pytorch/#SECTION-2---Model-Saving/Loadingpytorch fine-tuning的一些思考1.为什么要用transfer learninginterpretation: Suppose, I want to train ...原创 2018-07-12 18:19:57 · 247 阅读 · 0 评论