- 博客(14)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 数据，模型，可视化在pytorch主要实现
Num_worker设置；数据划分完毕后，图片通常是png/jpg格式，pytorch读取图片，主要通过Dataset类，所以我们第一步需要将数据组织成Dataset,构建完成后，我们需要将组织好的数据加载到模型中，实现从硬盘到模型的输入，需要借助DataLoder创建迭代对象，将数据组织好后，在真正训练时，将数据进行迭代完成训练。当我们进行迁移学习的时候，有可能并非希望前面权重完全冻结，而是也能得到微小训练，但其调整力度不能过大，而我们新增的全连接层能得到更快的训练，即需要对不同的层设置不同的学习率。
2024-08-06 14:02:49
868
1
原创 pytorch常用api
1数据创建1.1自定义torch.Tensor([shape]):其创建的tensor里面值往往为0，非常大或非常小，多用于创建未初始化数据（其可以定义数据类型IntTensor,FloatTensor…），之后覆盖掉。虽然他也可以和tensor一样接收数据，但编程中便于区分，只用他来创建未初始化数据torch.tensor([list]):list初始创建tensortorch.as_tensor():list,np等数据转tensortorch.from_numpy()：np数据转tensor
2021-12-29 14:53:32
702
原创 优化器详解:以pytorch实现为例
优化器优化器目的是为了找到模型最优解，即在反向传播中使神经元得到最优的权重参数。假设有一个参数向量x及其梯度dx，那么其最简单的更新形式是：x+=-learning_rate*dx。其中最为重要的是梯度方向如何调整（优化器的选择（torch.optim.）），调整步幅多大（学习率的调节（lr_scheduler.））。1.1优化器选取批量梯度下降法的每一步都把整个训练集载入进来进行计算，时间花费和内存开销都非常大，无法应用于大数据集、大模型的场景。随机梯度下降法则放弃了对梯度准确性的追求，每步仅仅随
2021-12-22 11:04:46
691
原创 pytorch实现数据导入网络模型
1整体介绍在pytorch中要实现数据的训练，需要完成一下3步，创建Dataset对象，创建DataLoader迭代对象，遍历DataLoader对象（1）Dataset对象需要人为构建，这个类功能就是告诉pytorch你需要加载哪些数据，其有3个核心函数需要实现（其中getitem,len必须实现）：1：def init(self):数据在哪获取2：def len(self):数据数量多少3：def getitem(self, index):数据转成pytorch能处理的tensor格式
2021-12-22 10:45:46
1085
原创 深度学习一些常见概念：过拟合，梯度消失，局部最优，批量归一化
1过拟合：产生原因：由于机器学习训练出来的模型拟合结果太好，其在训练集上表现效果非常好，即损失函数非常小，但在测试集上效果却并不尽如人意（随着测试集损失函数越来越小，即模型越来越稳定，在测试集中损失函数却没有随之变小）解决方法：数据与模型两个角度模型角度：1提前终止训练 2Dropout（随机失活） 3正则化1提前终止训练：不一定等到模型稳定，而是当测试集损失出现反弹终止训练EarlyStopping(monitor,min_delta,patience,mode)monitor: 监控的数
2021-12-22 10:41:32
1515
原创 深度学习调参经验分享（遥感建筑提取）
1.1初识明确遥感解译任务目标，观察遥感影像和标注的基本形态和分布，地物特征（1）看数据标注是否存在噪声？（因为比赛时他的影像和标注时间不一定一致，导致标注本身不一定完全正确）1对于标记噪声是否进行人工清洗（不推荐，比赛中A榜存在问题，我么清洗了在A榜精度提升了，但是B榜也可能存在问题，那时候我们没有办法在改了）；2考虑label smoothing降低对于标签的信心（2）数据之间是否存在同物易谱（类内间差异大）或异物同谱（易混淆）现象？1是否需要设计一些全局性的特征；2考虑是否要使用一些强大的特
2021-12-22 10:39:18
1751
原创 monodepth2 理解
monodepth2 理解原文文章：Digging Into Self-Supervised Monocular Depth Estimation1.研究目的与当前主要问题目的：通过单一图片获取景深图对应方法：自监督学习来执行单目深度估计，本文提出一系列改进方法，来提升自监督深度学习估计方法精度。研究背景：通过一张图片求解深度，没有第二个输入图片的情况下，似乎无法使用三角测量，但是我们可以考虑通过大量样本集去训练神经网，然后让其去预测一张新的，但是为了监督学习我们需要对每一张图片都需要获取精确的地
2021-06-24 15:24:29
6343
1
原创 研究型论文写作心得
研究型论文写作心得1标题：准确，简洁，清楚2摘要：1：论文目的：文章要解决什么问题2：论文方法：针对问题文章提出了什么方法3：论文结果：通过使用该方法得到了什么结果4：论文意义：得到该结果可以得到哪些结论，这些结论有什么意义写作技巧：完成整片论文最后写摘要，其中可以从引言中找论文目的；从方法中挑选重点句子得到论文方法；从分析与讨论中找核心结果；从结论中寻找结论，然后根据其有机的整理组织起来即可完成写作细节：1可以强调我们的创新，但是不要使用评价性语言（如使用我们精度，召回率高达，相比提升了
2021-04-27 19:50:56
231
原创 网络，模型，特征之间关系思考
1隐藏层与模型关系在设计神经网时，输入节点是根据外部特征数据来确定，而隐藏层往往需要我们自己设定，其节点个数与层数与模型拟合与泛化能力存在一定关系。隐藏层节点个数决定了模型的拟合能力。从理论上讲，如果在单个隐藏层中设置了足够多的节点，那么可以对世界上各种维度的数据进行任意规则的分类，但过多的节点在带来强大的拟合能力的同时，又会使模型泛化能力下降，从而使模型无法适应具有同样分布规则的其他数据。即训练集效果好，而验证集效果差隐藏层层数决定了模型的泛化能力。层数越深，模型的推理能力越强，但随着推理能力的提升
2021-04-20 12:32:08
841
原创 ArcGIS软件操作问题及解决方法总结
ArcGIS软件操作问题及解决方法总结一、安装问题问题1：安装时，Administrator无法获得许可的问题解决方案：（1）防火墙不允许服务启动（杀毒软件问题），将杀毒软件关闭尝试一次；（2）service.txt文件被破坏（大部分是主机名有问题），将自己电脑的主机名替换到txt文档的那个主机名上；（3）其他软件的服务与arcgis服务有冲突，导致arcgis服务无法启动，例如ENVI，具体操作见网址https://jingyan.baidu.com/article/93f9803f1f90e
2021-04-17 00:01:08
7341
1
原创 神经网优化的思考
对于网络性能的提高，可以从以下几个方面进行思考：1输出对网络输出可视化，看网络到底对还是没对：如网络判别成猫，而标签是狗，看原图发现既有猫又有狗，这样不能说明网络错误，当然明显是狗的图片却判别为猫，这就得仔细找原因，而且往往在网络训练错误最严重的时候，往往能发现一些隐弊的错误，如标注错误，裁剪错误等2数据2.1数据本身：数据量是否足够（过少欠拟合），数据本身质量是否不佳（噪声是否太大，数据是否具有一定的代表性），各类数据是否均衡2.2数据增强与数据预处理：数据增强是否过度或不够，数据预处理是否打乱
2021-03-12 20:52:44
84
原创 alphago理解
**alphago理解**1alphago总体架构对于围棋，核心需要解决两个问题：1）下一手最佳下在哪里？–》策略网络回答2）下完一步棋后胜率是多少？-》价值网络回答AlphaGo首先通过人类高手棋谱，得到初步的策略网络；在通过策略网络，得到价值网络；最后通过不断的自我对弈，通过策略改善价值，通过价值调整策略，棋力不断增强AlphaGo zero则通过更精心的设计架构和自我对弈学习细节，去除了学习人类棋谱的过程，直接从0开始不断循环进步，从而达到更强的棋力2策略网络2.1原理其解决的是
2021-03-11 16:36:33
511
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人