- 博客(114)
- 收藏
- 关注
RSS订阅原创 Multimodal Hyperspectral Unmixing: Insights from Attention Networks
论文链接：https://ieeexplore.ieee.org/document/9724217GitHub代码链接：https://github.com/hanzhu97702/IEEE_TGRS_MUNet 动机为了克服高光谱解混中不能区分复杂场景中的目标，特别是对于具有相似材料的不同端元。我们提出了一种新的多模态高光谱解混网络MUNET，并利用LiDAR生成的注意图来辅助网络关注关于场景的空间信息。此外，为了更好地模拟激光雷达的空间信息，采用 Attribute Profile (AP) 来
2022-05-13 16:44:28
1305
原创 Spatial-Spectral Transformer for Hyperspectral Image Classification
论文地址：https://doi.org/10.3390/rs13030498 Abstract 近年来，人们提出了大量基于深度卷积神经网络(CNN)的高光谱图像(HSI)分类方法。本文提出的基于cnn的方法虽然具有空间特征提取的优势，但它们难以处理序列数据，且cnn不擅长对远程依赖关系进行建模。然而，HSI的光谱是一种序列数据，通常包含数百个波段。因此，cnn很难很好地处理HSI处理。另一方面，基于注意机制的Transformer模型在处理序列数据方面已经证明了其优越性。为了解决长距离HSI序列谱的
2022-02-15 21:07:08
3044
2
原创 SpectralFormer: Rethinking Hyperspectral Image Classification with Transformers
Abstract 卷积神经网络(convolutional neural networks, CNNs)由于具有良好的局部上下文建模能力，已被证明是HS图像分类中一个强大的特征提取器。然而，由于其固有的网络骨干网的限制，**cnn不能很好地挖掘和表示光谱特征的序列属性**。 I. INTRODUCTION 为了解决这个问题，我们从变压器的顺序角度重新思考HS图像分类，并提出了一种新的骨干网称为SpectralFormer。除了在经典的变压器中采用band-wise表示外，SpectralForm..
2022-01-27 16:23:01
5107
1
原创 Hyperspectral Unmixing论文泛读（二）
文章目录WU-NET: A WEAKLY-SUPERVISED UNMIXING NETWORK FOR REMOTELY SENSED HYPERSPECTRAL IMAGERYHyperspectral Unmixing Using a Neural Network AutoencoderSpectral-Spatial Hyperspectral Unmixing Using Multitask LearningNEURAL NETWORK HYPERSPECTRAL UNMIXING WITH SP
2022-01-27 13:47:36
5626
5
原创 Hyperspectral Unmixing论文泛读（一）
JMnet: Joint Metric Neural Network for Hyperspectral UnmixingAbstract现有的基于学习的高光谱解混方法一般采用自编码器的形式，以几何距离，如光谱角距离(SAD)作为损失函数。这些方法①忽略了观测值与重构值之间的分布相似性，有助于提高解混性能。同时，直接比较观测值和重构值的差异，②忽略了它们之间的特征差异，从而训练了自编码。基于上述考虑，我们提出了一种联合度量神经网络用于高光谱分解，引入①Wasserstein距离和②特征匹配作为正则化项，
2021-11-12 21:22:05
2722
原创 第七周作业：注意力机制的学习
BAM: Bottleneck Attention Module论文: https://arxiv.org/pdf/1807.06514.pdfPyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks将BAM放在了Resnet网络中每个stage之间。。BAM在每个stage之间消除了像背景语义特征这样的低层次特征，然后逐渐聚焦于高级的语义–明确的目标（比如图中的狗）。Feature map F{F}F进行全局平均池化得到，得到
2021-10-24 20:33:28
2355
原创 【WACV 2021】Attentional Feature Fusion
知乎：【WACV 2021】Attentional Feature Fusion
2021-10-23 15:38:39
293
原创 第六周作业：视频学习与论文泛读
低秩重构non-local复杂度o(n²)计算相关度的的方法，QKV以及contend和distribute分析non-local相关因子的工作，分为以下四类：注：©GCNet (d)只和距离 有关的（均值滤波，高斯滤波等）注：non-local是对全图建模，另一种是邻域内建模，但是具体建模哪个点，并未清楚。采用多路并行，每路采用不同的点。non-local跟DAN比较注：HW->K压缩操作。K->HW反压缩注：降至三维，进行可视化，发现火车内部，
2021-10-17 16:06:18
694
原创 第五周作业：卷积神经网络（Part3）
文章目录一、《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》1.原文地址2.TensorFlow官方3.论文亮点4.代码学习二、《MobileNetV2: Inverted Residuals and Linear Bottlenecks》1.原文地址2.非官方Pytorch代码3.论文亮点4.代码学习三、《HybridSN: Exploring 3-D–2-DCNN Feature Hi
2021-10-03 17:37:37
2587
2
原创 第四周作业：卷积神经网络（Part2）
Part1: 李沐课程 卷积神经网络 部分动手学深度学习》之现代卷积神经网络Part2: AI研习社 “猫狗大战” 比赛本周在上周学习的基础，继续对猫狗大战进行代码的学习。首先，将VGG网络替换成李沐课程里讲过的ResNet，进行训练，最终提交结果到AI研习社。class conv_net(nn.Module): def __init__(self): super(conv_net,self).__init__() self.net = nn.Sequ
2021-09-26 16:48:17
244
2
原创 《动手学深度学习》之现代卷积神经网络
深度卷积神经网络（AlexNet）训练神经网络的一些关键技巧的缺失，包括启发式参数初始化、随机梯度下降的巧妙变体、非挤压激活函数和有效的正则化技术。并且数据集仍然相对较小，不足以开发出有大量参数的深层多通道多层卷积神经网络。AlexNetAlexNet和LeNet的设计理念非常相似，但也存在显著差异。首先，AlexNet比相对较小的LeNet5要深得多。AlexNet由八层组成：五个卷积层、两个全连接隐藏层和一个全连接输出层。其次，AlexNet使用ReLU而不是sigmoid作为其激活函数。
2021-09-25 15:58:29
352
原创 第三周作业:卷积神经网络(Part1)
Part1《动手学深度学习》之卷积神经网络Part2注：本次使用的数据集并非是AI研习社下载的数据集，因为其数据集太大了，在自己电脑上用cpu跑一次就得两三个小时，所以最后采用的是少量的数据集，也就是pytorch练习的代码中的数据集。1.AI研习社猫狗大战，首先分析的以前pytorch练习的代码，代码是【 VGG迁移学习进行猫狗大战 】海量高分辨率图像的训练，比较玄学，很难得到一个好的网络。这里我们学习在pretrained VGG网络上 fine-tune，分类猫狗图片。然后进行简单的调整，效
2021-09-19 14:20:07
197
1
原创 《动手学深度学习》之卷积神经网络
文章目录从全连接层到卷积不变性限制多层感知机平移不变性局部性卷积通道图像卷积互相关运算特征映射和感受野填充和步幅填充步幅多输入多输出通道多输入通道1×11\times 11×1 卷积层汇聚层最大汇聚层和平均汇聚层卷积神经网络（LeNet）LeNet总结从全连接层到卷积卷积神经网络（convolutional neural networks，CNN）是机器学习利用自然图像中一些已知结构的创造性方法。不变性计算机视觉的神经网络结构：平移不变性（translation invariance）：不管检测
2021-09-17 16:35:22
739
5
原创 第二周作业：多层感知机
文章目录多层感知机Kaggle 加州2020年房价预测竞赛总结多层感知机Part1：《动手学深度学习》之线性神经网络Part2：《动手学深度学习》之多层感知机Kaggle 加州2020年房价预测竞赛首先：调试的是李沐老师给出的代码，最终实现效果不理想。提交kaggle，对数均方误差0.16多，排名3000靠外。其次，查看相关博客，找了几篇博客，跑通了kaggle比赛：房价预测，对比李沐老师的给出代码，主要就是三部分不同。数据预处理部分的不同网络架构添加了一层对数均方误差的实现，将小于1的
2021-09-12 20:50:25
218
原创 本地文件上传github
记录上传本地文件到github出现的问题。首先，参考链接，来实现github仓库的创建，以及本地代码的上传，但是在上传过程中，第七步：git push -u origin master。报错如下：Logon failed, use ctrl+c to cancel basic credential prompt.解决方法：测试了几种，最终将第六步中http网址（第六步：添加仓库地址。输入git remote add origin https://自己的仓库url地址，这个地址的话就是一开始在G
2021-09-12 10:47:56
89
原创 《动手学深度学习》之多层感知机
文章目录多层感知机从线性到非线性激活函数ReLU函数sigmoid函数tanh函数模型选择、欠拟合和过拟合训练误差和泛化误差统计学习理论模型复杂性模型选择验证集KKK折交叉验证权重衰减范数与权重衰减Dropout正向传播、反向传播和计算图数值稳定性和模型初始化梯度消失和梯度爆炸参数初始化默认初始化Xavier初始化环境和分布偏移分布偏移的类型协变量偏移标签偏移概念偏移分布偏移示例医学诊断自动驾驶汽车非平稳分布更多轶事分布偏移纠正经验风险与真实风险协变量偏移纠正标签偏移纠正概念偏移纠正总结多层感知机我们可
2021-09-11 22:55:24
892
原创 《动手学深度学习》之线性神经网络
文章目录线性回归线性模型损失函数解析解小批量随机梯度下降softmax回归网络结构softmax运算损失函数对数似然softmax及其导数信息论基础。熵交叉熵总结线性回归回归（regression）是指一类为一个或多个自变量与因变量之间关系建模的方法。在自然科学和社会科学领域，回归经常用来表示输入和输出之间的关系。线性模型当我们的输入包含ddd个特征时，我们将预测结果y^\hat{y}y^（通常使用“尖角”符号表示估计值）表示为：y^=w1x1+...+wdxd+b.\hat{y} = w_1
2021-09-10 21:53:44
222
原创 深度学习：算法到实战（三）外一章
一、机器学习（深度学习）中的数学基础1.线性代数：数据表示、空间变换的基础。2.概率论（统计）：模型假设、策略设计的基础。3.最优化：求解目标函数的具体算法。4.信息论：对于不确定性的度量，信息增益选择特征，交叉熵。5.微积分：链式求导，泰勒展开。6.矩阵线性变换，矩阵相乘对原始向量同时施加方向变化和尺度变化。对于特征向量，矩阵的作用只有尺度变化而没有方向变化。尺度变化系数就是特征值。7.线性代数：秩线性方程组的角度：度量矩阵行列之间的相关性。数据点分布的角度：表示数据需要的最小的
2021-09-05 21:32:39
203
原创 第一次作业：深度学习基础
一、专知《深度学习：算法到实战》1.深度学习：算法到实践（一）绪论2.深度学习：算法到实践（二）神经网络基础二、李沐《动手学深度学习在线课程》本周课程学习为预备知识部分，详细的文档可点击查看。主要包括以下七个小部分。1.数据操作主要就是了解张量，它提供了各种功能，包括基本数学运算、广播、索引、切片、内存节省和转换其他Python对象。2.数据预处理了解pandas的使用，对于数据进行简单的处理，针对于缺失值的处理，典型的方法包括插值和删除。最后，将pandas处理的数据转化成张量格式。
2021-09-05 16:09:17
123
1
原创 深度学习：算法到实践（二）神经网络基础
1. 浅层神经网络激活函数为什么要有激活函数？没有激活函数相当于矩阵相乘多层和一层一样只能拟合线性函数激活函数举例：sigmoid函数Sigmoid函数饱和使梯度消失。当神经元的激活在接近0或1处时会饱和，在这些区域梯度几乎为0，这就会导致梯度消失，几乎就有没有信号通过神经传回上一层。Sigmoid函数的输出不是零中心的。因为如果输入神经元的数据总是正数，那么关于[公式]的梯度在反向传播的过程中，将会要么全部是正数，要么全部是负数，这将会导致梯度下降权重更新时出现z字型的下降。
2021-04-08 20:10:23
390
原创 深度学习：算法到实践（一）绪论
1. 人工智能和机器学习概述什么是人工智能？使一部机器像人一样进行感知、认知、决策、执行的人工程序或系统人工智能发展的标志性事件人工智能发展阶段人工智能的三个层面计算智能：能存能算。感知智能：能听会说、能看会认，类似于人的视觉、听觉、触觉等感知能力。认知智能：能理解会思考，概念、意识、观念都是认知智能的表现。人工智能和机器学习与深度学习的关系人工智能是一个领域，就是一个目标，我们希望机器能像人一样的去感知、去思考，机器学习的是来实现这样一个目标的一类方法，而深度学习只是这一类方法中的
2021-04-08 20:10:09
336
原创 mysql数据库安装（详细）----转载
记录一下，安装mysql数据库时，参考的博客，以及采坑点。mysql数据库安装（详细）mysql第一次安装成功后初始化密码操作步骤1.命令行进入安装包所在的文件夹时，一定要使用管理员身份进入，否则会初始化数据库时，会报错。mysql数据库安装2.这个博客，在安装包下载的位置，直接点击3.第五步：输入mysql --initalize 进行初始化mysql。这个地方，代码写错了。应该是mysqld--initalize。但是输入命令行后，仍然不可显示data文件夹。则参考另一篇文章mysql第
2021-03-19 15:07:50
117
转载 PyCharm+PyQt5+QtDesigner配置(转载)
转载自PyCharm+PyQt5+QtDesigner配置注意：python.exe的环境位置，一定要正确
2021-03-18 21:11:14
95
原创 jupyter中使用安装好的pytorch
切忌，不要直接在Anaconda Prompt中直接使用 jupyter notebook打开，因为此时打开的jupyter不是在你创建的环境下的jupyter notebook，而是你以前建立的jupyter notebook。所以此时解决办法：首先激活你的pytorch环境(也就是你当前建立的新环境)，pytorch安装查看上一篇博客conda activate pytorch 然后重新安装jupyter notebookconda install ipythonconda instal
2021-01-19 16:32:06
1400
1
原创 Windows下Anaconda中安装pytorch
前提在Anaconda Prompt中建立新环境（python3.6版本的）建立新环境的目的，是为了适应不同版本的切换，比如，你想使用3.6版本的python，就切换到3.6的。使用3.7的就切换到3.7的。conda create -n 当前环境名称 python=3.6 安装好后，会有提示：To activate this environment, use（激活环境）conda activate 环境名称To deactivate an active environment, use
2021-01-19 16:10:09
502
原创 LeetCode——75. 颜色分类（C语言）
颜色分类给定一个包含红色、白色和蓝色，一共 n 个元素的数组，原地对它们进行排序，使得相同颜色的元素相邻，并按照红色、白色、蓝色顺序排列。此题中，我们使用整数 0、 1 和 2 分别表示红色、白色和蓝色。注意:不能使用代码库中的排序函数来解决这道题。示例:输入: [2,0,2,1,1,0]输出: [0,0,1,1,2,2]void sortColors(int* nums, int numsSize){ //桶排序。 //定义一个一维数组，存有红白蓝色三颜色。 i.
2020-09-16 20:47:51
652
原创 改进的二分搜索
改进的二分搜索算法时间复杂度：循环体每循环一次时间复杂度减少一半，而且判断的时间复杂度为O(1),所以根据公式得算法时间复杂度为T(n)=1*T(N/2)+O(1)=O(logn)利用二分搜索的思想，在数组中查找关键字key。当left<=right，如果key==a[mid]，则表示x在数组中，返回下标i，j，如果key>a[mid]，则left=mid+1，如果key...
2020-01-02 20:43:43
390
原创 合并排序
https://blog.csdn.net/Windows_Defender/article/details/85077231https://blog.csdn.net/ASCIIdragon/article/details/84029878https://blog.csdn.net/YF_Li123/article/details/75072991算法思想：主要利用分治算法思想：将需要...
2020-01-02 20:42:22
269
原创 动态规划解最长公共子序列(LCS)
本次博客，直接简述核心动态规划部分，需要先对动态规划以及什么是最长公共子序列有简单了解，可以参考下博客，最长公共子序列 (LCS) 详解+例题模板（全）https://blog.csdn.net/lxt_Lucia/article/details/81209962动态规划解最长公共子序列(LCS)(附详细填表过程)https://blog.csdn.net/weixin_40673608/...
2020-01-02 20:34:36
341
原创 总结2019展望2020
总结回顾自己学习的过程，看看自己的学习成果，激励自己在2020继续努力。回首2019一年机器学习：机器学习实战一书已经看过一遍，了解主要机器学习算法。机器学习实战——学习之路深度学习已经了解基本的神经网络原理，CNN，RNN,LSTM,GRU。Pytorch，Tensorflow简单使用展望2020最最重要的：考研，考一所自己满意的大学。努力过六级。入门知识图谱，可以做一些简...
2020-01-01 20:29:57
1135
原创 知识图谱综述（初步了解后的总结整理）
文章目录一、导读二、知识图谱的概念演化三、 什么是知识图谱四、知识图谱的数据类型和存储方式五、知识图谱的架构六、知识图谱的构建技术七、 知识图谱的应用八、总结注：首先声明，本篇博客是博主在查询知识图谱的资料的时候，看了数篇知识图谱综述以及阅读了相关资料后的一个总结以及自己的相关理解，仅是为了记录学习的过程。如果有侵权，请第一时间联系博主。博主是一位刚接触知识图谱的小白，初学乍练，希望可以每天进步...
2020-01-01 17:12:06
4829
原创 莫烦pytorch教程中DQN代码IndexError: too many indices for array
最初代码：action = torch.max(actions_value, 1)[1].data.numpy()[0, 0] # return the argmax修改后代码：action = torch.max(actions_value, 1)[1].data.numpy()[0] # return the argmax参考：https://morvanzhou.g...
2019-12-29 14:36:07
719
2
原创 ubuntu 16.04安装gym
1.安装gym也要在虚拟环境下进行安装，对于虚拟环境的建立，使用conda，可以参考博客https://blog.csdn.net/qs17809259715/article/details/1037294782.第一次尝试：前提要先进入虚拟环境，然后使用如下命令sudo apt-get install -y python-numpy python-dev cmake zlib1g-dev...
2019-12-28 20:33:06
3560
原创 IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python
pytorch报错：IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python number是你的torch版本的不同造成的。train_loss += loss.data[0] 是pytorch0.3.1版本代码,在0.4-0.5版本的pytorch会...
2019-12-28 10:40:39
286
原创 【pytorch】torch.utils.data.TensorDataset()原版与新版的差异
原版代码：torch_dataset = Data.TensorDataset(data_tensor=x, target_tensor=y)loader = Data.DataLoader( dataset=torch_dataset, # torch TensorDataset format batch_size=BATCH_SIZE, # mini b...
2019-12-27 21:36:38
6537
原创 爬取房天下二手房房价数据，进行线性回归预测
本次通过爬取房天下中烟台二手房房价数据，使用线性回归进行简单预测。具体代码如下：1.从房天下爬取烟台二手房数据信息from selenium import webdriverfrom bs4 import BeautifulSoupfrom selenium.webdriver.support.wait import WebDriverWaitimport pandas as pdi...
2019-12-27 16:51:10
2844
1
原创 ubuntu16.04下安装anaconda和pycharm安装
文章目录一.anaconda的安装二.pycharm的安装对于ubuntu16.04下，通过conda安装cuda和cudnn。以及安装GPU版的tensorflow和pytorch，可以参考以下博客。ubuntu16.04 通过anaconda建立虚拟环境，安装cuda9.0，cudnn7.1.2虚拟环境下，基于cuda9.0，cudnn7.1.2安装tensorflow和pytorch...
2019-12-27 16:32:58
1514
原创 虚拟环境下，基于cuda9.0，cudnn7.1.2安装tensorflow和pytorch
1.安装tensorflow（1）本身tensorflow的安装很简单，只需要pip或者conda就好，但是必须找到tensorflow,cuda,cudnn的对应关系。Version Python version Compiler Build tools cuDNN CUDAtensorflow_gpu-...
2019-12-27 16:14:51
535
原创 ubuntu16.04 通过anaconda建立虚拟环境，安装cuda9.0，cudnn7.1.2
1.anaconda建立虚拟环境及conda操作//env_name代表你想要建立的环境名字,-n表示名字conda create -n env_name python=3.6 //激活环境source activate env_name //退出环境source deactivate //删除环境conda remove -n env_name --all //查看co...
2019-12-27 11:52:01
4639
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人