- 博客(55)
- 收藏
- 关注
RSS订阅原创 2018 BMCV 《BAM: Bottleneck Attention Module》Pytorch实现
import torchfrom torch import nnfrom torch.nn import init# 通道注意力+空间注意力的改进版# 方法出处 2018 BMCV 《BAM: Bottleneck Attention Module》# 展平层class Flatten(nn.Module): def __init__(self): super(Flatten, self).__init__() # 将输入的x，假如它是[B,C,H,W]维.
2022-05-03 16:39:24
544
原创 PyTorch torchtext中带有的自然语言处理数据集
目录一.文本分类数据集1.AG_News2.SogouNews3.DBpedia4.YelpReviewPolarity5.YelpReviewFull6.YahooAnswers7.AmazonReviewPolarity8.AmazonReviewFull9.IMDB二，语言模型1.WikiText-22.WikiTest1033.PennTreebank三，机器翻译1.Multi30k2.IWSLT20163.IWSLT2017
2022-05-03 16:28:50
3744
1
原创 蓝桥杯-第十一届蓝桥杯大赛软件类决赛 Python题解
#答案ans=0#判断number是否含有数字2def judge(number): while number!=0: a=number%10 if a==2: return True number//=10 return Falsefor i in range(1,2021): if judge(i): ans+=1print(ans)#答案ans=0#判断...
2022-05-03 16:24:15
1310
原创 2018 ECCV 《CBAM: Convolutional Block Attention Module》 PyTorch实现
import numpy as npimport torchfrom torch import nnfrom torch.nn import init# CBAM Attention# 方法出处 2018 ECCV 《CBAM: Convolutional Block Attention Module》# 通道注意力class ChannelAttention(nn.Module): def __init__(self, channel, reduction=16): .
2022-05-03 16:14:53
303
原创 图神经网络
目录一 预备知识1.1 什么是图深度学习1.2 图具有的性质1.3 时域（ spectral domain ）和空域（spatial domain）1.4 图深度学习的任务二 Embedding2.1 什么是嵌入2.2 Skip-gram词嵌入三 图嵌入方法四 图神经网络一 预备知识1.1 什么是图深度学习深度学习的目的是从输入数据中学习出有效的特征表示，然后利用学习到的特征表示进行相应的任务。举例来说，对于图片识别任务，我们可以利用卷积神经网络从
2022-05-03 16:12:45
1707
原创 蓝桥杯-第十届蓝桥杯 C语言A组/B组/C组/研究生组-Python题解
#判断数字中是否含有2，0,1,9def has2019(n): flag=False while n!=0: a=n%10 if a==2 or a==0 or a==1 or a==9: flag=True return flag #注意python的除法机制 n//=10 return flagsum=0for i in range(1,2019+...
2022-05-03 15:07:12
818
原创 2017 NIPS 《Attention Is All You Need》PyTorch实现
import numpy as npimport torchfrom torch import nnfrom torch.nn import init# 多头注意力# 缩放点积计算相似性# 方法出处 2017 NIPS《Attention Is All You Need 》class ScaledDotProductAttention(nn.Module): # 定义网络的层 def __init__(self, d_model, d_k, d_v, h, dropout.
2022-05-02 21:06:30
418
原创 传统推荐方法相关论文和代码
目录一 协同过滤方法1.1 论文1.2 代码二 矩阵分解方法2.1 论文2.2 代码三 因子分解机方法3.1 论文3.1.1 FM(Factorization Machines)3.1.2 FFM（Field-aware Factorization Machines）3.2 代码四 多模型融合方法4.1 论文4.1.1 GBDT+LR4.1.2 LS-PLM4.2 代码一 协同过滤方法1.1 论文论文题目：《Ama...
2022-05-02 21:04:29
747
原创 知识蒸馏
目录一 引言1.1 深度学习的优点1.2 深度学习的缺点二 什么是知识蒸馏2.1 模型压缩2.2 什么是学习2.3 什么是知识蒸馏2.4 知识蒸馏的一般流程三 知识蒸馏的分类3.1 模型结构的种类3.2 知识的分类3.3 如何蒸馏四 输出层知识蒸馏《Distilling the Knowledge in a Neural Network 》 2015五 中间层知识蒸馏《Learning Metrics from Teachers: Comp
2022-05-02 20:33:45
20684
3
原创 如何利用PyG实现一个图卷积神经网络并在Cora数据集上进行训练
PyG是基于PyTorch的一个图神经网络框架，包含了大量经典图神经网络论文中的模型结构Cora是一个小规模图神经网络数据集，包含2708篇论文，每篇论文分为7个类别，每篇论文的属性用一个1433维的向量表示，论文之间通过引用关系形成一个无向图的结构。Cora数据集上的任务是判断一篇论文的所属类别，是一个在图结构数据上的分类问题。import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport torch
2022-05-02 20:10:56
2187
原创 如何利用PyTorch写一个Transformer实现英德互译
数据集中每一行是一对英语，德语句子对Transformer模型出处：2017 《Attention is all you need》Transformer中的位置编码是什么意思？https://kazemnejad.com/blog/transformer_architecture_positional_encoding/kazemnejad.com运行以下代码请确保：PyTorch=1.9.0torchtext=0.10.0否则肯定报错# 利用Transformer结构
2022-05-02 20:09:11
2024
原创 深度学习推荐算法模型-论文和PyTorch实现
注意，这篇文章里的代码是我按照论文所述自己写的，里面肯定有些细节没表达出来，也难免有错误，推荐看论文的原代码了解更多模型细节，如果发现代码中存在错误，麻烦在评论区指正一 AutoRec1.1 论文论文题目：《AutoRec: Autoencoders Meet Collaborative Filtering》2015 WWW论文地址：《AutoRec: Autoencoders Meet Collaborative Filtering》深度学习在推荐系统中的首次尝试利用基于自编码..
2022-05-02 16:49:51
3906
原创 图神经网络框架-PyTorch Geometric(PyG)的使用
PyG用torch_geometric.data.Data保存图结构的数据，导入的data(这个data指的是你导入的具体数据，不是前面那个torch_geometric.data)在PyG中会包含以下属性data.x：图节点的属性信息，比如社交网络中每个用户是一个节点，这个x可以表示用户的属性信息，维度为[num_nodes,num_node_features]
2022-05-02 15:27:39
8369
1
原创 “华为杯”第十五届中国研究生数学建模竞赛-对恐怖袭击事件记录数据的量化分析（Python,Pandas,Scikit-learn,PyTorch，Matplotlib,seaborn）
首先先说一下编程的工具Python：编程语言Pandas:数据处理，清洗,分析的工具Scikit-learn:机器学习工具箱PyTorch:深度学习搭建神经网络，训练等的工具Matplotlib,seaborn:可视化工具一，数据集数据集中的每一行记录了一起恐怖袭击事件的信息，分为以下几部分进行了记录：GTD的标志号和日期：每一起事件发生的起讫时间等。事件信息：每一起事件的时间，地点，人物，内容，过程，原因，入选标准等相关信息。事件发生的地点:包括国家、地区、城市和地理位置信息等攻击
2022-05-02 09:40:41
4577
3
原创 刷题常用算法（python）
牛客ID：483622 毓毓子最可爱一 图论1.1 图以及图在计算机中的表示图由节点和边组成，节点代表对现实中物体的抽象，边代表这些物体之间关系的抽象。从相互关系的层面来看,线性表和树结构都可以看做是图的特例。图中的常见术语有：有向图无向图入度出度度路径环路在理解了图的基本概念和术语之后,接下来的问题就是如何将图这种数据结构放在计算机中,使得计算机能够处理图.图在计算机中的表示有两种方法,一种是用矩阵的形式存储,称为领接矩阵法,另一种是用链表的形式存储,称为领接表
2022-05-02 09:38:42
1881
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人