自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 链表问题的递归写法

Leetcode-206. 反转链表给你单链表的头节点 head ,请你反转链表,并返回反转后的链表。# Definition for singly-linked list.# class ListNode:# def __init__(self, val=0, next=None):# self.val = val# self.next = nextclass Solution: def reverseList(self, head: Lis

2022-02-22 18:54:19 211

原创 多头自注意力机制Pytorch实现

注意力机制广泛存在于现在的深度学习网络结构中,使用得到能够提升模型的学习效果。本文讲使用Pytorch实现多头自注意力模块。一个典型的自注意力模块由Q、K、V三个矩阵的运算组成,Q、K、V三个矩阵都由原特征矩阵变换而来,所以本质上来说是对自身的运算。而多头注意力机制则是单头注意力机制的进化版,把每次attention运算分组(头)进行,能够从多个维度提炼特征信息。具体原理可以参看相关的科普文章,下面是Pytorch实现。import torch.nn as nnclass MHSA(nn.Mod

2022-02-16 22:37:38 9240

原创 Pytorch Dataloader内部随机数

pytorch的dataloader的__getittem__()方法,内部定义随机数,采用numpy.random.rand的方法,每次迭代从dataloader里取数据,都会产生拿到相同的随机数序列,相反,torch.rand的方法,每次迭代拿数据时,拿到的是不同的随机数序列。 # numpy生成随机数 def get_train_sample(self, ): track_idx = np.random.randint(0, len(self._tracks), (1, ))

2021-07-17 21:27:28 831

原创 数据集Mixing Secrets下载

数据集信息数据集简单介绍原文描述The dataset presented in this paper is sourced from the website: Mixing Secrets for The Small Studio.1 The website hosts around 300 multi-tracks free of charge for academic purposes, making it perfect for use in the MIR community. The tr

2021-06-19 16:32:58 260

原创 VQ+Kmean实现图片压缩

VQ & KmeansVQ(vector quantization)应用最多的是在信号处理的领域,常用于将模拟信号值转为数字信号(计算机可以处理的形式)。目前vq在深度学习上也有应用,比较典型的是近两年出现的vq-vae模型,其中vq模块实现了将连续的embedding映射到离散的codebook上,获得了更加鲁棒的特征,也有人对转换后的特征的可解释性做了实验,比如用在speech上获得的特征理解成phoneme的feature。这里贴两篇典型的vq应用的paper日后填坑。vq-vae-2 (

2021-05-16 20:08:02 498

原创 深度学习经典模型整理(分领域)

NLP模型亮点Transformerself-attention, multi-head attentionCV

2021-05-10 21:39:36 270

原创 Ubuntu系统安装和配置Nginx

安装用apt-get命令安装nginxsudo apt-get updatesudo apt-get install nginx测试nginx状态sudo nginx -t这项命令还可用来查看配置文件是否正确,一般conf文件有问题这行命令就会有错误提示。一些nginx的控制命令sudo systemctl start nginxsudo systemctl stop nginxsudo systemctl restart nginx配置nginx服务的总体配置文件

2021-05-10 14:56:17 275

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除