S10xuexi的博客

Leetcode-206. 反转链表给你单链表的头节点 head ，请你反转链表，并返回反转后的链表。# Definition for singly-linked list.# class ListNode:# def __init__(self, val=0, next=None):# self.val = val# self.next = nextclass Solution: def reverseList(self, head: Lis

注意力机制广泛存在于现在的深度学习网络结构中，使用得到能够提升模型的学习效果。本文讲使用Pytorch实现多头自注意力模块。一个典型的自注意力模块由Q、K、V三个矩阵的运算组成，Q、K、V三个矩阵都由原特征矩阵变换而来，所以本质上来说是对自身的运算。而多头注意力机制则是单头注意力机制的进化版，把每次attention运算分组（头）进行，能够从多个维度提炼特征信息。具体原理可以参看相关的科普文章，下面是Pytorch实现。import torch.nn as nnclass MHSA(nn.Mod

pytorch的dataloader的__getittem__()方法，内部定义随机数，采用numpy.random.rand的方法，每次迭代从dataloader里取数据，都会产生拿到相同的随机数序列，相反，torch.rand的方法，每次迭代拿数据时，拿到的是不同的随机数序列。 # numpy生成随机数 def get_train_sample(self, ): track_idx = np.random.randint(0, len(self._tracks), (1, ))

数据集信息数据集简单介绍原文描述The dataset presented in this paper is sourced from the website: Mixing Secrets for The Small Studio.1 The website hosts around 300 multi-tracks free of charge for academic purposes, making it perfect for use in the MIR community. The tr

VQ & KmeansVQ(vector quantization)应用最多的是在信号处理的领域，常用于将模拟信号值转为数字信号（计算机可以处理的形式）。目前vq在深度学习上也有应用，比较典型的是近两年出现的vq-vae模型，其中vq模块实现了将连续的embedding映射到离散的codebook上，获得了更加鲁棒的特征，也有人对转换后的特征的可解释性做了实验，比如用在speech上获得的特征理解成phoneme的feature。这里贴两篇典型的vq应用的paper日后填坑。vq-vae-2 (

NLP模型亮点Transformerself-attention, multi-head attentionCV

安装用apt-get命令安装nginxsudo apt-get updatesudo apt-get install nginx测试nginx状态sudo nginx -t这项命令还可用来查看配置文件是否正确，一般conf文件有问题这行命令就会有错误提示。一些nginx的控制命令sudo systemctl start nginxsudo systemctl stop nginxsudo systemctl restart nginx配置nginx服务的总体配置文件