- 博客(49)
- 资源 (1)
- 收藏
- 关注
RSS订阅
原创 DNN和RNN网络中的梯度消失/梯度爆炸问题
详解梯度消失/梯度爆炸的原因和LSTM的作用梯度消失/梯度爆炸是深度学习中老生常谈的话题，本文主要通过数学公式的推导来详解DNN和RNN网络中梯度消失/梯度爆炸问题，并且介绍了为什么LSTM能够在一定程度上缓解梯度消失/爆炸的现象。DNN中的梯度消失/爆炸原因以一个有2层隐藏层的DNN网络为例，相应的前向传播公式为：z^1=ϕ(w1v+b1)\hat{z}^1 = \phi(w^1v+b^...
2020-02-14 22:39:53
1284
原创 C++编程之构造函数
学习到了C++的构造函数了，之前上的课比较简单加上自己也有一定的编程基础，所以一直都没觉得有什么压力，今天的课感觉有点难了~~丰富的快捷键构造函数的作用在对象被创建时，使用特定的值构造对象，将对象初始化为一个特定的初始状态。例如：希望在构造一个Clock类对象时，将初始时间设为0：0：0，就可以通过函数来设置。构造函数的形式函数名与类名相同不能定义返回值类型，也不能有return语句可以有形式参数，也可以没有形式参数可以是内联函数可以重载可以带默认参数值构造函数的调用时
2020-06-14 11:35:31
435
原创 类与对象的介绍
系统地介绍一下类与对象的定义，并能够给出程序举例。Markdown和扩展Markdown简洁的语法定义对象是现实中的对象在程序中的模拟，类是对同一类对象进行概括得到的抽象。对象是类的实例。定义类的对象，才可以通过对象使用类中定义的功能。类定义的语法形式：类内初始值可以为数据成员设置类内初始值，用于初始化数据成员。类成员的访问控制公有类型成员私有类型成员保护类型成员公有类型成员：在关键字public后面声明，它们是类与外部的接口，任何外部函数都可以访问
2020-06-08 21:56:32
245
原创 C++的一些概念 面向对象程序的基本特点
本节主要介绍一些基本概念，有关于面向对象程序的基本特点~~Markdown和扩展Markdown简洁的语法抽象对某一类对象的共同属性和行为进行概括，形成类首先注意问题的本质和描述，其次是实现的过程或细节数据抽象：描述某类对象的属性或状态(数据抽象的结果—对象相互区别的物理量)代码抽象：描述某类对象的共由行为特征或具有的功能抽象的实现：类对应的类的代码：class Clock{ public: void setTime(int newH, int newM
2020-06-07 21:47:58
177
原创 C++ 函数重载介绍
Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键定义C++允许功能相近的函数在相同的作用域内以相同函数名声明，从而形成重载，方便使用，便于记忆。注意事项重载函数的形参必须不同：个数不同或类型不同编译程序将根据实参和形参的类型及个数的最佳匹配来选择调用哪一个函数不要将不同功能的函数声明为重载函数，以免出现调用结果的误解、混淆示例...
2020-06-07 20:50:58
167
原创 C++内联函数
定义内联函数的作用是是的编译器在编译的时候使用函数体离得语句来替换函数表达式，从而节省了参数传递，控制转移等开销。几点注意内联函数声明时使用关键字inline内联函数体内不能有循环语句和swith语句内联函数的定义必须出现在内联函数第一次被调用之前对内联函数不能进行异常接口声明内联函数仅仅是对编译器的一种“建议”，需要得到编译器的认可才可以变成"内联"函数示例计算圆的面积：#include <iostream>using namespace std;const d
2020-06-06 16:29:29
122
原创 C++ 引用类型
最近在B站上看清华大学C++课程，学习到了一个“引用类型”的概念。引用类型引用(&)是标识符的别名定义一个引用时，必须同时对它进行初始化，使它指向一个已存在的对象例如：int i,j;int &ri = i; //定义int引用ri，并初始化为变量i的引用j = 10ri = j; //相当于i=j一旦一个引用被初始化后，就不能改为指向其他对象引用可以作为形参，可以实现参数的双向传递示例：输入两个整数交换后输出值传递#include &l
2020-06-06 11:23:05
321
原创 基于python手动画出spectrogram(语谱图)
Spectrogram是基于STFT变换得到的，非常有助于分析信号的时频特性，在语音信号处理中常被称为"语谱图"。python中有一些写好的模块可以直接将时域的信号转化成spectrogram，但这并不利于对其原理的理解，而且横纵左边的转换也不是很方便，在这篇博客中我们尝试直接基于python的基本操作来手东画出spectrogram。Generate synthetic data每台模拟电话的拨盘上都会产生2个正弦波信号，例如按下数字1就会产生频率包含697Hz和1209Hz的正弦波，697Hz表
2020-05-18 17:07:50
7171
3
原创 如何在python中灵活地画子图
plt.axes：python中灵活地画子图方法最近在修改文章的时候遇到了要画出大小不同的子图问题，一直以来都是采用plt.subplot(num_rows, num_cols, fig_index)直接来画子图的，但是发现这种方法很难调整子图的大小，于是采用plt.axes来解决问题。首先来看下Figure和Axes对象，在python的matplotlib库中，整个图像为一个Figure对象，在Figure对象中可以包含一个或多个Axes对象，每个Axes对象都是一个拥有自己坐标系统的绘图区域，其
2020-05-17 17:12:00
2419
原创 所有车的过桥最短时间
今晚帮朋友助攻遇到了一道题，当时有思路但是没有写出来，后来结合牛客网上的解答写了出来，也不知道具体能AC多少道题，先放在这里等大家指点吧~题目描述有N辆车药陆续通过一座最大承重为W的桥，其中第i辆车的重量为w[i]，通过桥的时间为t[i]，要求第i辆车上桥的时间不早于第i-1辆车上桥的时间，任意时刻桥上所有车辆的总重量不超过W。那么，所有车辆都通过这座桥所需的最短时间为多少？输入：...
2019-09-29 22:40:48
380
原创 抽屉中最多放多少球
昨天遇到一道比较有意思的题，特来分享一下。题目描述一排抽屉，编号1到10，每个抽屉装有红色小球，一共100个，第一个抽屉装有16个，编号相邻的三个抽屉装的红球个数相等，求第8个抽屉最多可能有多少个红球？解题思路由编号相邻的三个抽屉装的红球个数相等，也就是说以下的每一行的抽屉装的红球之和相等：1 2 32 3 43 4 54 5 65 6 76 7 87 8 9...
2019-09-03 21:10:10
143
原创 max(X,Y),min(X,Y)的期望求解
今晚好朋友问了一道我觉得还比较有意思的概率题，有助于对概率论中基础概念的理解，分享给大家~~题目描述：随机变量a, b 相互独立同分布，均服从某种分布，则求min(a, b)的数学期望。a, b ~ N(0, 1)当 a, b 均服从正态分布N(μ,σ2)N(\mu, \sigma^2)N(μ,σ2)，首先可以将min(a,b)min(a, b)min(a,b)转化为：min(a,b...
2019-08-31 23:05:55
24526
1
原创 动态规划之矩阵链乘法
今天下午笔试遇到了矩阵链乘法，谨在此总结一下。分析关于本题的分析，动态规划之矩阵链乘法理解 已经讲的很详细了，我在此仅简单总结一下：A1∗A2A_1*A_2A1∗A2生成一个维度是[p0,p2][p_0, p_2][p0,p2]的矩阵 (A1A_1A1的维度为[p0,p1][p_0, p_1][p0,p1]，A2A_2A2的维度为[p1,p2][p_1, p_2][p1,p...
2019-08-31 21:42:01
143
原创 快手笔试选择题梳理(机器学习)
梳理一下快手的笔试中的选择题吧，主要是机器学习的内容，当然数学题也有一部分。卷积层的存储量和计算量存储量：C(上一层卷积数量) * K(卷积核高) * K(卷积核宽) * C(这一层卷积核的数量)计算量：C(上一层卷积数量) * K(卷积核高) * K(卷积核宽) * C(这一层卷积核的数量) * W(输出特征图的宽度) * H(输出 特征图的高度)即为：O(K∗K∗Cin∗M∗M∗...
2019-08-29 14:36:11
764
原创 基于numpy实现离散卷积和CNN
复习了一下离散卷积，主要的步骤就是翻转、平移、相乘复习了一下CNN的简单过程，并且看了一些卷机神经网络(CNN)反向传播算法，这个反向传播确实要比DNN的复杂一些，等过段时间写个博客总结一下吧。基于numpy实现离散卷积def conv(lst1, lst2): res = [] lst1.reverse() len1 = len(lst1) len2 = ...
2019-08-23 17:28:45
491
原创 牛牛背包问题----三种解法详解
题目描述牛牛准备参加学校组织的春游, 出发前牛牛准备往背包里装入一些零食, 牛牛的背包容量为w。牛牛家里一共有n袋零食, 第i袋零食体积为v[i]。牛牛想知道在总体积不超过背包容量的情况下,他一共有多少种零食放法(总体积为0也算一种放法)。输入描述输入包括两行第一行为两个正整数nnn和w(1<=n<=30,1<=w<=2∗109)...
2019-08-22 23:38:25
622
原创 字典学习以及在语音增强方面的应用
做过一段时间的字典学习和稀疏表示，时间久了真的有些遗忘了，现在整理一下。这里主要以介绍生成性字典学习这块的方法为主，其实非负矩阵分解也属于字典学习的范畴，本文暂且不做介绍了。基本做法稀疏表示的过程可以表示为如下的分解模型：x=Dcx = Dcx=Dc其中，x∈RL∗1x\in R^{L*1}x∈RL∗1为观测的信号，D∈RL∗KD \in R^{L*K}D∈RL∗K为基矩阵或称为字典，它...
2019-08-22 21:45:40
864
2
原创 面试知识点梳理二：常见范数最小二乘
一点点查漏补缺吧~l1范数为什么比l2范数更容易得到稀疏解其实这个问题我之前看到过，包括也有介绍过0,1,2范数(详见L0、L1、L2、核范数以及RPCA方法的应用)，但是面试的时候却又结结巴巴地回答不上来，归根到底还是理解得不够透彻，现在又重新来梳理一遍。参看了一下知乎上的l1相比于l2为什么容易获得稀疏解的相关答案后，才知道原来这个问题有三种理解，此处就偷个懒转个图了。这里对于"...
2019-08-22 16:24:27
2357
原创 面试知识点梳理一：概率论和线性代数
研二找工作季，面试了虎牙直播和一些创业型公司，问到了一些问题都没能很好地回答出来，本文特来梳理一些知识点~~一枚硬币，扔了一亿次都是正面朝上，再扔一次反面朝上的概率是多少？才知道这原来是知乎上的问题~当时面试的时候第一反应就是想着应该概率还是1，但是没敢说出来，还是对概率论掌握的不够。先给出知乎上的一个比较令人信服的答案：假设这个硬币是“均匀稳定”的(不是质地不均匀或者两面均为正面的硬币...
2019-08-22 15:20:09
3129
转载 Python 计数相关的题
python 计数相关的题在简书上看到了一篇文章介绍了Leetcode上“计数”相关的题，介绍 了一些非常巧妙的方法，所以转载过来做下记录。问题：给定序列，统计所有元素出现的次数法一：seq.count()seq = 'abcdbabaecccdbb' #待统计序列#先变成集合得到seq中的所有元素，避免重复遍历set_seq = set(seq) rst = []...
2019-08-08 17:11:38
203
原创 说话人聚类--谱聚类和层次聚类
谱聚类和层次聚类在讯飞实习了一个月了，做了点说话人聚类的工作，现在总结一下主要用到的谱聚类和层次聚类。层次聚类在层次聚类这块，我主要学习了 凝聚型层次聚类和 BIRCH方法，主要参考的博客有 [ BIRCH聚类算法原理 ] 。定义：通过计算不同类别数据点间相似度来创建一棵有层次的嵌套聚类树，主要有两种方法：分裂(Divisive)：自顶向下的方法，先将所有数据归为一类，不断分裂成不...
2019-08-05 21:27:24
1614
原创 网易20届提前批笔试第一题：字典序排列
其实这题就是在考字典序全排列，然后计算出总的排列数(n的阶乘)，倒数第Q个排列即为正数(n!-Q-1)个排列。考试的时候傻了，用一个list去储存所有的排列，其实根本不需要的。真的傻了傻了。def permute(nums, n, total): cnt = 0 idx = 0 while True: try: if nums ...
2019-08-03 17:45:40
234
原创 LeetCode 3 : 无重复字符的最长子串
算法描述给定一个字符串，请你找出其中不含有重复字符的最长子串的长度。示例：输入: “abcabcbb”输出: 3解释: 因为无重复字符的最长子串是 “abc”，所以其长度为 3。代码描述方法一：对于字符的遍历，譬如abc，然后又出现一个a，则此时就应该删除第一个a，继续往后遍历，以此类推，所以我们需要记录之前出现过的字符，记录的方式主要是用dic记录字符出现的个数，但是注意...
2019-07-10 11:19:41
83
原创 剑指Offer 42 : 连续子数组的最大和
剑指Offer 42 : 连续子数组的最大和，即最大子序和问题。算法描述给定一个整数数组 nums ，找到一个具有最大和的连续子数组（子数组最少包含一个元素），返回其最大和。示例：输入: [-2,1,-3,4,-1,2,1,-5,4],输出: 6解释: 连续子数组 [4,-1,2,1] 的和最大，为 6。代码描述主要的算法描述可以参见《剑指Offer》P218-P220，基...
2019-07-09 11:01:14
165
原创 [Leetcode]——Linked List Cycle II (链表中环的入口节点)
题目描述Given a linked list, return the node where the cycle begins. If there is no cycle, return null.To represent a cycle in the given linked list, we use an integer pos which represents the position...
2019-06-26 16:09:37
196
1
原创 十大经典排序算法之"快速排序"
快速排序让我想了挺久的了，也踩了一些坑，特在此记录把。算法描述在待排序的数组中选择一个元素作为基准(通常选择第一个元素)，即基准元素；将待排序的元素进行分区，比基准元素大的元素放在基准元素的右边，比基准元素小的元素放在基准元素的左边；对左右两个分区再重新选择基准元素并进行分区，直到整个数组有序。时间复杂度 (平均)时间复杂度(最坏)时间复杂度(最好)空间复杂度稳定性...
2019-06-14 15:14:45
187
原创 十大经典排序算法之"插入排序"
在我看来，插入排序的工作原理和选择排序也有异曲同工之处很相似，选择排序是在"右边的无序区"中挑出最小(大)的数插入到"左边的有序区的末尾"，插入排序则是在"左边的有序区"中找到"右边的无序区的第一个元素"应该放置的位置并插入。算法描述简单来说，插入排序的工作原理就是用过构造有序序列，对于未排序数据，在有序序列中从后向前扫描，找到相应的位置并插入。从第一个元素开始，认为该元素已经被排序;取...
2019-06-13 21:28:26
153
原创 十大经典排序算法之"选择排序"
十大经典排序算法之"选择排序"选择排序的工作原理简单直观，和冒泡排序也有异曲同工之处，它将需要排序的数组分为有序区和无序区，首先在无序区选出最小的数，放到有序区的末尾(有序区为从小到大排序好的数组，因此此时从无序区选出的最小的数一定大于有序区中最大的数)，以此类推，直到数组有序。算法描述初始状态：无序区为原始数组arr[1,...,n]arr[1,...,n ]arr[1,...,n]，有...
2019-06-13 17:24:42
267
原创 十大经典排序算法之"冒泡排序"
十大经典排序算法之"冒泡排序"冒泡排序可谓是最简单的排序算法了，它重复地遍历需要排序的数组，一次比较相邻的两个元素，如果前面的数大于后面的数则进行交换。算法描述比较相邻的两个元素，如果前面的数 > 后面的数，则进行交换；对每一对相邻的元素进行上述步骤，从开始的一对到最后的一对，这样数组中最大的数应该在数组的末尾；对除了最后一个元素外的其他元素，重复上述步骤，直到排序结束。代码...
2019-06-13 16:20:16
270
原创 [华为练习题]——合唱队
[华为练习题]——合唱队题目描述计算最少出列多少位同学，使得剩下的同学排成合唱队形说明：N位同学站成一排，音乐老师要请其中的(N-K)位同学出列，使得剩下的K位同学排成合唱队形。 合唱队形是指这样的一种队形：设K位同学从左到右依次编号为1，2…，K，他们的身高分别为T1，T2，…，TK， 则他们的身高满足存在i（1<=i<=K）使得T1<T2<…<Ti-1...
2019-06-04 15:59:12
599
原创 [Leetcode]——Longest increasing subsequence
[Leetcode]——Longest increasing subsequence题目描述Given an unsorted array of integers, find the length of longest increasing subsequence.Example:Input: [10,9,2,5,3,7,101,18]Output: 4Explanation: ...
2019-06-04 15:48:51
123
原创 牛客网华为练习题——删除字符串中出现次数最少的字符
牛客网华为练习题——删除字符串中出现次数最少的字符题目描述实现删除字符串中出现次数最少的字符，若多个字符出现次数一样，则都删除。输出删除这些单词后的字符串，字符串中其它字符保持原来的顺序。解题思路这题很简单，于是我就写出了如下代码：# 19/6/2def func(s): if len(s.encode('utf-8')) > 20: # 判断字节 ...
2019-06-03 15:57:21
448
原创 剑指offer[21]——调整那个数组顺序使奇数位于偶数前面
剑指offer[21]——调整那个数组顺序使奇数位于偶数前面题目描述输入一个整数数组，实现一个函数来调整该数组中数字的顺序，使得所有的奇数位于数组的前半部分，所有的偶数位于数组的后半部分，并保证奇数和奇数，偶数和偶数之间的相对位置不变。解题思路及相应代码题目是从牛客网上摘过来的，不同于《剑指Offer》，该题还要求奇数、偶数之间的相对位置不变，所以不能只简单地采用两个指针，具体代码及...
2019-05-18 23:07:13
82
原创 剑指offer[20]：表示数值的字符串
剑指offer[20]——表示数值的字符串题目描述请实现一个函数用来判断字符串是否表示数值（包括整数和小数）。例如，字符串"+100",“5e2”,"-123",“3.1416"和”-1E-16"都表示数值。 但是"12e",“1a3.14”,“1.2.3”,"±5"和"12e+4.3"都不是。解题思路及相应代码class Solution: def isNumeric(se...
2019-05-18 17:23:14
162
原创 关于VAE中KL散度项的推导
关于VAE中KL散度项的推导最近在看 Variational AutoEncoder，其中论文《Auto-Encoding Variational Bayes》中的Eq.(10)怎么也推不出来，看了一下Appendix B，只给出了KL散度项，没有给出具体的计算过程，如下图：于是决定自己推导一下，主要也是暴力求解，参考 [ Gaussian Integrals ]:...
2019-04-19 10:43:15
3533
3
原创 腾讯2020届实习编程题1——拆分整数
腾讯2020届实习编程题1——拆分整数题目描述小Q在进行一个对数字进行拆分的游戏，游戏规则如下：小Q最初只有一个整数N,接下来每一轮中，小Q被允许对现有的每个数进行下面两个操作之一1、对当前小Q手里的所有数减12、把所有数都拆分为更小的两个数之和但是拆分操作只允许使用至多k次，现在小Q想知道把N完全消去需要多少轮操作。输入描述输入一行包含两个整数N, K (1< N&...
2019-04-10 15:58:17
1088
1
原创 # 腾讯2020届实习编程题2——Wine trading in Gergovia
腾讯2020届实习编程题2——Wine trading in Gergovia题目描述小Q所在的城镇里有一条笔直的公路，上面分布n个村庄，编号1到n。有些村庄需要购进水果，有些村庄需要贩卖水果，设第i个村庄对水果的需求量为AiA_iAi，Ai>0A_i>0Ai>0表示该村需要贩卖水果，Ai<0A_i<0Ai<0表示该...
2019-04-09 19:53:30
265
原创 Windows 10系统安装codeblocks+mingGW
Windows 10系统安装codeblocks+mingGW为了准备秋招，现在开始准备学习C++了，首先安装相应的编辑器，原本是可以安装VS，但是太大了，而且本人平时还是用python和matlab多一些，所以就选择了codeblocks。CodeBlocks的安装 [下载网址]也可以选择从官网进入，依次点击“Download -> Download the binary re...
2019-04-09 10:47:06
1274
原创 腾讯2020届实习笔试编程题3
腾讯2020届实习笔试编程题3今晚刚刚完成了腾讯2020届的实习笔试(岗位:算法岗)，话不多说，现附上第三题编程题：编程题3我的解答import numpy as npdef func(n, k, my_array): if 1<= n <= 105 and 1 <= k <= 105: flag = True else:...
2019-04-07 22:48:06
715
1
原创 L0、L1、L2、核范数以及RPCA方法的应用
机器学习方法之范数规则范数规则 实则就是将模型的一些先验知识融入到模型的学习中，强行地让学习到的模型具有某些特征，如低秩、稀疏等等，因此可用于防止过拟合现象的出现。从贝叶斯的角度来看，范数规则项实则对应模型的先验概率；另外，也可看成是结构风险最小化策略的实现，即在经验风险上加一个正则化项或者是惩罚项。一般来说，监督学习即是最小化下面的目标函数：其中，第一项衡量模型(分类/回归)对第i个样...
2019-01-23 22:24:19
1572
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人