- 博客(18)
- 收藏
- 关注
RSS订阅转载 交叉熵与极大似然估计
在机器学习中常用到交叉熵损失函数，其来源于信息论，用以描述两个两个分布之间的差异。为便于理解，下面描述几个相关定义。假设X为一个离散随机变量，则X=x0的自信息（可理解为X=x0发生所携带的信息）为： 单自信息只处理单个输出，为描述整个概率分布的不确定性总量，我们定义熵： 其表示遵循该分布的事件所产生的期望信息量总和（不确定性总量越大，则信息总量越大）。假设对于同一随机变量X,我们有两个单独的概率...
2019-12-23 14:28:40
446
原创 RNN、LSTM、GRU 的梯度消失及梯度爆炸
文章目录RNN、LSTM、GRU 的梯度消失及梯度爆炸RNNRNN 结构前向传播损失函数后向传播（BPTT）LSTMLSTM 结构前向传播后向传播GRUGRU 结构前向传播后向传播ReferenceRNN、LSTM、GRU 的梯度消失及梯度爆炸RNNRNN 结构RNN 所有的隐层共享参数 (U,V,W)(U, V, W)(U,V,W)。前向传播假设 ttt 时刻的输入为 xtx_tx...
2019-12-14 22:15:21
2867
1
原创 并查集 Leetcode 547, 684, 721
题目列表Leetcode 547. 朋友圈Leetcode 684. 冗余连接Leetcode 721. 账户合并题目分析并查集介绍并查集需要两种操作：parent = {}def find(x): parent.setdefault(x, x) if parent[x] == x: return parent[x] parent[x] ...
2019-11-28 14:13:07
153
原创 栈和队列 Leetcode 20, 23, 42, 71, 85
题目列表Leetcode 20. 有效的括号Leetcode 23. 合并K个排序链表Leetcode 42. 接雨水Leetcode 71. 简化路径题目分析栈： 先进后出。队列： 先进先出。python 可以用列表模拟栈或者队列。栈stack = []stack.append(998) # 添加一个元素stack.pop() # 弹出栈顶的元素，即最后添加元...
2019-11-27 20:23:12
117
原创 支持向量机 SVM
文章目录支持向量机硬间隔SVM问题定义对偶问题序列最小化 SMO 算法支持向量核函数软间隔SVM支持向量机硬间隔SVM问题定义考虑下图二维的二分类问题，如果要寻找一条直线对数据进行分类，那么可以找到很多条符合条件的直线，如 H2,H3H_2, H_3H2,H3。在这些直线中，如何选择一个最优的直线呢？一个直观的感受是，一个较好的直线应该具有以下条件：直线能够对所有样本正确分类。...
2019-11-27 19:08:05
258
原创 滑动窗口 Leetcode 3,30,76,438,567,632
文章目录题目列表题目分析Leetcode 3. 无重复字符的最长子串Leetcode 76. 最小覆盖字串Leetcode 438. 找到字符串中所有字母异位词题目代码题目列表Leetcode 3. 无重复字符的最长子串Leetcode 30. 串联所有单词的子串 Leetcode 76. 最小覆盖字串leetcode 209. 长度最小的子数组leetcode 239. 滑动窗口最...
2019-11-24 23:09:37
132
原创 状态DP Leetcode 121,122,123,188,309,714
题目列表买卖股票的最佳时机买卖股票的最佳时机 II买卖股票的最佳时机 III买卖股票的最佳时机 IV最佳买卖股票时机含冷冻期买卖股票的最佳时机含手续费题目解析一个通用方法团灭 6 道股票问题题目代码买卖股票的最佳时机 IIclass Solution(object): def maxProfit(self, prices): """ ...
2019-11-24 16:32:23
166
原创 矩阵分析与应用 -- 向量空间
向量空间定义可以看出，一个向量空间中定义了向量的加法与数乘，并且满足加法和数乘的封闭性。加法和数乘均满足交换律和结合律。满足M5，并存在0元、负元。子空间子空间是向量空间的一个子集，并且其满足向量空间的定义。向量空间的子集必然已经满足了加法与数乘的交换律与结合律以及M5。实际上，只要子集满足加法与数乘的封闭性，其必然构成一个向量空间。（满足封闭性即存在0元、负元）。因此验证一个向量子空间...
2019-11-15 21:05:07
1041
原创 矩阵分析与应用 -- 矩阵代数
矩阵的加减乘略矩阵的逆定义： AB=BA=IAB = BA = IAB=BA=I，其中 A,BA, BA,B 均是方阵。唯一性证明：假设存在两个逆 AB1=I=AB2AB_1 = I = AB_2AB1=I=AB2，等式左边同时乘上 AAA 的逆 A−1A^{-1}A−1，那么 A−1AB1=A−1AB2A^{-1}AB_1 = A^{-1}AB_2A−1AB1=A−1AB2，...
2019-11-15 20:14:17
731
原创 矩阵分析与应用 -- 线性方程组
一个线性方程组有以下形式：该线性方程组有 mmm 个等式和 nnn 个未知数。线性方程组的解有三种情况：唯一解无解无穷解Gaussian Elimination高斯消去法（Gaussian Elimination）是一种求解线性方程组的方法。其方法如下，对线性方程组：选择一个主元（被圈中的2），消去位于该主元之下的所有的项。向下移一行并向右移一列，选择一个新的主...
2019-11-15 15:50:28
1373
原创 House Robber Leetcode 198,213,337
House RobberLeetcode题目描述你是一个专业的小偷，计划偷窃沿街的房屋。每间房内都藏有一定的现金，影响你偷窃的唯一制约因素就是相邻的房屋装有相互连通的防盗系统，如果两间相邻的房屋在同一晚上被小偷闯入，系统会自动报警。给定一个代表每个房屋存放金额的非负整数数组，计算你在不触动警报装置的情况下，能够偷窃到的最高金额。题目分析动态规划。令 ans[i]ans[i]ans[i]...
2019-11-05 23:22:03
138
原创 矩阵相乘最少计算次数问题
矩阵相乘最少计算次数题目描述不同的计算顺序的乘法计算次数是不一样的，如 (AB)C(AB)C(AB)C 和 A(BC)A(BC)A(BC)的乘法计算次数分别为 p0p1p2+p0p2p3p_0p_1p _2 + p_0p_2p_3p0p1p2+p0p2p3 和 p1p2p3+p0p1p3p_1p_2 p_3 + p_0p_1p_3p1p2p3+p0p1p3。nnn ...
2019-10-18 11:13:52
3839
原创 降维 ---- 主成分分析 (PCA)、奇异值分解 (SVD)
降维在机器学习或数据处理中，经常会碰到一些高维数据，而高维数据情形下经常出现样本稀疏、计算困难等问题，称之为“维度灾难”。对于一个高维数据数 D={X1,X2,...,XN}D = \{X_1, X_2, ..., X_N\}D={X1,X2,...,XN}，其中每条数据的对应维度为nnn，即Xi∈RnX_i\in R^{n}Xi∈Rn。降维的目的是找到一个映射函数fff，使得DDD中...
2019-09-26 23:46:20
588
原创 Boosting ---- 加法模型、前向分步、Gradient Boosting、AdaBoost、GBDT
加法模型加法模型 (additive model) 形式如下：f(x)=∑m=1Mβmb(x;γm)f(x) = \sum_{m=1}^{M}\beta_mb(x;\gamma_m)f(x)=m=1∑Mβmb(x;γm)其中，b(x;γm)b(x;\gamma_m)b(x;γm)是第mmm个基函数，γm\gamma_mγm是第mmm个基函数的模型参数，βm\beta_mβm是第m...
2019-09-23 00:53:32
2010
原创 集群部署HDFS, ZooKeeper, HBase,ElasticSearch, ElasticSearch-head插件
三个服务器：33.xxx.xxx.14733.xxx.xxx.14833.xxx.xxx.149以147为主节点（NameNode等）, 在147进行配置并发送至148, 149。部署时碰到的一些小问题：端口被占用版本不对应环境变量配置后忘记source在每台服务器上配置主机名, 添加hosts1. 设置主机名为sla147, sla148, sla149. 三台都要操...
2019-07-19 10:37:10
292
原创 Ubuntu 安装CNdeepdive环境
下载.zip安装包，解压后进入文件夹执行Install.sh文件，选择1，安装deepdive./install.sh安装过程中出现错误，gzip: stdin: not in gzip formattar: CHild returned status 1tar: Error is not recoverable : exiting now# Failed installa...
2018-11-23 20:09:27
1908
原创 Xshell连接有跳板机的服务器
    一、Xshell直连有跳板机的服务器    跳板机IP：221.0.111.x 端口号: 2020    服务器IP：10.100.2.x 端口号：22 
2018-11-15 11:58:39
9498
转载 关系抽取总结
转载地址链接CIPS青工委学术专栏第3期 | 基于深度学习的关系抽取 http://www.cipsc.org.cn/qngw/?p=890这里总结得很好出现的知乎的链接笔记部分是我写的，也有我的同学写的。知乎id: WhiteAndWhite(本人是北邮研究生，毕设的方向是实体关系抽取，在这里总结一下我看...
2018-11-12 20:50:30
984
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人