机器学习
lv_tianxiaomiao
这个作者很懒,什么都没留下…
展开
-
Minibach kmeans 方法
kmeans是一个基本的聚类方法,相信学过数据挖掘的都会懂这个算法不过kmeans在数据量大的情况下会导致计算时间过长的问题,所以自然而然的就会有相应的提高计算速度的方法出现其实跟随机梯度下降的方法类似,也就是minibatch方法,基本上都一样随机梯度下降是使用随机的样本来计算下降的梯度,而不是使用全局梯度这个好处就是计算快,坏处就是局原创 2017-03-13 13:11:55 · 1188 阅读 · 0 评论 -
图像的梯度计算
在很多图像操作中都会用到梯度的计算比如canny, sobel等边缘检测方法中但是图像并不是连续的函数,而都是一些离散的点,需要怎么求梯度呢, 这里就简单写一下假设图像以函数f(x, y)来表示, 其中(x, y)是图像中点的坐标g = f(x, y)函数g对x的偏导数 : f(x, y) - f(x-1, y)函数g对y的偏导数 : f(x原创 2017-06-05 13:00:19 · 2251 阅读 · 0 评论 -
共轭法解线性方程组-简介无推导
这里记录一下共轭梯度法,一直想了解这个算法但是网上搜了很多东西写的都没法看看来以后想学什么还是直接去看英文原版比较好这个共轭梯度最初的提出是用来解线性方程组的,这里先介绍解方程组的步骤求解方程组AX = b , 要求A是对称正定矩阵, 这要求够严苛的原文中给出了简洁明了的求解步骤:原创 2017-04-14 19:32:04 · 1737 阅读 · 0 评论 -
tranlating embedding 算法的一些理解
这个是NIPS上的一篇文章,2013年出品,但是文章写的不是特别清楚也或许是我自己想的太过复杂,到目前也不清楚优化过程,只能简单记录一下文章:Translating Embeddings for Modeling Multi-relational Data主要是对于一些知识库三元组的形式来使用,例如(百度, 用户, 老王), (百度, 总裁, 李彦宏)这样的情况,原创 2017-04-05 18:06:06 · 392 阅读 · 0 评论 -
LLE算法简介-工程实现
LLE算法是一种经典都降维算法,是在2000年提出的到现在也已经很多年了,两位大牛提出了LLE算法可以说是打开了一个领域后来的这些年围绕这个算法的论文估计要成百上千篇,该领域出现的硕博估计也是人数众多我这里只能简单记录一下这个LLE的工程实现,免得以后忘记假设有高维数据A, A中的点为A1, A2, A3.....An, A为K维矩阵目的是把A映射到d维空间中,也就是生原创 2017-03-28 14:21:42 · 3684 阅读 · 0 评论 -
矩阵分解中的损失函数
简单记录一下矩阵分解的损失函数矩阵分解的一般形式可以表示为V = WH其中V是m*n矩阵, W是m*r矩阵,H是r*n矩阵一般来说r会比较小,这样能达到矩阵分解的目的, 矩阵分解还有很多的实现方法比如特征值分解、奇异值分解、非负分解等等矩阵分解在求解的时候也是需要损失函数的损失函数主要有以下两种:欧式距原创 2017-03-16 14:37:27 · 3700 阅读 · 0 评论 -
关于network embeding 中的MDS算法——classical multidimensional scalling问题
这个是降维问题里的一个经典解法用现在比较流行的说法就是network embedding , 这个在图形数据流中研究广泛实际上也就是个降维的问题,比如社交网络,电话网络,通信网络等等,把维度降到低维然后用低维的向量来进行聚类分类等的操作,有时候会有更好的效果这个研究中MDS可以说是鼻祖级别的了, MDS又有很多种解法,这里就介绍比较经典的那个原创 2017-03-24 14:03:47 · 911 阅读 · 0 评论 -
LINE:Large-scale Information Network Embedding介绍
传统的network embedding的方法不太适用于大规模的网络运算因为像MDS, LLE这样的线性映射方法都是需要矩阵操作的凡是这样的操作,是比较难以实现分布式的处理,导致不能处理大的网络但是在2015年微软的唐建等人提出了另一种network embedding的方式,能够处理大规模数据这里就简单的记录一下这个LINE的处理方式,看有什么不一样的LINE这种方式原创 2017-04-07 14:45:40 · 7929 阅读 · 1 评论 -
PCA和矩阵
PCA就是主成分分析,这是个无监督的数据处理过程目的是把原有的数据降低到一个比较小的维度,便于后续的处理整个过程的理论是:原有m个样本,每个样本为n维向量,那么可组成一个n*m的矩阵S找到一个矩阵A,将上面的样本矩阵映射到A中,假设A为k*n的矩阵矩阵映射过程就是A矩阵左乘S矩阵得到矩阵E, 那么E为k*m的矩阵如果k原创 2017-03-14 17:09:45 · 999 阅读 · 0 评论 -
opencv 实现放射变换和投影变换
仿射变换可以实现一些平移、旋转、拉伸等操作, 拉伸的操作只能是平行四边形的TranslationMatrix = np.array([[1, 0.5, 0], [0, 1, 0]], dtype=np.float32)affImg = cv2.warpAffine(Img, TranslationMatrix, (int(I原创 2017-06-01 15:40:11 · 3202 阅读 · 0 评论