Mankind的博客

学生一枚,欢迎勾搭~

【推荐系统】MF-OPC与MF-MPC

文章目录1.MF-OPC算法2.MF-MPC(附代码) 1.MF-OPC算法   在矩阵分解MF算法中,我们使用了SVD的思想,将user-item评分矩阵分解为user的潜在兴趣矩阵U和item的潜在特征矩阵V,但对于每个评分ruir_{ui}rui​的预测,我们只根据用户U和物品I的潜在特征进...

2019-03-20 10:52:15

阅读数 45

评论数 0

【推荐系统】SVD++

用户对物品的评分等操作实际上很少,但是用户的点击,关注,收藏,浏览时长等隐性行为却很多,能否将这些考虑进来作为我们的预测准则之一呢?   SVD++在RSVD的基础上,考虑了用户对物品的隐式行为。因为有时候一个用户的点击,收藏,浏览时长等隐式行为,我们是可以将其考虑进来的,它作为一种交互,也...

2019-03-19 15:31:13

阅读数 157

评论数 0

【推荐系统】交替最小二乘法ALS和RSVD

文章目录1.ALS算法2.RSVD算法 1.ALS算法   ALS(Alternating Least Square,交替最小二乘法)指使用最小二乘法的一种协同推荐算法。在UserCF和ItemCF中,我们需要计算用户-用户相似性矩阵/商品-商品相似性矩阵,对于大数据量的情况下很难处理好。那我...

2019-03-18 16:36:05

阅读数 49

评论数 0

【推荐系统】UserCF与ItemCF

电影-用户评分表 nun_unu​=no.users nmn_mnm​=no.movies r(i,j)=1r(i,j)=1r(i,j)=1 if user j has rated movie i y(i,j)=y^{(i,j)}=y(i,j)=rating given by user j...

2019-03-17 19:09:56

阅读数 171

评论数 0

【深度学习】深度残差网络ResNet

文章目录1 残差网络ResNet1.1要解决的问题1.2 残差网络结构1.3 捷径连接1.4 总结 1 残差网络ResNet 1.1要解决的问题   在传统CNN架构中,如果我们简单堆叠CNN的层数,深层CNN在训练集上面的表现反而要比浅层CNN在训练集上面的表现差的多。这明显是不合理的,因为浅层...

2019-03-16 10:28:00

阅读数 106

评论数 0

【自然语言处理】word2vec模型

N-gram P(w1,w2,w3,..,wn)=P(w1∣start)P(w2∣w1)...P(wn∣wn−1) P(w_1,w_2,w_3,..,w_n)=P(w_1|start)P(w_2|w_1)...P(w_n|w_{n-1}) P(w1​,w2​,w3​,..,wn​)=P(w1...

2019-03-15 23:06:39

阅读数 58

评论数 0

【深度学习】RNN与LSTM

文章目录循环神经网络RNN双向RNN 循环神经网络RNN   Recurrent Neural Network是一种有记忆力的神经网络。为什么说有记忆力呢?因为它的隐藏层输出会被保存起来,在下一次计算隐藏层输出的时候,会考虑到先前保存的值。   对于普通的BP神经网络,第k层的隐藏层的输出是...

2019-03-13 23:00:25

阅读数 53

评论数 0

【机器学习降维】Fisher判别分析LDA

思想是,类内小,类间大。 方法是,降维的角度出发,把p维的样本数据都投影到一个1维的方向,使得不同的样本在降维后的一维空间内具有“类内小,类间大”的结果,从而很好地将两类数据分开。   假设我们找到了最好的投影方向www,如果不对其做限定的话,这样的w可以有无数条,所以我们限定∣∣w∣∣=1|...

2019-03-03 10:52:28

阅读数 53

评论数 0

【机器学习算法】高斯判别分析GDA

高斯判别分析   高斯判别分析(Gaussian discriminative analysis )是一个较为直观的模型,属于生成模型的一种,采用一种软分类的思路,所谓软分类就是我们对一个样本决定它的类别时使用概率模型来决定,而不是直接由函数映射到某一类上。生成模型通过求解联合概率来求解P(y∣x...

2019-03-03 10:29:15

阅读数 62

评论数 0

【机器学习算法】牛顿法和拟牛顿法

文章目录1.牛顿法1.1 算法推导 1.牛顿法   统计学习方法有了具体形式后就转换为最优化问题。有时最优化问题存在解析解,可以由公式计算,多数情况下没有解析解,需要用数值计算的方法求解,牛顿法和拟牛顿法是求解无约束最优化问题的常用方法,收敛速度快。   牛顿法是迭代算法,每一步需要求解目标...

2019-02-27 15:35:51

阅读数 26

评论数 0

【机器学习总结】向量、矩阵求导公式

关于向量求导用到的公式实在是太多了…经常公式推着推着就被卡住,这里一次性做个总结吧。 文章目录0.引言1.向量对元素求导2.向量对向量求导3.矩阵对向量求导4.矩阵复合向量的求导 0.引言   正文中,元素使用字母a,b,c等表示,向量使用小写的x,y,zx,y,zx,y,z等表示,并且...

2019-02-27 13:23:10

阅读数 121

评论数 5

【机器学习算法】集成学习之Stacking,Bagging,AdaBoost

模型融合(aggregation models) 假设有n个模型,采用适当的模型融合方法,可以产生更好的结果。 选取可信度最大的模型(validation error最小) 让每个模型投票 让每个模型投票,但是给可信度大的模型更多的票数 加入预测的条件 uniform ...

2019-02-26 09:18:55

阅读数 171

评论数 0

【机器学习算法】最大熵模型

文章目录1.最大熵原理2.最大熵模型3.训练过程4.极大似然估计5.改进的尺度迭代法IIS 1.最大熵原理   在概率统计中,最大熵原理认为在所有可能的概率模型中,熵最大的模型是最好的模型。可以理解成在所有满足约束条件的模型集合中,选取熵最大的模型。由于熵满足不等式 0≤H(P)≤log⁡∣...

2019-02-23 20:42:11

阅读数 34

评论数 0

【机器学习算法】决策树模型ID3、C4.5、CART

  决策树是一种符合人类直观感觉的模型,比如有一棵决策树如下:   上图是某女青年在决定相亲对象是时会进行的一系列决策过程。首先看对方的年龄,如果大于30岁,直接pass,如果小于等于30岁,就再看对方长得如何,长得丑,就不见,长的好看的,再继续看它的收入……以此类推,最终可以得到一颗决策树...

2019-02-22 21:23:05

阅读数 76

评论数 0

【机器学习算法】感知机模型

1.感知机模型   感知机模型是一个二分类的模型,它通过形如y=wx+by=wx+by=wx+b的式子将实例x转换为类别,取+1和-1表示,从而将实例进行划分。它是简单并且容易实现的一个模型。   感知机模型主要用来将平面上线性可分的数据集进行划分,对于线性不可分的数据集,感知机无法收敛。 ...

2019-02-17 19:34:02

阅读数 71

评论数 0

【机器学习降维】拉普拉斯矩阵与谱聚类

文章目录1.拉普拉斯矩阵1.1 简介1.2 性质2.谱聚类3. 拉普拉斯特征映射Laplacian Eigenmaps 1.拉普拉斯矩阵 1.1 简介   拉普拉斯矩阵(Laplacian matrix),也称为基尔霍夫矩阵, 是表示图的一种矩阵。给定一个有n个顶点的图G=(V,E),其拉...

2019-01-31 16:56:28

阅读数 127

评论数 1

【机器学习算法推导】隐狄利克雷模型LDA

文章目录1.概率论基础1.1 二项分布1.2 多项式分布1.3 Gamma分布1.4 共轭分布1.5 Beta分布 1.概率论基础 1.1 二项分布   二项分布是n重伯努利分布,可以看做是将硬币抛n次,出现k次正面向上的概率,每次出现正面向上的概率为p,其概率密度公式为 P(X=k)=C...

2019-01-28 21:37:55

阅读数 89

评论数 1

【机器学习算法推导】隐马尔科夫模型HMM及相关算法

文章目录1.隐马尔可夫模型HMM1.1 简介1.2 定义1.3 实例1.4 生成观测序列1.5 HMM的三个基本问题2.评估观察序列概率2.1 暴力求法2.2 前向算法2.3 后向算法 1.隐马尔可夫模型HMM 1.1 简介   隐马尔科夫模型是与概率论密切相关的一个模型,隐马尔科夫模型(H...

2019-01-19 15:28:09

阅读数 124

评论数 1

【机器学习算法推导】高斯混合模型GMM与EM算法

高斯混合模型(GMM)   极大似然估计是一种应用很广泛的参数估计方法。在已有某个地区身高数据以及知道身高服从高斯分布的情况下,利用极大似然估计的方法可以估计出高斯分布μ,σ\mu,\sigmaμ,σ两个参数。   如果是多组数据,多个模型呢?获取现在我们有全国多个省份的身高数据,但并不知道它...

2019-01-16 17:15:57

阅读数 78

评论数 1

【机器学习】潜在语义分析LSA和PLSA

666

2019-01-15 15:31:54

阅读数 120

评论数 1

提示
确定要删除当前文章?
取消 删除
关闭
关闭