wsjfc-CSDN博客

原创 FM

FM即因子分解机，主要是针对logistic回归的改进，FM通过不同因子间的高阶组合构造了新的特征，增加了模型的非线性。对于因子间的二阶组合，可以表示为：y=w1∗x1+w2∗x2+...+wn∗xn+∑i,jwi,j∗xi,jy=w_{1}*x_{1}+w_{2}*x_{2}+...+w_{n}*x_{n}+\sum_{i,j}w_{i,j}*x_{i,j}y=w1∗x1+w2∗x2...

2018-12-30 15:47:43 549

原创 deepfm

deepfm相比wide&deep模型有了几点改进，一是在宽部分新增加了fm项，即特征的二次交互；一是在deep模型中用采用fm方法嵌入得到的特征作为输入代替原始输入；再就是fm模型参数是直接放在模型中一起训练的，没有单独预训练的过程。从图2和图四中可以看出，传统的FM方法是直接做特征交叉，忽视field，直接找到vi和vj使得vi和vj的乘积作为交叉特征的权重系数。而这篇文章中，是...

2018-12-30 15:45:20 149

原创 content based recommendation

基于内容的推荐一般多用于文本推荐中，比如新闻推荐。本质上就是根据文本的信息来预测用户是否感兴趣。一种方法是根据文本的内容和用户的个人兴趣信息计算DICE DISTANCE，即：2×∣keywords(bi)⋂keywords(bj)∣∣keywords(bi)∣+∣keywords(bj)∣\frac{2\times |keywords(b_{i})\bigcap keywords(b_{j})...

2018-12-30 15:42:15 346 1

原创特征选择

卡方检验卡方检验是检验两个事件是否独立的标准统计方法。应用于特征选择中就是通过卡方检验分析label和feature之间是否独立，如果独立，说明label不依赖该feature则可以把该feature剔除掉。χ2=(A+B+C+D)(AD−BC)2(A+B)(A+C)(B+D)(C+D)\chi^{2}=\frac{(A+B+C+D)(AD-BC)^{2}}{(A+B)(A+C)(B+D)(...

2018-12-30 15:41:28 201

原创 slope one predictors

slope one本质上就是一个线性模型 [latex]f(x)=x+b[/latex]，核心思想就是利用其他用户对其他物品的评分和目标物品的评分间的差值作为依据，来推测出目标用户对目标物品的评分。两个物品i和j之间的平均评分偏差可以表示为：devj,i=∑(uj,ui∈Sj,i(R)uj−ui∣Sj,i(R)∣dev_{j,i}=\sum_{(u_{j},u_{i}\in S_{j,i}(R...

2018-12-30 15:38:07 216

原创概率推荐模型

概率推荐模型实质上就是采用navie bayes的方法计算概率，根据bayes理论，有：P(Y∣X)=P(X∣Y)×P(Y)P(X)P(Y|X)=\frac{P(X|Y)\times P(Y)}{P(X)}P(Y∣X)=P(X)P(X∣Y)×P(Y)假设特征是条件独立的，则有：P(Y∣X)=∏i=1dP(Xi∣Y)×P(Y)P(X)P(Y|X)=\frac{\prod_{i=1}^{d}P...

2018-12-30 15:37:03 516

原创 SVD和矩阵分解

基于用户和基于物品的协同过滤属于 memory- based 方法，在计算时把评分矩阵加载到内存中，直接计算相似度进而计算预测评分。而矩阵分解的方法则是model-based 的方法，在线下直接计算出用户和物品的稠密向量表示，线上则直接用该稠密向量表示计算出预测评分。SVD分解是奇异值分解，只有满秩的方阵可以做特征值分解，而任何实矩阵都可以做奇异值分解。公式可以表述如下：A=U∑VTA=U\s...

2018-12-30 15:35:07 2582

原创协同过滤

协同过滤是在推荐系统召回阶段常用的算法。只用到了用户的行为信息，而没有考虑到用户和推荐内容的具体信息。协同过滤相关的计算是围绕user-item矩阵展开的，矩阵中的每个元素代表用户对该物品的评分或是否有点击这个行为。基于用户的协同过滤基于用户的协同过滤本质上是找到和待推荐用户相似的用户，根据相似用户对某物品的评分来确定待推荐的用户对该物品的评分。一般评价用户之间相似度采用person相关系...

2018-12-30 15:30:15 255

wsjfc的博客