机器学习
Zoe____
这个作者很懒,什么都没留下…
展开
-
线性回归
线性模型是最简单的模型,但是往往却也是比较有效的模型。线性模型形式简单,建模容易,常作为机器学习的首选模型,因为其蕴含机器学习的重要基本思想。建模:给定数据集为D={(x1,y1),(x2,y2),…,(xn,yn)},其中xi={xi1,xi2,…,xim}, yi∈R,建立模型如下:yi=hi(θ)=ΘTxi+ϵiy^i=h_i(\theta)=\Theta^T x^i+\epsilon^i原创 2016-09-11 20:01:33 · 494 阅读 · 0 评论 -
Label propagation
label propagation(标签传播)label propagation 原理label propagation是一种半监督学习算法,主要基于三种假设:- 平滑假设: 相似的数据具有相同的label - 聚类假设: 处于同一聚类下的数据具有相同的label - 流形假设: 处于同一流行结构下的数据具有相同的label步骤: 1.构建相似矩阵 2. 标签传播 构建相似矩阵 标签传播算原创 2017-11-08 15:51:04 · 1131 阅读 · 0 评论 -
混合专家系统(MoE)
混合专家系统(Mixture of Experts)原理:混合专家系统(MoE)是一种神经网络,也属于一种combine的模型。适用于数据集中的数据产生方式不同。不同于一般的神经网络的是它根据数据进行分离训练多个模型,各个模型被称为专家,而门控模块用于选择使用哪个专家,模型的实际输出为各个模型的输出与门控模型的权重组合。各个专家模型可采用不同的函数(各种线性或非线性函数)。混合专家系统就是将多个模型原创 2017-11-09 12:10:40 · 25655 阅读 · 1 评论 -
推荐-FM/FFM/Deep_FM
目录FMFM原理FM优点FFMFFM优缺点DeepFM参考文献FMFM常用于CTR估计,能够处理稀疏数据下的特征组合的问题。FM原理一般的线性模型不考虑特征之间的关系,公式定义如下: y=w0+∑i=1nxiwiy=w_{0}+\sum_{i=1}^{n}x_{i}w_{i}y=w0+∑i=1nxiwi …(1) 为了表达特征之间的相关性,利用多项式函数,定义如下:y=w...原创 2019-03-19 16:43:01 · 637 阅读 · 0 评论