Machine Learning
念来过倒蛋笨
这个作者很懒,什么都没留下…
展开
-
EM算法
Maximum Likelihood Estimation Maximum Likelihood Estimation(MLE)是要选择一个最佳参数θ*,使得从训练集中观察到和情况出现的概率最大。即模型: 举例来说明。如下图 一个小黑球沿着一个三角形的木桩滚入杯子a或b中,可建立一个概率模型,由于是二值的,设服从Bernoulli分布,概率密度函数为: p是k=0的概率,也是我转载 2014-05-12 15:52:07 · 640 阅读 · 0 评论 -
贝叶斯平滑
1. 背景介绍 广告形式: 互联网广告可以分为以下三种: 1)展示广告(display ad) 2)搜索广告(sponsored search ad) 3)上下文广告(contextual ad) 竞价模式: 对于在线广告,主要有以下几种竞价模式: 1)pay-per-impression(按展示付费):广告商按照广告被展示的次数付费,这是转载 2017-11-26 15:56:27 · 2307 阅读 · 0 评论 -
FTRL
1. 背景介绍 最优化求解问题可能是我们在工作中遇到的最多的一类问题了:从已有的数据中提炼出最适合的模型参数,从而对未知的数据进行预测。当我们面对高维高数据量的场景时,常见的批量处理的方式已经显得力不从心,需要有在线处理的方法来解决此类问题。 在CTR预估中,经常会用到经典的逻辑回归(LR),而对LR的各维度参数进行估计的时候会用到最优化算法,常见的比如梯度下降(Gradient De转载 2017-11-26 16:05:51 · 419 阅读 · 0 评论 -
LDA主题模型
(一)LDA作用 传统判断两个文档相似性的方法是通过查看两个文档共同出现的单词的多少,如TF-IDF等,这种方法没有考虑到文字背后的语义关联,可能在两个文档共同出现的单词很少甚至没有,但两个文档是相似的。 举个例子,有两个句子分别如下: “乔布斯离我们而去了。” “苹果价格会不会转载 2017-11-26 16:20:26 · 462 阅读 · 0 评论 -
随笔
GLM采用期望估计预测输出的方式可以推导出线性回归、逻辑回归的表达式,而最大似然估计是用来求损失函数原创 2018-04-13 18:05:37 · 156 阅读 · 0 评论