- 博客(5)
- 收藏
- 关注
RSS订阅原创 Dive Into Linear Regression
翻开每一本机器学习的书，第一章都是线性回归，相信接触过机器学习或学过统计学的都对线性回归有所了解，无非就是在一个空间上有多个样本点，目标寻求一条直线尽可能拟合所有样本点，换句话说就是最小化样本点的拟合值与实际值之间的误差。OK，那就从简单的解线性方程组开始吧！（可能会觉得过于简单，但后面一步步的推倒简直精彩！）为了阅读起来清晰，先把问题留在开头：1.怎么求解AX=bAX = bAX=b（A是...
2019-03-01 23:06:31
157
原创 梯度下降及其弊端
深夜博客又开始熬鸡汤了，这次鸡汤熬的是梯度下降！ 不废话了，直接主题什么是梯度下降 有这么一个比喻，现在有一座山，而你处在山顶要以最快的速度走到山脚，在步长固定的情况下，每一次应该选择往最峭的方向走(也就是坡度最大)。 参数优化的过程类似于下山的过程，初始化权值(weights)Θ是有一串随机数组成的向量，毫无疑问这时候预测值与真实值的loss(误差)会比较大...
2018-12-01 19:20:44
4339
原创 一般机器学习策略(General Machine Learning Strategy)
Outline for today:模型选择(Model)高偏差(high bias)，高反差(high variance)怎么解决构建机器学习模型的基本步骤误差分析(Error Analysics) 和 销蚀分析(Ablative analysics)Now, lets move on…Model Selection通常在解决问题之前并不清楚哪个模型的效果会最好，一般情况下会...
2018-11-17 23:25:38
575
原创 线性回归模型的概率解释
在广义线性模型中留了个小彩蛋，今天就把这个彩蛋补完啦！ 这篇博客主要解释了怎么去构造cost function(损失函数) 回顾线性模型 在广义线性模型中已经推导出线性回归模型的假设函数(hypothesis)： hΘ(X)=ΘTX+bhΘ(X)=ΘTX+bh_Θ(X) = Θ^TX + b 其中Θ=[θ1,θ2,……θm];X=[x1,x2,……,xm]Θ=[θ1,θ2,……θm];...
2018-09-11 19:30:30
2956
原创 机器学习之广义线性模型
深夜博客在今天开张啦 一年前接触了机器学习，纯属个人兴趣，还没想到要入坑，现在沉迷无法自拔了哈哈哈。好了也不说太多废话了，今天的主题是广义线性模型啦！这篇博客是参考斯坦福cs229 lecture1中的Generalize Linear Models（GLM）及加上自己的理解，博主是个new comer，欢迎大家一起交流学习哦 在解释广义线性模型之前，有必要回顾一下线性回归(Linear Re...
2018-09-04 23:31:05
20635
13
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人