0.什么是机器学习
机器学习(machine learning)是目前信息技术中最激动人心的方向之一,通过学习机器学习我们可以深入了解人类的本质(复读机??)——人类学习的过程,可以在一定程度上帮助我们了解学习的机制,提升我们日常工作的效率.
机器学习的本质是通过不断学习大量知识求解一个具体问题,而这个大量的知识我们称之为训练集,再通过验证集进行评估学习(模型)的好坏,这类似于我们学习数学一样,在考试前疯狂的做题目进行训练,再通过考试验证自己是否掌握了这些知识。
1.线性回归
以房价数据为例
size | price |
---|---|
100 | 100000 |
200 | 240000 |
300 | 300000 |
影响房价的因素我们称之为特征(feature)
而房价我们称之为标签(target)
简化的房价求解方程如下:
f ( x ) = θ 0 + θ 1 ∗ x f(x) = \theta_0+\theta_1*x f(x)=θ0+θ1∗x
代价函数(cost function)又称损失函数,用于评价模型的好坏,用于计算feature
常见的代价函数有最小二乘
1.1最小二乘
真实值y,误差值 h θ ( x ) h_\theta(x) hθ(x),则误差为 ( y − h θ ( x ) ) 2 (y-h_\theta(x))^2 (y−hθ(x))2
Γ ( θ 0 , θ 1 ) = 1 2 m ∑ i = 1 m ( y i − h θ ( x i ) ) 2 \Gamma(\theta_0,\theta_1) = \frac{1}{2m}\sum_{i=1}^{m}(y^i-h_\theta(x^i))^2 Γ(θ0,θ1)=2m1i=1∑m(yi−hθ(xi))2
使该函数最小
相关系数
我们使用相关系数去衡量线性相关性的强弱
r x y = ∑ ( x i − x