机器学习认识

机器学习定义

对于给定的任务T，在合理的性能度量方案P的前提下，某计算机可以自主的学习任务T的经验E；随着提供合适，优质，大量的经验E，改程序对任务T的性能逐步提高。其中不要对大数据等做细致的区分。

机器学习流程

对于给定数据集（输入实例x的特征向量）

$$x=(x^{(1)},x^{(2)},...,x^{(n)})^T$$ ,注意 $x^{(i)}$表示x的第i个特征向量，那么对数据集中不同实例 $x_(i)$进行训练可以得到参数 $\theta$的 $f(\theta)$，之后通过学习 $L(w)=1/2\sum_{i=1}^n(f(\theta)-y_i)^2$St.min $L(w)$求得 $\theta$

机器学习关注要点

• 明确input和output的形式
• 算法的模型假设前提（input的假设形式如高斯分布，概率事件）
• 建模过程，设计目标，是优化问题（局部最优解）还是明确求解（全局最优）
• 求解过程：如何求解（梯度下降，最大似然）
• 是否可以求出解（如线性回归是否有解析解）
• 以及相应的优化方法思路