台大机器学习基石课程之机器学习基本原理和概念

前段时间在网上看到了coursera公开课台大机器学习基石课程，比较全面而且清晰地将机器学习所需的基本知识、理论基础给与了讲解。foundation中有几个比较重要的概念和思想，先进行一下回顾，然后开启对后续技法课程的学习和总结。

1. VC dimension（VC维，非常重要的概念）

能够shutter 二分类问题的上限。也是衡量模型复杂度的工具（类似自由度的概念）。之所以这个概念比较重要是它能够解释为什么机器能够学习。
1），以概率统计中常用的手段：用sample来估计整体，机器学习也是如此，就是说，通过对采样得到的sample进行学习，能够用来对out of sample进行估计、处理、预测、分类等等。所谓的学习就是从一堆Hypothesis（set）中，利用sample，通过learning algorithm赛选出合适的hypothesis - g的过程。
2）塞选的标准通常是各种类型的error（0/1error，square error...），这些误差是用来调节W权重，最后得到比较小Error （in sample）的hypothesis（g）。
3）这个g只是在in sample上表现比较好，其实在in sample上表现好并没什么卵用，因为如果你只是处理in sample数据的话就没有必要进行机器学习，之所以使用机器学习，就是因为不可能得到所有的data，你只能