PRML读书会第一章 Introduction(机器学习基本概念、学习理论、模型选择、维灾等)

主讲人 常象宇

大家好，我是likrain，本来我和网神说的是我可以作为机动，大家不想讲哪里我可以试试，结果大家不想讲第一章。估计都是大神觉得第一章比较简单，所以就由我来吧。我的背景是统计与数学，稍懂些计算机，大家以后有问题可以讨论。
  今天我们来讲一下PRML第一章，这一章的内容是基于一些简单的例子对于机器学习中的基本概念给与介绍。这是为后续章节的介绍给一个铺垫。我今天讲的内容包括以下几个部分：

				
把书上的知识点做了个总结大概。
首先我们来看一下，我个人理解的机器学习的定义：

机器学习的分类有很多种，一般是基于两点：数据类型与学习过程。
是否有标签->监督（分类，回归），半监督，无监督（聚类）；
学习过程不同->主动学习，强化学习，转导学习。

============================讨论=================================

这里我可以稍微停一下
是否有问题？
planktonli(1027753147) 19:01:30 
这里讲的要更清楚些哦，learning的区别啊
丛(373242125) 19:01:36 

HX(458728037) 19:01:57 
学习过程不同->主动学习，强化学习，转导学习是怎么分的呢？
likrain(261146056) 19:02:22 
提问结束否？
大家如果没问题了我就开始回答
planktonli(1027753147) 19:02:50 

likrain(261146056) 19:02:59 
第一问题@planktonli我不是很清楚哈哈
这样大家如果问题都说完了，我就开始解释，确定可以开始了？
丛(373242125) 19:04:38 
 无监督学习,只能用于类聚?
网神(66707180) 19:04:43 
如果回答的内容在接下来的讲课计划里，可以先不回答。
likrain(261146056) 19:05:32 
第一问题@planktonli我没明白他想问什么，
第二个@丛：特指我有N个样本，用x_n,y_n代表其中一个
第三个@HX：学习过程可以想象成一种学习机制，这种机制是模拟人类的学习或者想法的一种过程
然后，我对于第三个问题举个例子
planktonli(1027753147) 19:06:42 
第二个@丛: 无监督学习包括: clustering, dimension reduction, density estimization
likrain(261146056) 19:07:02 
例如转导学习：大家可以这样想象，我们对于一个学习过程总是希望得到一个规则，数学上与形式上，而我们人经常判断不是这样的
你是看到了一些苹果之后，给你了个苹果你去判断，你不是个机器需要有个函数规则，而是通过你看到的以前的苹果直接判断苹果，基于这种想法的学习过程叫做转导学习，例如你可以google, trunsductive SVM
planktonli(1027753147) 19:08:33 
inductive learning是和tranductive learning区别的
likrain(261146056) 19:08:36 
我先发言到这里，这个。。。。区别很明显
planktonli(1027753147) 19:09:09 
我补充下，inductive learning主要用于 semi-supervised leraning
likrain(261146056) 19:09:26 
不好意思我看错了哈哈，我理解这是一个东西，然后换了个词，不知道其他人意见

============================讨论结束=============================

继续
学习理论：一套标准的框架，用统计学，概率论，数学的严格化语言去解释（收敛速率与泛化性能）或者比较不同学习方法与模型的性能。其中最经典的例子：统计学习理论。
统计学习理论的目标：去研究所谓的泛化误差界（Generalization Bounds）

这是一些理论涉及到的topic，这里面涉及到的数学技巧与数理统计工具比较多&#x