绪论(1)--周志华机器学习学习笔记与课后习题

最新推荐文章于 2022-10-21 21:18:31 发布

行路南

最新推荐文章于 2022-10-21 21:18:31 发布

阅读量893

点赞数

分类专栏：机器学习文章标签：机器学习

本文链接：https://blog.csdn.net/u010414589/article/details/53192143

版权

机器学习专栏收录该内容

19 篇文章 0 订阅

订阅专栏

0、写在前面的话

目前一段时间打算利用业务时间学习周志华版《机器学习》，周老师在机器学习界的实力很强，所以这本书不仅仅是一本介绍理论和算法的书籍，更是周老师关于机器学习相关问题的心得体会。如果你没有相关基础，学习一遍也会对机器学习有一个整体框架的了解；若你有了一定基础甚至怀着一些迷茫，读这本书更会有恍然大悟、原来如此之感触。在后续章节中，周老师基于篇幅的考虑有些算法不够详尽，我可能会参考李航老师的《统计学习方法》等书再做进一步补充。
总之，我愿与大家一起深入学习这本书，同时有三点说明：
1、内容会尽可能详尽而不繁琐，目录尽可能清晰明确
2、对于涉及到的概念、算法、课后习题，有留言的我会积极交流
3、白天还有其他事情要做，但我会尽力定期更新，也欢迎大家监督

1、机器学习

机器学习这门学科，是致力于研究如何通过计算的手段，利用经验改变自身的性能。在计算机系统中，经验以数据的形式存在，机器学习所研究的内容是关于在计算机上从数据中产生模型的算法，即是学习算法。有了学习算法，我们把经验数据提供给它，它能够基于这些数据产生模型，在面临一个新的情况时，模型会给我们提供相应的判断。

2、特征、记录与数据集

记录是关于一个事件或者对象的描述，也称之为一个样本；
数据集是由一条条记录组合，是记录的集合；
反映事件或者对象在某一个方面的表现或性质的事项，称之为属性或者特征；
属性上的取值称为属性值或者特征值；
属性组成的空间，称之为属性空间或特征空间；

编号	色泽	根蒂	敲声	西瓜类型
1	青绿	蜷缩	浊响	是
2	乌黑	蜷缩	浊响	是
3	青绿	硬挺	清脆	否
4	乌黑	稍蜷	沉闷	否

在上面的表中，每一条均为描述西瓜的一条样本；这四条记录的集合称之为数据集；其中描述西瓜表现的属性分别有色泽、根蒂和敲声；在每一条样本中均有对应的属性值，比如第一条中的青绿、蜷缩和浊响；将这三个特征作为三个坐标轴，则形成一个用于描述西瓜的三维空间，每个西瓜均可在这个空间中找到自己的坐标位置。

一般地，令 $D=\{x_1,x_2,...,x_n\}$ 表示包含 $m$ 个样本的数据集，每个样本由 $d$ 个属性描述（例如上面西瓜是由三个属性描述）则每个样本 $x_1 = \{x_{i1},x_{i2},...,x_{id} \}$ 是 $d$ 维样本空间中的一个向量。上面的表述通俗的意思即是一个数据集有 $m$ 个样本，每个样本包含 d <script type="math/tex" id="MathJax-Element-7">d</script>个属性。