机器学习(1)-西瓜书-线性回归

前言

     老实说，西瓜书作为新入门的同学来说，并不是很好的一个选择，因为西瓜书以总结的方式介绍了各种机器学习的模型和算法，公式推导以及讲解过程很多地方都是一笔带过，直接给出结论，不利于新手入门，刚入门的还是去看网易公开课Ng的机器学习视频。对于一些有一定机器学习基础的同学来说，这本书看起来效果更好。同时，在看西瓜书的时候并不是一定要按照顺序看， 可以根据自己的需求，找合适的内容看。

  这篇blog主要介绍西瓜书里线性模型的线性回归（linear regression）。线性回归是机器学习里面最基本的模型之一，它主要的优点是解释性强，模型简单，效果不错。

1.基本形式

现在给定一个数据集，包含n个样本，x为属性表述的一个向量，维数为d，y为在向量x