图像目标检测与跟踪学习笔记（二）

一. 课堂小结

这周师兄主要讲了线性回归、逻辑回归、knn、以及神经网络的相关知识，进行了详细的公式推导。

1.线性回归（Linear Regression）

        线性回归属于监督学习，因此方法和监督学习应该是一样的，先给定一个训练集，根据这个训练集学习出一个线性函数，然后测试这个函数训练的好不好（即此函数是否足够拟合训练集数据），挑选出最好的函数（cost function最小）即可。

公式推导：

岭回归：

        一般数据的样本数会大于特征的数量，但是如果数据的特征比样本点还多，此时是不能应用线性回归方法，需要引入岭回归的方法。此时损失函数可看做误差部分加上正则化部分：