机器学习 笔记（一） Non-linear classification

刚刚学了Andrew Ng在Coursera上的Machine Learning公开课，感觉在学习的过程中，有一些疑惑，尤其是各种算法之间的联系，以及在模型训练中遇到的普遍性的注意点，这里做一个回顾和总结。

非线性分类问题（ Non-linear classification）

可以用逻辑回归算法Logistic regression algorithm来解决这个问题。
对于数据集(X,Y)，可视化如下图：

直接用罗辑回归算法只能找到线性分界线，做线性分类，如下：

那么，针对这种非线性的分类该如何做呢？
1. Feature mapping，创造更多的特征，如从2维变成28维（变成非线性的特征了）

2.获得costfunction
3. 获得gradient
4. 用fminunc学习参数theta
5. 调整正则参数 lambda (正则项用于防止过拟合overfitting)，尝试多个lambda值，以0和0.01开始，以2的倍数增加。