机器学习课程笔记
基础知识点
-
supervised learning(Luns,监督学习,给标注的数据训练)
-
unspervised learning(无监督学习,无标注的数据,马尔科夫列)
-
semi-supervised learning(一些标注,一些不标注)
-
参数机器学习
优点:简单(结果易理解和解释),快速(从数据中学的很快),少量数据。
局限性:选择的函数对模型的形成有约束;复杂度有限,适合简单模型;想象与实践存在很多差别。 -
非参数机器学习算法
-
机器学习
-
算法常见例子
Logistic Regression
LDA(线性判别分析)
感知器
朴素贝叶斯
简单的神经网络 -
步长具体是什么意思?(步长过大/过小)
步长(学习率),用来控制算法每次移动的距离,在公式中用α表示:
为什么要选择合适的步长(step-size)?因为如果加一条规则——必须刚好到达目的值,如果步长较小,则总是能得到最优解,但是要迭代多次才能收敛;步长过大容易超过目标值,使之无法收敛或者会发散,导致永远达不到目标值。
-
代价函数:
课堂关键词—keywords
- parametric model
- K-Nearest Neighbor(k-NN)
k-NN for predication - Minkowski Distance
- Euclidean distance 欧几里得距离(r=2)
- Manhattan distance 曼哈顿距离(r=1)
- Edited Measure
- Bayed rule
Matlab学习
- 曲线:PLOT(X,Y,S),X,Y是坐标,S表示颜色、形状。
-
初等实例:
x=linspace(0,2*pi,30)
y=sin(x)
z=cos(x)
plot(x,y,‘r’,x,z,‘go’) //g是绿色,o是圆圈 -
中等实例:
ezplot(‘sin(x)’,[0,pi])
ezplot(‘cos(x)’,[0,2pi])
ezplot(‘cos(t)3’,'sin(t)3’,[0,2pi]) -
高级实例:
版本不一样,语法有些区别