牛客网机器学习笔记(1)

1. SVM常用核函数：1）线性核函数；2）多项式核函数；3）径向基函数；4）Sigmoid核函数。

2. 生成式模型和判别式模型：

1）直接学习得到条件概率分布P(Y|X)或决策函数Y=f(X)的方法是判别方法，比如：感知机、K近邻、决策树、逻辑回归（区分度训练是逻辑回归中的知识）、支持向量机、条件随机场、提升方法、神经网络等。

2）首先学习联合分布概率P(X,Y)，从而求得条件概率分布P(Y|X)的方法是生成方法，如朴素贝叶斯、隐马尔科夫模型、混合高斯模型、K近邻、深度信念网络是生成方法。可以采用非监督方法学习生成模型，如用EM方法学习朴素贝叶斯模型和隐马尔科夫模型。

3. 常用的文本分类的特征选择算法：