2015年10月_Lyndon_zheng

12月 11月 10月 04月 01月

原创机器学习笔记（4）——朴素贝叶斯

Naive Bayes朴素贝叶斯网络是贝叶斯分类器的一种，贝叶斯分类算法是统计学的一种分类方法，利用概率论和统计知识进行分类。其原理是利用贝叶斯公式根据样本的先验概率来计算其后验概率（即样本属于某一类的概率），然后选择具有最大后验概率的类作为该对象所属的类别。朴素贝叶斯分类以概率论为基础，有坚实的数学基础，以及稳定的分类效率，其优点是算法简单，在数据较少的情况下仍然准确。理论上朴素贝叶斯分类有最小的

2015-10-22 22:47:35 1469

原创机器学习笔记（3）——K近邻法

K-nearest neighbor（KNN）kk近邻法一种基本的分类与回归方法，原理和实现都比较直观。其输入为样本的特征向量，输出为样本的类别，可以进行多类别分类。k近邻法是通过统计与未知样本最近点的训练样本的类别来投票决定未知样本的类别，不具有显式的学习过程。kk近邻法主要包含有kk值选择，距离度量以及分类决策规则三部分。1.kk近邻模型距离度量特征空间中两个样本的距离是两个样本的相似程度的反映

2015-10-19 15:09:29 1174

原创机器学习笔记（2）——感知机

Perceptron（感知机）感知机是二分类的线性分类器,属于判别模型。由Rosenblatt在1957年提出，是神经网络和支持向量机（SVM）的基础。感知机本身相当于神经网络中的一个神经元，只能进行简单的线性分类。感知机的学习目标是通过训练数据得到线性划分的超平面。为此，引入基于分类误差的损失函数，利用梯度下降法对损失函数进行极小化，来求解感知机模型。

2015-10-17 14:31:49 1219