flashster的博客

原创 支持向量机 实验

支持向量机（Support Vector Machine, SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面。SVM使用铰链损失函数计算经验风险并在求解系统中加入了正则化项以优化结构风险，是一个具有稀疏性和稳健性的分类器。SVM可以通过核方法进行非线性分类，是常见的核学习方法之一。优势：1、适用性广泛2、可避免陷入局部最优解，具有较低的泛化误差3、高维空间有效4、可控制的过拟合劣势：1、计算复杂度高，训练时间较长2、参数选择敏感。

原创 逻辑回归 实验

优缺点1、优点（1）适合分类场景（2）计算代价不高，容易理解实现。（3）不用事先假设数据分布，这样避免了假设分布不准确所带来的问题。（4）不仅预测出类别，还可以得到近似概率预测。（5）目标函数任意阶可导。2、缺点（1）容易欠拟合，分类精度不高。（2）数据特征有缺失或者特征空间很大时表现效果并不好。

原创 朴素贝叶斯 实验

朴素贝叶斯法（Naive Bayes model）是基于贝叶斯定理与特征条件独立假设的分类方法。最为广泛的两种分类模型是决策树模型和朴素贝叶斯模型。和决策树模型相比，朴素贝叶斯分类器发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。同时，NBC模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。理论上，NBC模型与其他分类方法相比具有最小的误差率。优缺点优点。

原创 决策树 实验

决策树（Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。每个结点包含的样本集合根据属性测试的结果被划分到子结点中，根结点包含样本全集，从根结点到每个叶结点的路径对应了一个判定测试序列。它是一种监督学习，所谓监督学习就是给定一堆样本，每个样本都有一组属性和一个类别，这些类别是事先确定的，那么通过学习得到一个分类器，这个分类器能够对新出现的对象给出正确的分类。

原创 模型评估 实验

欠拟合是指模型在训练数据上没有获得充分小的误差．造成欠拟合的原因通常是模型学习能力过低，具体地说，就是模型参数过少或者结构过于简单，以至于无法学习到数据的内在结构和特征．例如，当用一个线性模型去拟合非线性数据时，会发生欠拟合．由此，可以通过增加模型参数和复杂度，提高学习能力，从而解决欠拟合问题．与欠拟合相对应的，是过度拟合．。机器学习的目的是学到隐含在数据背后的规律，对具有同一规律的学习集以外的数据，经过训练的网络也能给出合适的输出，该能力称为泛化能力。它们都可以有效地表示模型在不同阈值下的表现。

原创 k-NN 算法实验

K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：在特征空间中，如果一个样本附近的k个最近(即特征空间中最邻近)样本的大多数属于某一个类别，则该样本也属于这个类别。8--多数表决，选择出现频率最大的类别作为未知样本的类别。1--准备数据，分析数据，对数据进行预处理，归一化处理;7--统计前k个最近邻样本点所在类别出现的次数;3--计算未知样本和每个训练集样本的距离;6--选取距离最小的k个点;4--设定参数，k值;

原创 Anaconda安装