人工智能知识点（第十周）

感知机的回归分析方法

    回归算法：回归算法有两个重要的子类：即线性回归和逻辑回归；线性回归就是如何拟合出一条直线最佳匹配所有的数据，逻辑回归是一种与线性回归非常类似的算法。线性回归处理的问题类型与逻辑回归不一致：线性回归处理的是数值问题，预测数字。逻辑回归属于分类算法，预测类别。SVM算法是逻辑回归算法的强化：通过给予逻辑回归算法更严格的优化条件，支持向量机算法可以获得比逻辑回归更好的分类界线。既可以保持计算效率，又可以获得非常好的分类效果。聚类算法是无监督学习算法中最典型的代表；就是计算种群中的距离，根据距离的远近将数据划分为多个族群；最典型的代表就是K-Means算法。降维算法也是一种无监督学习算法，主要特征是将数据从高维降低到低维。维度表示数据的 特征量的大小。通过降维算法，可以去除冗余信息，可以压缩数据与提升机器学习效率。

（1）感知机基本理论：用一条曲线去尽量准的拟合这些数据，如果有新的输入过来，我们可以在将曲线上这个点的对应值返回。应用步骤：根据客观现象的定性认识确定变量之间是否存在相关关系；估计相关关系的大概类型（经验）；绘制散点图，推测回归模型；回归分析并拟合回归模型；检验回归模型可信度；应用模型进行预测

（2）损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。损失函数：误分类点的总数。

（3）数据集：学习样本数据集，通过匹配一些参数来建立一个分类器。建立一种分类的方式，主要是用来训练模型的。作用：估计模型。测试集：测试训练好的模型的分辨能力（识别率）。作用：检验最终选择最优的模型的性能如何。验证集：对学习出来的模型，调整分类器的参数，如在神经网络中选择隐藏单元数。验证集还用来确定网络结构或者控制模型复杂程度的参数。作用：确定网络结构或者控制模型复杂程度的参数。