人工智能相关（二）

17.CART 算法

全称为分类和回归树，既可以做分类任务，也可以做回归任务，但生成的树必须是二叉树。CART 使用Gini指数作为选择特征的准则。Gini指数表示集合的不确定性，或者是不纯度。基尼指数越大，集合不确定性越高，不纯度也越大。

18.回归树的构造

回归树构造的整体流程与分类树类似，不过回归树在每个结点(不一定是叶子结点)都会得到一个预测值，该预测值等于属于该节点的所有样本属性的平均值。

19.朴素贝叶斯

利用贝叶斯公式，计算可选项的后验概率，选择后验概率最大的类为分类标签。主要应用有文本分类、垃圾文本过滤，情感判别， 多分类实时预测等。

20.贝叶斯网络

是一个有向无环图模型，每一个节点代表一个变量，节点间的联系组成了贝叶斯网络语义，此外还包括节点与节点点的条件概率表(CPT)，也就是一系列概率值。

21.马尔可夫模型

将贝叶斯网络退化成线性链的方式，则得到马尔可夫模型。到目前为止，它一直被认为是实现快速精确的语音识别系统的最成功的方法。因为每个结点都是随机变量，将其看成各个时刻的相关变化，以随机过程的视角，则可以看成是马尔可夫过程。

22.隐马尔可夫模型

是一种统计模型，用来描述一个含有隐含未知参数的马尔可夫过程。 它是结构最简单的动态贝叶斯网，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。

23.支持向量机

属于监督式的二分类算法。当一个分类问题，数据是线性可分时，只要将线的位置放在让小球离线的距离最大化的位置即可，寻找这个最大间隔的过程，就叫做最优化。一般的数据是线性不可分的，可以通过核函数，将数据从二维映射到高位，通过超平面将数据切分。

24.特征缩放

当特征数值差异过大时，此时梯度下降的过程曲折又耗时。这个时候需要将特征量化到同一区间，量化的方式主要有standardization和normalization，经过特征缩放后，梯度下降过程更快，性能得到提升。

25.支持向量机的使用建议

(1)当特征维度较高，而样本规模较小时，不宜使用核函数，否则容易引起过拟合。
(2)当特征维度较低，而样本规模足够大时，考虑使用高斯核函数。不过在使用高斯核函数前，需要进行特征缩放。
另外，当核函数的参数标准差较大时，特征较为平缓。即各个样本的特征差异变小，此时会造成欠拟合(高偏差，低方差)

26.K-Means 算法

• 属于非监督式的聚类算法。对于没有标记的数据集，能够自动的将相同元素分为紧密关系的簇，这就是聚类算法。
• 算法步骤：根据设定的聚类数K，随机的选择R个聚类中心，评估各个样本到聚类中心的距离，如果样本距离第i个聚类中心更近，则认为其属于第i膜。计算每个簇的样本平均位置，将聚类中心移到该位置。重复以上步骤，知道聚类中心的位置不再改变。对于聚类数的确定一种应用肘部法则。
• 常规的 K均值只能收敛到局部最小，这里介绍一种二分 K-mearn，先不确定 K 的数值，看成一个簇，一分为二，计算每个簇的失真函数，再对误差大的函数进行划分。

27.PCA 降维

• 降维是指将原高维空间中的数据点映射到低维度的空间中。因为高维特征的数目巨大，距离计算困难，分类器的性能会随着特征数的增加而下降；减少高维的冗余信息所造成的误差，可以提高识别的精度。
• 而主成分分析算法(PCA)能从冗余特征中提取主要成分，在不太损失模型质量的情况下，提升了模型训练速度。

28.协同过滤算法

是一种基于近邻的推荐算法，根据用户在物品上的行为找到物品或用户的“近邻”，即用户在物品上的行为–>同类用户/同一用户可能喜欢的不同物品。故协同过滤可分为：基于用户的协同过滤和基于物品的协同过滤，但基于物品的协同过滤用的更多。

29.什么是不确定性推理?为什么要采用不确定性推理?

• 不确定性推理是指那种建立在不确定性知识和证据的基础上的拉理，它实际上是一种从不确定的初始证据出发，通过运用不确定性知识。最终推出既保持一定程度的不确定性，又是合理和基本合理的结论的推理过程。
• 一个人工智能系统，由于知识本身的不精确和不完全，采用标准逻辑意义下的推理方法难以达到解决问题的目的。对于一个智能系统来说，知识库是其核心。在这个知识库中，往往大量包含模糊性、随机性、不可靠性或不知道等不确定性因素的知识。为了解决这种条件下的推理计算问题，不确定性推理方法应运而生。

30.不确定性推理可以分为哪几种类型?

可分为形式化方法和非形式化方法。

• 形式化方法有逻辑法、新计算法和新概串法。逻辑法是非数值方法，采用多值逻辑和非单调逻辑来处理不确定性。新计算法认为概率法不足以描述不确定性,从而出现了证据理论(也叫Dempster-Shafter.D-S 方法),确定性方法(CF法)以及模糊逻辑方法。新概率法试图在传统的概率论框架内.采用新的计算方法以适应不确定。
• 非形式化方法是指启发性方法，对不确定性没有给出明确概念。