机器学习方法分类总结

机器学习方法分类总结

这篇文章只是一个类似于知识概括的文章，主要作用是帮忙梳理：

1) 分类

• 贝叶斯模型（Bayesian Mode）
  - 朴素贝叶斯算法（Naive Bayesian Mode）
  - 平均单依赖估计（AveragedOne-Dependence Estimators， AODE）
  - Bayesian Belief Network（BBN）
• K-邻近 （k-Nearest Neighbor，KNN）
• 支持向量机（SupportVector Machine， SVM）
• 径向基网络（RBF network）之BP监督训练
• 决策树（Decision Trees）
  - 分类及回归树（ClassificationAnd Regression Tree， CART）
  - ID3，C4.5，CART
  - 卡方自动交互检测法（chi-squared automatic interaction detector, CHAID）
  - 决策树桩，单层决策树（Decision Stump）
  - 多元自适应回归（MARS）
  - 梯度提升树算法，增强树（GBM）
• 神经网络（Neural Networks）
• 集成算法
  - Boosting
  - Bootstrapped Aggregation（Bagging）
  - AdaBoost
  - 堆叠泛化（Stacked Generalization， Blending）
  - 随机森林（Random Forest）

2) 回归

• 线性回归（Linear Regression）
• 最小二乘法（OrdinaryLeast Square）
• 逻辑回归 （Logistic Regression）
• 多项式回归（Polynomial Regression）
• 逐步回归（Stepwise Regression） （缩减方法）
• 岭回归（Ridge Regression）L2
• 稀疏约束（Least Absolute Shrinkage and Selection Operator）（LASSO）L1
• 弹性网络（Elastic Net）
• 多元自适应回归样条（MultivariateAdaptive Regression Splines）
• 本地散点平滑估计（Locally Estimated Scatterplot Smoothing）

3) 聚类

• K-Means（K均值）聚类
• 期望最大化算法（Expectation Maximization， EM）
• 均值漂移聚类（Mean-Shift Clustering）
• 基于密度的聚类（DBSCAN）
• 凝聚层次聚类（Hierarchical Clustering）
• 图团体检测(Graph Community Detection)
• 学习矢量量化（Learning Vector Quantization， LVQ）
• 自组织映射算法（Self-Organizing Map ， SOM）

4) 降维

• 主成份分析（PrincipleComponent Analysis， PCA）
• 拉普拉斯特征映射（Laplacian Eigenmaps，LE）
• 局部保留投影（Locality Preserving Projections，LPP）
• 多维尺度缩放（Multi-Dimensional Scaling, MDS）
• 等度量映射（Isometric Mapping，Isomap)
• 局部线性嵌入（Locally Linear Embedding，LLE）
• 线性判别分析（Linear Discriminant Analysis，LDA）
• 偏最小二乘回归（Partial Least Square Regression，PLS）

---

关联规则分析

• Apriori算法
• Eclat算法

人工神经网络

• 感知器神经网络（PerceptronNeural Network）
• 反向传递（Back Propagation）
• Hopfield网络
• 自组织映射（Self-OrganizingMap, SOM）
• 学习矢量量化（Learning Vector Quantization， LVQ）；

深度学习

• 受限波尔兹曼机（RestrictedBoltzmann Machine， RBN）
• Deep Belief Networks（DBN）
• 卷积网络（Convolutional Network）
• 堆栈式自动编码器（Stacked Auto-encoders）

本文纯属个人笔记。