R语言笔记之数据科学算法总结

1.回归算法(Regression)
a.一般最小二乘回归（Ordinary Least Squares）
b.逻辑回归(Logistic Regression)
c.自适应样条回归（Multivariate Adaptive Regression Splines,MARS）
d.局部估计散点图平滑回归(Locally Estimated Scatterplot Smoothing,LOESS)
2.基于相似性的模型（Instance-based Algorithms)
a.K近邻模型（K-Nearest Neighbour[KNN])
b.学习向量量化（Learning Vector Quantization[LVQ]）
c.自组织映射(Self-Organizing Map[SOM])
3.特征选择算法（Feature Selection Algorithms)
a.过滤法（filter)
b.绕射法（wrapper)
c.内嵌法（embedded）
4.收缩方法（Regularization Methods)
a.岭回归（K-Nearest Neighbour,KNN)
b.LASSO回归（Least Absolute Sprinkage and Selection Operator)
c.弹性网络（Elastic Net)
5.树模型
a.分类和回归树(Classification and Regression Tree,CART)
b.ID3(Iterative Dichotomiser 3)
c.C4.5
d.随机森林（Random Forest)
e.随机助推（Gradient Boosting Machines,GBM)
6.贝叶斯模型（Bayesian)
a.朴素贝叶斯
b.平均单依赖估计（AODE）
c.贝叶斯网络（BBN)
7.核函数算法
a.支持向量机
b.径向基函数
c.线性判别分析
8.聚类算法
a.K-Means
b.分层聚类
9.关联法则
a.Apriori算法
b.Eclat算法
10.人工神经网络
a.感知器神经网络
b.反向传递
c.Hopfield网络
d.自组织映射
e.学习矢量化
11.深度学习
a.受限波尔兹曼机（RBN）
b.深度网络(DBN)
c.卷积网络
d.堆栈式自动编码器
12.降维算法
a.主成分分析(PCA)
b.偏最小二乘回归(PLS)
c.高维标度化（MDS)
d.探索性因子分析(EFA)
13.集成算法
a.装袋法
b.随机森林
c.梯度助推