机器学习算法:从原理到实践(持续更新中...)

@author : duanxxnj@163.com
@first update time : 2016-07-11
@last update time : 2016-08-01

根据scikit-learn的目录,从原理到代码实现,对机器学习算法做说明。

参考书目:
《pattern recognition 4th》
《pattern Classification 2th》
《Pattern Recognition and Machine Learning》
《The Elements of Statistical Learning II》
《统计学习方法》

下面的目录,是完全按照scikit-learn的目录写的,本文章可以说是scikit-learn的一个说明书。中间会有一些章节缺失,大部分章节缺失的原因是因为它们讲的基本上是一个东西,被我合并为了一个章节来说明。

下面的文章中有我个人对相关算法的原理理解、算法适用范围说明,以及详细注释的scikit-learn上的示例代码。

本文章会持续更新。。。

1 监督学习

1.1 广义线性模型

1.1.1 线性回归

1.1.2 脊回归(Ridge Regression)

1.1.3 Lasso Regression

1.1.9 贝叶斯线性回归(Bayesian Linear Regression)

1.1.10 逻辑斯蒂回归(Logistic Regression)

1.1.12 感知机(Perceptron)

1.1.14 稳健回归(Robustness regression)

1.1.15 多项式曲线拟合(Polynomial Curve Fitting)

1.2 线性判别分析

1.2.1 线性判别分析(Linear Discriminant Analysis)

1.4 支持向量机

支持向量机

1.4.1支持向量机 一

1.4.1支持向量机 二

1.4.1支持向量机 三

机器学习算法详解▪ 一、线性回归 ◦ 1、代价函数 ◦ 2、梯度下降算法 ◦ 3、均值归一化 ◦ 4、最终运行结果 ◦ 5、使用scikit-learn库的线性模型实现 ▪ 二、逻辑回归 ◦ 1、代价函数 ◦ 2、梯度 ◦ 3、正则化 ◦ 4、S型函数(即) ◦ 5、映射为多项式 ◦ 6、使用的优化方法 ◦ 7、运行结果 ◦ 8、使用scikit-learn库的逻辑回归模型实现 ▪ 逻辑回归_手写数字识别_OneVsAll ◦ 1、随机显示100个数字 ◦ 2、OneVsAll ◦ 3、手写数字识别 ◦ 4、预测 ◦ 5、运行结果 ◦ 6、使用scikit-learn库的逻辑回归模型实现 ▪ 三、BP神经网络 ◦ 1、神经网络model ◦ 2、代价函数 ◦ 3、正则化 ◦ 4、反向传播BP ◦ 5、BP可以求梯度的原因 ◦ 6、梯度检查 ◦ 7、权重的随机初始化 ◦ 8、预测 ◦ 9、输出结果 ▪ 四、SVM支持向量机 ◦ 1、代价函数 ◦ 2、Large Margin ◦ 3、SVM Kernel(核函数) ◦ 4、使用的模型代码 ◦ 5、运行结果 ▪ 五、K-Means聚类算法 ◦ 1、聚类过程 ◦ 2、目标函数 ◦ 3、聚类心的选择 ◦ 4、聚类个数K的选择 ◦ 5、应用——图片压缩 ◦ 6、使用scikit-learn库的线性模型实现聚类 ◦ 7、运行结果 ▪ 六、PCA主成分分析(降维) ◦ 1、用处 ◦ 2、2D-->1D,nD-->kD ◦ 3、主成分分析PCA与线性回归的区别 ◦ 4、PCA降维过程 ◦ 5、数据恢复 ◦ 6、主成分个数的选择(即要降的维度) ◦ 7、使用建议 ◦ 8、运行结果 ◦ 9、使用scikit-learn库的PCA实现降维 ▪ 七、异常检测 Anomaly Detection ◦ 1、高斯分布(正态分布) ◦ 2、异常检测算法 ◦ 3、评价的好坏,以及的选取 ◦ 4、选择使用什么样的feature(单元高斯分布) ◦ 5、多元高斯分布 ◦ 6、单元和多元高斯分布特点 ◦ 7、程序运行结果
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值