机器学习强基计划0-1：教程导读(附几十种经典模型源码合集)

1 教程介绍

机器学习的各大模型在工程领域具有非常广泛的应用，也非常便于与其他算法集成使用，在实践和学术上都具有非常宝贵的研究价值。举例而言：

• 强化学习结合蚁群算法增强路径规划寻优性；
• 决策树与整数规划算法结合增强任务调度可解释性；
• 聚类与降维应用于数据清洗，提高数据质量；
• …

在机器学习这门课程的学习过程中，不难体会到这是一门“推公式”、“讲理解”的学科，但是不论是教材还是很多文章都不重视对公式的讲解，这对初学者而言很难站稳理论根基，导致理解知识点时云里雾里，最终从入门到退坑。

因此，本教程聚焦深度和广度，加深对机器学习模型的理解与应用。“深”在详细推导算法模型背后的数学原理；“广”在分析多个机器学习模型：决策树、支持向量机、贝叶斯与马尔科夫决策、强化学习等。写这套教程的目的在于：

• 重新回顾所学，整理归纳知识点，便于复习
• 对经典模型进行编程，构建代码库，方便二次开发
• 构建规范化的新手入门体系

2 教程大纲

🚀 第零篇——初识机器学习

• 机器学习强基计划0-1：教程导读
• 机器学习强基计划0-2：什么是机器学习？和AI有什么关系？
• 机器学习强基计划0-3：数据集核心知识串讲，构造方法解析
• 机器学习强基计划0-4：通俗理解奥卡姆剃刀与没有免费午餐定理
• 机器学习强基计划0-5：为什么学习的本质是泛化能力？
• 机器学习强基计划0-6：盘点最常见的7种数据预处理方法和原理

🚀 第一篇——线性模型

• 机器学习强基计划1-1：图文详解感知机算法原理+Python实现
• 机器学习强基计划1-2：图文详解线性回归与局部加权线性回归+房价预测实例
• 机器学习强基计划1-3：图文详解Logistic回归原理(两种优化)+Python实现
• 机器学习强基计划1-4：从协方差角度详解线性判别分析原理+Python实现
• 机器学习强基计划1-5：核化线性判别分析+Python实现
• 机器学习强基计划1-6：线性多分类问题

🚀 第二篇——决策树

• 机器学习强基计划2-1：一文总结熵——相对熵、交叉熵、互信息(附例题分析)
• 机器学习强基计划2-2：一文详解ID3、C4.5、CART决策树算法+Python实现
• 机器学习强基计划2-3：图文详解决策树预剪枝、后剪枝原理+Python实现
• 机器学习强基计划2-4：决策树连续属性、缺失属性的处理+Python实现
• 机器学习强基计划2-5：决策树回归

🚀 第三篇——支持向量机

• 机器学习强基计划3-1：图文详解超平面、几何间隔、函数间隔
• 机器学习强基计划3-2：详细推导支持向量机SVM原理+Python实现
• 机器学习强基计划3-3：详细推导序列最小优化SMO算法+Python实现
• 机器学习强基计划3-4：详解核方法——以核支持向量机KSVM为例
• 机器学习强基计划3-5：支持向量回归

🚀 第四篇——贝叶斯分类

• 机器学习强基计划4-1：你真的分得清频率、概率、几率和似然吗？
• 机器学习强基计划4-2：通俗理解极大似然估计和极大后验估计+实例分析
  
• 机器学习强基计划4-3：详解朴素贝叶斯分类原理 | 例题分析 | Python实现
• 机器学习强基计划4-4：半朴素贝叶斯分类AODE算法原理+Python实现
• 机器学习强基计划4-5：半朴素贝叶斯分类TAN算法原理+Python实现

🚀 第五篇——概率图模型

• 机器学习强基计划5-1：概率图开篇，图论知识总结(附思维导图)
• 机器学习强基计划5-2：用一个例子通俗理解贝叶斯网络(附例题)
• 机器学习强基计划5-3：图文详解因子分解与独立图I-Map(附例题分析+Python实验)
• 机器学习强基计划5-4：图文详解影响流动性与有向分离(D-分离)(附Python实现)
• 机器学习强基计划5-5：用一个例子通俗理解变量消除法VE原理(附Python实验)

🚀 第六篇——马尔科夫决策

• 机器学习强基计划6-1：图文详细总结马尔科夫链及其性质(附例题分析)
• 机器学习强基计划6-2：详细推导马尔科夫随机场(MRF)及其应用(附例题)
• 机器学习强基计划6-3：有向图与无向图的转化——道德图(附Python实现)
• 机器学习强基计划6-4：详细推导期望最大化EM算法及收敛性分析(附实例)
• 机器学习强基计划6-5：通俗理解条件随机场

🚀 第七篇——聚类

• 机器学习强基计划7-1：无监督学习常用性能指标与距离度量总结
• 机器学习强基计划7-2：图文详解K-均值聚类(K-means)算法(附Python实现)
• 机器学习强基计划7-3：详细推导学习向量量化LVQ算法(附Python实现)
• 机器学习强基计划7-4：详细推导高斯混合聚类(GMM)原理(附Python实现)
• 机器学习强基计划7-5：图文详解密度聚类DBSCAN算法(附Python实现)
• 机器学习强基计划7-6：图文详解层次聚类AGNES算法(附Python实现)

🚀 第八篇——降维

• 机器学习强基计划8-1：图解主成分分析PCA算法(附Python实现)
• 机器学习强基计划8-2：详细推导多维缩放MDS算法(附Python实现)
• 机器学习强基计划8-3：图文详解核化主成分分析KPCA算法(附Python实现)
• 机器学习强基计划8-4：图文详解等度量映射Isomap算法(附Python实现)
• 机器学习强基计划8-5：图文详解局部线性嵌入LLE算法(附Python实现)

🚀 第九篇——稀疏学习

• 机器学习强基计划9-1：图解匹配追踪(MP)与正交匹配追踪(OMP)算法
• 机器学习强基计划9-2：图解字典学习KSVD算法(附Python实战)

🚀 第十篇——集成学习

• 机器学习强基计划10-1：为什么需要集成学习？核心原理是什么？
• 机器学习强基计划10-2：推导串行集成AdaBoost算法(附Python实现)
• 机器学习强基计划10-3：详解Bagging与随机森林算法(附Python实现)

🚀 实战篇

• 机器学习实战1：8种人工智能算法求解八皇后问题
• 机器学习实战2：三个人也能联机下五子棋？怎么赢
• 机器学习实战3：基于朴素贝叶斯实现单词拼写修正器(附Python代码)
• 机器学习实战4：基于马尔科夫随机场的图像分割(附Python代码)
• 机器学习实战5：基于OpenCV的多图像拼接、配准与美化

…

上面的内容已经成稿，可以放心订阅。

3 强基计划

目前博主正在组建机器学习技术交流群，群中成员是有明确共同目标，共同愿景的，这样才能共同成长，所以只要你想学好机器学习就请加入我们(下方名片)，让我们一起从理论到实践攻克机器学习，为从事相关工作或科研打下基础！

当然群里也配套长期更新的网盘资源福利等你领取！

4 经典算法合集

强基计划实现从理论到实践的全面覆盖，由本人亲自从底层编写、测试与文章配套的各个经典算法，不依赖于现有库，可以大大加深对算法的理解，目前已经编写好的模型代码如下。

对应章节	算法	效果
1	感知机Perceptron
1	标准线性回归LR
1	局部加权线性回归WLR
1	Logistic回归
1	线性判别分析LDA
2	决策树ID3
2	决策树C4.5
2	决策树CART
3	支持向量机SMO
4	朴素贝叶斯分类NaiveBayes	无可视化
4	半朴素贝叶斯分类AODE	无可视化
4	半朴素贝叶斯分类TAN
5	概率图PGM
5	有向分离D-Seperation
7	K均值聚类K-means
7	学习向量量化LVQ
7	高斯混合聚类GMM
7	DBSCAN
7	AGNES
8	多维缩放MDS
8	主成分分析PCA
8	核主成分分析KPCA
8	等度量映射ISOMAP
8	局部线性嵌入LLE
10	串行集成学习AdaBoost
…	持续更新中…	持续更新中…

5 注意事项

• 上面给出的是教程的大致大纲，后面可能会有顺序和内容的调整，但可以保证内容量只增不减
• 原价299，前50订阅一律19.9，后续每50订阅价格上调20元
• 更新频率为一周1~2更

Reference

• 《机器学习》周志华
• 《Deep Learning》
• 《统计学习方法》李航
• …