关于机器学习的一点小分享

时间还过的挺快，现在看来，除了GAN没真的用 来干过啥事也没了解的特别深。其它的，或多或少的，要么用过，要么了解的还行，稍微入了入门。
计算学习理论很核心，PAC学习，VC维那些的。线性回归就比较简单，核心就最小二乘，但得注意注意正则化项。贝叶斯分类器的核心原理就一个条件概率，概率论的基础部分就有，只不过实际应用了起来，但是这个分类器的图模型版本：贝叶斯网络就比较有意思。逻辑回归是用来分类的，信息熵的概念很重要，在信息论里面讲的很明白。降维很重要，其实特征选取也在干降维的事，时不时就能遇到维数爆炸的数据集，不处理一下不太行，经典的有PCA算法那些的。（注意，是PCA【主成分分析】，不是PAC，PAC是计算学习理论部分的，虽然我经常说混。）聚类的话，对均值漂移聚类印象特别深，因为经常用（其实K均值也经常用，但那个超参数不大好选），虽然无监督的聚类效果一般不是特别的好。决策树我觉得是一种比较容易理解的模型，有点像去超市挑选物品，比如买瓶饮料 ，先看看是不是饮料，总不能买桶油吧，在琢磨琢磨价钱合不合理，看看重量合不合适，按照标准一步一步来嘛，只不过决策树是抛给模型去找这些标准。决策树的集成学习版本很有意思，随机森林，让一堆不大聪明的决策树帮忙挑东西，总能挑出点合理的。不得不说，规则学习的可解释性真的很强，能用人的思维去解释模型学出来的东西，大部分情况下，机器学出来的参数，只有机器能明白。SVM，这个算法极其巧妙，里面的目标函数，真的，构建的极其巧妙，还有，在SVM里面那个见识到那个神一般的核函数戏法，很神奇。神经网络的话，就比较通用了，虽然神经网络发展曲折，现在看来，在大数据领域，已经占据统治地位，而和它形如孪生兄弟的智能优化，就遗传算法免疫算法那些的，还在吃灰，一开始的时候，神经网络还是很仿生的，BP仿人的大脑，CNN仿视觉皮层，而RNN，GNN那些，虽然还是神经网络，和仿生的关系就没那么大了。
神经网络类型特别多，各式各样，其中，CNN和RNN统治着现在的深度学习，分别对应这计算机视觉和NLP问题，也经常交叉着用。强化学习的话，马尔可夫链太重要了，好多东西都是在这个基础上来的，碰强化学习前，先把马氏链弄熟了，然后就会遇到Q学习，Q学习的深度强化版本，DQN就比较有意思，经验回放和Q值固定，居然还收敛，用DQN或者它的变种DRQN，DRAQN，就能整个坦克大战，贪吃蛇，街机游戏的AI了，或者，给CSGO训练个自动压弹道锁头的AI理论上也不是很难，这些都是基于价值来做的，基于策略的另一大块的算法也很有意思，主要价值得人工构造，大了小了都不太好，还有就是，基于策略收敛的比较快，PG，A3C，TD3，DPPO那些的（DPPO 不是OPPO）。生成对抗网络（GAN）这里面有个很重要的纳什平衡，这个网络主要就是生成器和判别器的左右互搏，生成器生成一个假的，判别器判别是不是假的，最后，生成器生成的越来越真实，判别器鉴别真伪的能力也越来越强。

这是我自己搭的一个比较有意思的残差BP网络，很简单，没做卷积，也没做循环，就简单的用前面一段数据预测后面一个数据，但是效果好像还不错，下面是这个网络的预测效果。

最后说说，霍伊特的弓是真的帅，虽然现在没得闲钱去买，太贵了，但是，有弓玩还搞什么机器学习啊，一箭十环，就比令人头秃的，自己训练出来的，人工智障让人感到快乐。
_________ 一个搞了两年多编程和一年半机器学习的应用数学系的学生。（暂时没秃头）

最后分享一个网图，我觉得总结的挺好的。