趁着最后一个暑假,总结并收集一些关于学习机器学习前需要储备理论知识,持续更新
一、范数的作用不多说,可以用来做回归,做损失函数等,下面传送门是关于范数的理解
几种范数的简单介绍
二、关于拉格朗日乘子法、KKT条件、拉格朗日对偶性,是推导公式“支持向量机”必须用到的前提知识
拉格朗日乘子法、KKT条件、拉格朗日对偶性
三、关于batch normalization,大家都知道,bn层是将特征值归一化到某一范围、方差也归一,但是这样不就改变了原有的特征分布了么?且卷积里面是怎么归一化的呢?有篇神贴,介绍的很好