机器学习系列四：数学基础

站在巨人的肩膀上！

本部分每个知识点分享比较好的博客，若侵权就删了。

一、微积分

1.导数

2.偏导数与梯度

3.泰勒公式

https://blog.csdn.net/IOThouzhuo/article/details/50512966

https://blog.csdn.net/fengser/article/details/50600712

二、线性代数

https://blog.csdn.net/mathmetics/article/category/1401288

1.向量与矩阵

2.行列式

https://blog.csdn.net/chenmingteng/article/details/79511428

3.雅可比矩阵和Hessian矩阵

https://blog.csdn.net/qq_22424571/article/details/81952037

4.特征值与特征向量

https://blog.csdn.net/dfdfdsfdfdfdf/article/details/53166769

5.奇异值分解

https://blog.csdn.net/zhongkejingwang/article/details/43053

6.二次型

https://blog.csdn.net/Vi_NSN/article/details/78251367

7.向量与矩阵导数

https://blog.csdn.net/ebzxw/article/details/82961316

三、概率论

1.概率公式

(1)条件概率

(2)全概率公式

(3)贝叶斯公式

https://blog.csdn.net/qq_23869697/article/details/7968793

2.概率分布

https://blog.csdn.net/pipisorry/article/details/39076957

3.数学期望与方差

https://blog.csdn.net/lanchunhui/article/details/51004782

https://blog.csdn.net/qq_23869697/article/details/80610361

4.最大似然估计

https://blog.csdn.net/tkkzc3E6s4Ou4/article/details/79016194

四、最优化方法

https://blog.csdn.net/u014688145/article/details/53688585

1.梯度下降

https://blog.csdn.net/wangliang0633/article/details/79082901

https://blog.csdn.net/sinat_25059791/article/details/78336916

https://blog.csdn.net/u010089444/article/details/76725843

2.牛顿法

https://blog.csdn.net/qq_22054285/article/details/79045309

https://blog.csdn.net/zhangweiguo_717/article/details/52724695

3.拟牛顿法

https://blog.csdn.net/lansatiankongxxc/article/details/45873597#lbfgs

4.坐标下降法

https://blog.csdn.net/u013802188/article/details/40476989

5.拉格朗日乘除法

https://blog.csdn.net/pipisorry/article/details/52135854

6.凸优化

https://blog.csdn.net/qq_41393570/article/details/80393176

7.拉格朗日对偶

https://blog.csdn.net/asd136912/article/details/79149881

8.KKT条件

https://blog.csdn.net/chensheng312/article/details/73166909

 

毒鸡汤：巨人的肩膀到底有多高？ 

我们都很容易批评或者贬低取得了很高成就的人。批评或者贬低他们，还会让我们充满了成就感，好像自己也站在了跟他们一样的高度上，从而沾沾自喜。比如说我们特别喜欢讥笑钱学森支持气功，特别喜欢嘲讽牛顿跑去研究神学，特别热衷于提到季羡林年轻时候笔记里写过“想多日几个女人”。

动嘴去批评一个人的难度，和真的跟他平起平坐的难度，远远不是一个数量级的，你觉得他不高，仅仅是因为他的高度远远超过了你的理解范围而已。

其实只有我们在向他们那个高度攀登的时候，才感受到孤独寂寞，感受到寒冷艰辛，感受到危险高峻，感受到如履薄冰，感受到一个不慎就满盘皆输的沉重压力，感受到无人理解的委屈和愤懑。我们看到了高山的高，看到了自己以前的卑微与狂妄，看到了更大的世界，看到了更多的角度。我们才意识到别人到底有多高。

不要因为自己的一点小山丘而沾沾自喜，别人背后早已堆砌了一座你望不见顶的峰！