开学已经两个月了,看了很多的论文,也写了一定的代码了,但是有时候会感觉很自己有很多基础的部分不是很扎实,所以准备系统地整理一下这些知识,并且记录下来,毕竟teaching is the best way to study。这一部分的笔记之后会包括高等数学,线性代数,概率论,机器学习,深度学习的相关知识以及其应用。
第一篇讲的是导数,梯度和方向导数。
导数
单变量导数的一阶导
对于单变量来说,其导数的计算方法如下:
导数代表的意义是函数在x处的变化率,当导数为0时x可能为函数的鞍点或者极值点。
![26a0caea89d04e3b9990ef15db27496b.png](https://img-blog.csdnimg.cn/img_convert/26a0caea89d04e3b9990ef15db27496b.png)
单变量函数的二阶导数
二阶导数代表的意义是函数在x点处导数的变化率。
二阶导数的计算方式如下:
二阶导数为0,说明该点的导数变化率为0。
偏导数
当一个函数有多个变量,而你只想计算函数与某个变量的变化关系时,就需要计算偏导数。
偏导数的计算方式如下: