![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
ML中的数学
这个分类主要转载或者总结一下觉得比较有用的知识点。
CS_myc
我一直认为要想很好地掌握一项知识,最好的方法就是能用自己的语言为别人讲明白。所以写博客对于我来说,除了起到一个记录的作用外,更多的也是督促自己去更深刻,牢固地理解知识。
但是自己能力有限,可能大部分的时候只能转载别人的文章,拾人牙慧。但是即使是转载,我尽量不会原封不动地搬运,而是希望能够以自己的语言再组织一遍,并加上一些自己的见解。如果在这个过程中能多多少少地帮助到他人,那就更好了。
展开
-
牛顿法和拟牛顿法的简单介绍以及python实现
这篇文章对牛顿法的讨论比较浅,主要就是说一下用途,定义,然后自己手撸个简单的代码实现一下看看效果。若有错误,欢迎指正。牛顿法的用途牛顿法最初是被设计出来,通过迭代不断地逼近目标函数的零点的,也就是用来求解函数零点的一种方法。但是,我们都知道当函数存在极值点时,函数的极值点处的导数为0。所以,我们可以转变一下思路,将函数的微分函数设为我们的目标函数,然后用牛顿法去逼近它的零点,这样我们就可以用牛...原创 2020-05-07 23:22:46 · 1692 阅读 · 1 评论 -
泰勒级数与麦克劳伦级数
本文仅仅是自己的一些个人见解,如果有什么错误或者不严谨的地方,欢迎大家温柔地指正 : )泰勒级数的意义在开始讨论泰勒级数与麦克劳伦级数之前,我想先思考一下,为什么泰勒级数展开如此重要。其实从上初中的时候开始我就有一个疑问,像类似于对变量进行加减乘除平方这样的操作组成的代数式我们都可以通过自己的手算甚至是心算就可以得出结论,即使这个式子有时候看起来十分的复杂。但是一旦涉及到了求正弦函数,对数函...原创 2020-05-07 18:35:58 · 1765 阅读 · 0 评论 -
偏导数,雅可比矩阵(jacobi matrix),黑塞矩阵(Hessian matrix)
这里我们大致地复习一下偏导数,雅克比矩阵以及黑塞矩阵的定义和关系。导数向量与雅克比矩阵(Jacobi matrix)函数的某个因变量对某个自变量求的导数即为它们关于函数的偏导数。当因变量为一元的情况下,各个自变量的偏导数组成了导数向量.当函数因变量为多元的情况下,函数的导数可由jacobi matrix来描述。E.g., 现有一函数可将m维的自变量映射到n维的因变量上,也就是说该函数由n个子函...原创 2020-05-06 16:09:59 · 5652 阅读 · 1 评论 -
导数,方向导数与梯度的关系
最近做的东西需要用到牛顿法和拟牛顿法,前两天自己在思考导数和梯度之间的关系的的时候,发现竟然不能清晰地表述出来。所以趁此机会再次复习一下。时间有限,这个也不是重点,所以主要对知乎上的一个相同问题中大家的解答,做一个总结,写的不够详细,希望不会误导读者,感兴趣的请移步原回答。Ref:如何直观形象的理解方向导数与梯度以及它们之间的关系?导数导数的概念和运用可以说是贯穿了我们自初中以来的所有数学...转载 2020-05-06 11:42:42 · 3498 阅读 · 0 评论