Machine Learning-数学基础1

最近也报名了小象学院一个关于机器学习machine learning的入门课程，可以说是相对系统地去学习这个新的领域，基于总结与分享的原则，我也会对课程的主要内容进行归纳并分享给大家学习，为了防止侵犯小象学院的知识产权的权利，所以也不会对太多原始的资料进行共享，但部分内容应该会截图，如果侵权的话就删除呗嘻嘻。

首次课是机器学习的数学基础（mathematical foundation of machine learning）

一、函数部分

1、课本上常见的理论函数

在数学中，函数其实就是一些输入参数与输出结果直接的关系表达式。

我们学过的函数主要在：一元函数，多元函数，二次函数，指数函数，对数函数，sin函数等等等。这些函数都相对比较理解，关系非常清晰。

2、现实生活中的函数

在现实中，很难用一个数学函数来表达一些数据之间的对应关系，如下：

图注：太阳黑子数量与年份之间的关系

我们的难点就是如何用一些函数来近似表达出现实生活中的规律并且预测未来，这是我们所要追求的主要目的。

3、一些激活函数介绍

下面2个常用的激活函数，具体怎么用我还不知道哈哈哈。

二、线性代数部分

线性代数应该大多数人在大学都学过了，小弟不才学略懂一二，前几天也抽空复习了一下，大部分内容都可以记起并且理解，建议大家可以拿出自己的大学课本来学习学习。

1、向量 vector

向量有方向，可以相加相减，也可以乘以一些数值，下面是一些图示：

2、向量空间 vector space

具体的内容这里也不解释了，反正就是这块知识需要去复习复习咯，重点关注一下。

3、向量的模 norm of vectors

即向量AB的长度，为向量AB的大小，记作|AB|，有一些公式：

下面有一些不同层次的向量模，至于等式如何推导就不演示啦。

1）L-1 Norms

2）L-2 Norms

3）L-p Norms

4）L-∞ Norms

4、矩阵 matrix

在数学中，矩阵（Matrix）是一个按照长方阵列排列的复数或实数集合。基本运算具体涉及的有矩阵加减、数乘、转置等，还涉及一些矩阵乘法、行列式、特征值、特征向量等等，具体更多内容还是自己翻书比较好一点哦。

5、张量 tensor

关于tensor的定义，之前接触地也是比较少，老师在课上也推荐了一篇文章，大家可以看看。https://www.wukong.com/question/6531498435785261325/

6、行列式 determinant

行列式在数学中，是一个函数，其定义域为det的矩阵A，取值为一个标量，写作det(A)或 | A | 。无论是在线性代数、多项式理论，还是在微积分学中（比如说换元积分法中），行列式作为基本的数学工具，都有着重要的应用。

7、特征值与特征向量 eigenvectors-and-eigenvalues

这个也是很常用的，下面有一些资料。

如何理解矩阵特征值？：https://www.zhihu.com/question/21874816

演示demo：http://setosa.io/ev/eigenvectors-and-eigenvalues/

8、奇异值分解 singular value decomposition

作为一个数学技巧，就是对矩阵进行分解，分成3个矩阵，然后有一个矩阵是对角矩阵。

9、 Jacobian and Hessian Matrices

这里是两个矩阵，Jacobian矩阵和Hessian矩阵，具体看下面的文章。

http://jacoxu.com/jacobian%E7%9F%A9%E9%98%B5%E5%92%8Chessian%E7%9F%A9%E9%98%B5/

10、凸函数与凹函数  convex and concave

函数的凹凸性是描述函数图像弯曲方向的一个重要性质，其应用也是多方面的。（下面右图为凸函数）

常见的凸函数：对数函数

常见的凹函数：指数函数

好了，今天的课程内容总结就告一段落，其实需要消化的内容还是蛮多的。

备注：内容来自于小象学院的《机器学习全新升级版》的课程内容，主讲人为秦曾昌老师。

—End—