章节1.数学内容概述
00.人工智能学习数学的必要性.微积分知识点
01.线性代数.概率论知识点
02.最优化知识.数学内容学习重点
章节2.一元函数微分学
01.导数的定义.左导数和右导数
02.导数的几何意义和物理意义
03.常见函数的求导公式
04.导数求解的四则运算法则
05.复合函数求导法则
06.推导激活函数的导函数
07.高阶导数.导数判断单调性.导数与极值
08.导数判断凹凸性.导数用于泰勒展开
章节3.线性代数基础
09.向量的意义.n维欧式空间空间
10.行向量列向量.转置.数乘.加减乘除
11.向量的内积.向量运算法则
12.学习向量计算的用途举例
13.向量的范数.范数与正则项的关系
14.特殊的向量
15.矩阵.方阵.对称阵.单位阵.对角阵
16.矩阵的运算.加减法.转置
17.矩阵相乘
18.矩阵的逆矩阵
19.矩阵的行列式
章节4.多元函数微分学
20.多元函数求偏导
21.高阶偏导数.梯度
22.雅可比矩阵.在神经网络中应用
23.Hessian矩阵
章节5.线性代数高级
24.二次型
25.补充关于正定负定的理解
26.特征值和特征向量(1)
27.特征值和特征向量(2)
28.特征值分解
29.多元函数的泰勒展开.矩阵和向量的求导
30.奇异值分解定义
31.求解奇异值分解中的UΣV矩阵
32.奇异值分解性质.数据压缩
33.SVD用于PCA降维
34.SVD用于协同过滤.求逆矩阵
章节6.概率论
35.概率论.随机事件与随机事件概率
36.条件概率.贝叶斯公式
37.随机变量
38.数学期望和方差
39.常用随机变量服从的分布
40.随机向量.独立性.协方差.随机向量的正太分布
41.最大似然估计思想
章节7.最优化
42.最优化的基本概念
43.迭代求解的原因
44.梯度下降法思路
45.梯度下降法的推导
46.牛顿法公式推导以及优缺点
47.坐标下降法.数值优化面临的问题
48.凸集
49.凸函数
50.凸优化的性质.一般表达形式
51.拉格朗日函数